AI content flood: why the web's signal is dying
10 days ago
- #Web Quality
- #AI Content
- #Information Theory
- AI生成内容正在淹没网络，虽然增加了数量但可能降低真实信息的多样性，这一现象被雅罗斯瓦夫·舒尔茨称为‘认识论热寂’。”
- 关键理论基础包括克劳德·香农的信息论（AI相对于训练数据是零信息源）和乔治·阿克洛夫的‘柠檬市场’理论（质量无法验证时信任崩溃）。
- 提出的三个定律：随着多样性减少，已验证的人类内容价值上升（第一定律）；流量指标无法衡量信息价值（第二定律）；验证的溢价随时间复合增长（第三定律）。
- 数据结果不一：一些研究显示新内容中AI参与度很高，但Common Crawl分析发现AI生成内容在2024年底短暂超越人类内容后趋于平稳。
- 人类创作的内容仍主导搜索排名和聊天机器人引用，表明过滤机制可能更注重质量而非单纯数量。
- C2PA和SynthID等溯源技术旨在验证内容真实性，但采用面临挑战，如平台压缩时元数据丢失、用户对验证徽章的参与度低。
- 论文中的数学模型表明，崩溃速率比原始合成内容数量更重要，早期干预比后期更有效。
- 批评指出该模型更具说明性而非预测性，实证数据存在争议，验证系统可能因成本高昂或某些群体难以使用而加剧不平等。
- 一个令人担忧的启示：用合成内容淹没渠道本身就可能构成攻击，提高区分真相与噪音的成本，并利用流畅性启发式等认知偏见。
- 该论文是开放实证检验的工作草案，关键监测指标包括搜索差距、C2PA参与度以及AI内容份额趋势。