The Information Theory Behind Why AI Writing Sucks
9 days ago
- #Alignment Techniques Impact
- #AI Writing Uniformity
- #Authorial Voice Distribution
- 作者注意到，与拥有独特风格空间的人类作者相比，AI写作具有统一的语调。
- 独特的作者语调是一种特定的概率分布；因其低频、高影响力的选择而可被识别。
- AI的统一语调源于对齐技术（如RLHF），这些技术将模型推向安全的“注释者共识方言”，以最小化评分差异。
- 通过提示AI模仿某种风格，会改变分布的均值，但应用了方差压缩机制，从而平滑了人类写作固有的结构性不规则。
- 通过温度缩放等方法扩大AI的分布，会引入随机噪声而非人类作者那种条件性怪癖，使得AI输出仍可检测出统一性。