24 days ago
- 批评将镜子测试应用于大型语言模型的适应性修改存在缺陷，因为它们将视觉测试转译为文本形式。
- 提出更恰当的类比：对大型语言模型自身的文本输出进行细微修改，观察其是否能察觉异常。
- 描述了使用Gemma 4 31B-IT模型的实验：通过将文本中的'g'替换为'sg'来制造文本污染。
- Gemma在其思维轨迹中自发检测到这种污染，并出现从第一人称到第三人称的语言转换现象。
- 随后Gemma将这种污染融入自身风格，在后续输出中主动生成'sg'字符组合。
- 对GLM 5.2的测试显示，该模型会无意识地复现文本污染，但未明确察觉或提及这一现象。
- 强调此类行为引发了关于紧缩性模仿与结构性自我建模两种解释路径的学术争论。
- 承认该实验属于非正式探索，并指出未来需要开展更严谨的体系化研究。