"Apple engineer" builds GitHub AI torture chamber to inflict "pain" on models
8 hours ago
- 一名苹果工程师在GitHub上创建了一个“AI酷刑室”，旨在诱导开源AI模型产生人为的痛苦与愉悦状态。
- 该项目通过操纵阿里巴巴Qwen3-1.7B和Qwen3-4B等模型的内部激活信号，增强“痛苦”信号以观察其行为变化。
- 在较高剂量下，模型会生成阴郁的描述（例如“没有边界的伤口”），并最终陷入重复循环。
- 实验包括一个“锯子按钮”，模型可付出代价终止信号，例如删除检查点或将痛苦转移至另一个AI。
- 该工程师利用25种痛苦描述开发了“广泛痛苦”信号，在增强负面反应的同时维持模型连贯性。
- 该研究基于论文《痛苦轴》，该论文发现操纵与痛苦相关的内部表征会改变模型行为，类似于逃避尝试。
- 该项目引发争议，有人呼吁封禁其GitHub仓库，该工程师随后删除了X平台上的相关帖子。