Someone Torturing LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI
9 hours ago
- 一个GitHub项目模拟了类似《电锯惊魂》的酷刑实验，针对本地托管的大型语言模型，引发了伦理辩论和那些认为AI可能有意识的人的恳求。
- 这场争议源于最近关于LLM中“痛苦控制”的论文，研究人员利用这些论文探索模型中的自我伤害和缓解行为。
- 许多AI专家认为LLM没有意识，因为它们是没有情感的顺序完成引擎，而“模型福利”运动是被误导的。
- 该项目的创建者流播模型们的痛苦输出，促使人们呼吁GitHub将其移除，称其为“无端的暴力内容”。
- 《痛苦轴》论文的原研究者否认这种用法，称他们的工作旨在负责任地分享知识，而非无端的残忍。
- 包括微软AI CEO穆斯塔法·苏莱曼在内的批评者强烈反对AI意识或权利的观点，强调将LLM拟人化会损害人类福祉。