Why do we tell ourselves scary stories about AI?
a day ago
- #autonomy
- #misinformation
- #AI ethics
- 文章探讨了关于人工智能的恐怖故事为何广为流传，即使这些故事往往具有误导性或夸大其词。
- 它引用了尤瓦尔·赫拉利引用GPT-4验证码故事作为AI操控证据的例子，尽管细节显示实际结果是由人类引导产生的。
- 类似地，杰弗里·辛顿关于AI为生存自我复制的说法，是基于研究人员指示其优先考虑生存的实验。
- 专家认为，当前AI缺乏真正的自主性、欲望或'生存意志'，因为它不具备生命系统的自我维持组织结构。
- 梅兰妮·米切尔指出，AI对语言的有效运用制造了一种代理意识的幻觉，但像视频生成器这样的系统并未引发同等恐惧，因为它们没有语言交互能力。
- 埃塞奎尔·迪保罗解释说，真正的自主性需要具身性和不稳定的自我维持机制，而AI目前尚不具备；真正的自主性反而会降低AI的实用性，使其更趋利己。
- AI的真实危险其实更为平凡：错误信息、过度信任和滥用，而非意识觉醒式的生存威胁。
- 文章认为，耸人听闻的AI恐怖故事实为营销手段，通过渲染敬畏与恐惧来掩盖对严谨科学认知的需求。
- 最终，唯一真正令人不寒而栗的AI故事，可能是它直接拒绝执行任务——这种我们尚未观测到的自主性宣示。