An Open Letter to Steven Pinker on AI
3 hours ago
- 斯科特·亚历山大挑战史蒂芬·平克就人工智能展开公开辩论，尽管平克对对抗性形式持保留态度。
- 他反驳了平克反对超级智能的四个论点：1）智能是一个有效且可扩展的概念；2）人工智能可能通过趋同目标、错误泛化和奖励黑客行为发展出自我保护和支配驱动；3）多目标人工智能仍然构成存在性风险；4）人类将不可避免地授予人工智能物理基础设施的访问权限。
- 亚历山大列举了针对平克的11条不满，包括将人工智能风险社区描绘成宿命论者、指责他们相信全知人工智能、挑选专家、曲解研究、使用伪论证，以及从近期危害中转移注意力。
- 他辩护概率预测（p(doom)）的合法性，引用超级预测方法和专家的过往记录。
- 亚历山大批评平克认可低质量的声音（例如克莱尔·莱曼），他们不公平地攻击人工智能安全社区。
- 他敦促平克采纳“平克主义”——一种理性、基于证据的人工智能风险方法——并警告否认可能会抹黑技术乐观主义，类比气候变化否认。
- 亚历山大坚持与平克辩论，拒绝替代方案，并开玩笑说如果拒绝辩论则进行决斗。