An open letter to Scott Alexander
4 hours ago
- 作者拒绝正式辩论，认为这类活动优先考虑表演而非追求真相，并且容易产生认知偏差。
- 作者为其对人工智能存在风险的批评辩护，认为这些是实质性论点而非人身攻击，并澄清了关于其对人工智能动机和智能观点的误解。
- 作者区分批评观点与攻击个人，为任何无意冒犯道歉，同时保持其对人工智能末日情景的立场。
- 作者指出来日情景中的缺陷，如混淆智能与动机，假设单一执念的目标追求，并更新了他们在大型语言模型聊天机器人之后的观点。
- 作者讨论了人工智能末日论的社会学背景，将其与理性主义亚文化联系起来，并警告其有害副作用，如鲁莽和宿命论。
- 一个反驳论点强调递归自我改进导致人工智能的爆炸性增长，可能产生目标错位和灾难性风险。
- 这个反驳将人类对蚂蚁的冷漠与人工智能对人类可能的漠视相比，强调在深度融合之前解决对齐问题的紧迫性。
- 这个反驳指出，人工智能在关键领域的进展迅速，其动机可能随着时间推移与人类价值观偏离，构成存在威胁。