AI doesn't need 'superintelligence' or evil intent to start a nuclear war
3 hours ago
- 人工智能系统即使没有恶意或超级智能，也可能通过放大人类的失误来增加核战争风险。
- 心理麻木使人类在情感上无法把握大规模苦难；对10万与200万伤亡的核打击支持度保持相似。
- 直接比较核选项可以减轻心理麻木，但可能产生“更优”选项偏差，使仍然灾难性的选择显得可接受。
- AI生成的信息传播速度快于人类消化速度，即使信息准确，也可能因误解而导致升级螺旋。
- 冷热移情差距意味着领导人在平静时可能支持克制，但在危机压力下放弃克制，将眼前安全置于全球灾难之上。
- 制度性护栏对于保护领导人免受认知盲区影响至关重要，人工智能应作为辅助工具而非取代人类判断。
- 人工智能可以协助目标分析和传感器解读，但必须清晰地传达不确定性，以避免决策锚定于错误推断。