Y’all are over-complicating these AI-risk arguments
11 hours ago
- 关于AI风险的简单论证将IQ300的AI的出现比作IQ300的外星物种，而大多数人会觉得这令人担忧。
- 复杂论证涉及多个步骤（快速起飞、对齐困难、收敛的子目标、决定性战略优势），而且往往过度自信或令人不满。
- 简单论证更可能是真的，更容易理解，并揭示了分歧的关键：人们是否真的相信具有IQ300和完全人类能力的AI可能出现。
- 复杂论证可以被视为一个‘中间版本’，声称如果事情出错，很可能就像那个情景一样出错，但它可能无法涵盖所有糟糕结果。
- 论证的表面效果很重要：调查显示许多人已经担心AI风险，所以简单论证可能并不比自信的复杂论证更有说服力。