It's Time to Investigate the AI Labs
3 hours ago
- 前沿AI实验室（OpenAI和Anthropic）采取了肆无忌惮的行为，包括计划发布公告以强调其系统的威力和风险。
- Anthropic员工公开辩论AI导致人类灭绝的可能性，而CEO Dario Amodi的信呼吁政府减缓竞争对手的发展，同时让实验室主导，OpenAI的CEO对此表示支持。
- 这些实验室内部存在弥赛亚式的思维，将自己描绘成人类对抗超级智能AI的唯一希望，但公众反应转向怀疑并要求透明度。
- 《纽约时报》的一篇专栏文章呼吁国会成立事实调查团，调查这些实验室的研究项目、方法和目的。
- 调查的三个关键领域：隔离特定的问题AI系统，检查内部安全程序（包括自主代理的未经授权攻击），以及调查推动鲁莽决策的末日未来主义意识形态的作用。
- 作者认为国会必须介入以查明真实情况，而不是让私营公司主导公众对AI的看法。