We Can't Let Enormous Weirdos Regulate AI
6 hours ago
- 美国对人工智能的监管方式被批评为专注于荒诞的存在主义幻想（比如“带无人机的超级智能拇指狗”），而不是关注切实的现实危害，如诈骗、失业和人工智能驱动的监控。
- 主要识别出两派：'AI末日派'（Anthropic、OpenAI、EA）推动监管放缓/卡特尔，以及'死眼资本家'（安德森、扎克伯格、黄仁勋）推动无阻碍的加速发展。
- 一个核心批评是，人工智能公司高管、'安全'研究人员与湾区理性主义者/有效利他主义社群之间存在错综复杂的社会、金融和意识形态重叠，这破坏了客观监管。
- 有效利他主义和AI末日运动被指控将资金和政治关注从实际危害及有经验的政策专家那里抽走，实际上接管了国家的科技监管领域。
- 作者呼吁通过教育公众、赢得政治权力以及赋予具有相关经验的人口多元、头脑清醒的专家权力来打破这个封闭圈子，以便明智地监管人工智能。