Who Aligns the Aligners?
2 days ago
- Anthropic CEO 达里奥·阿莫迪的文章承认人工智能的潜在益处，包括治愈重大疾病和促进经济增长，同时强调了严重风险。
- 阿莫迪驳斥了极端主张，例如埃利泽·尤德科夫斯基呼吁全球技术共产主义以防止灭绝的说法，指出没有证据支持这种末日预言。
- 阿莫迪的提议没有呼吁采取如摧毁所有计算机等极端措施，而是侧重于人工智能发展的平衡方法。
- 第一个要素“嵌入式评估者”建议由像METR这样的第三方监督来验证安全实践，但文章对此提出批评，将其比作过去的审查产业综合体，如GARM。
- 文章警告说，“民主协调”存在反垄断风险，可能需要政府豁免，可能导致限制性内容监管，尤其是在非美国司法管辖区。
- 全球协调面临威权国家和现有审查制度的挑战，正如英国《在线安全法案》所体现的那样，该法案已被VPN规避，并因政治压力受到批评。
- 作者认为，人工智能监管可能会重蹈网络审查的覆辙，监管机构在政治压力下运作，Ofcom处理SaSu一案便说明了这一点。
- 文章总结道，人工智能监管应保护美国宪法权利，像Anthropic和OpenAI这样的公司应考虑支持事先限制所带来的影响。