Breaking: Demis Hassabis endorses preflight safety testing for AI
12 hours ago
- Demis Hassabis 支持人工智能模型的飞行前安全测试，这一概念此前由作者在2023年参议院证词和2024年著作《驯服硅谷》中提出。
- 白宫最近在一定程度上实施了飞行前测试，但缺乏透明度、独立性、广泛性和强制性。
- Hassabis 提议前沿实验室在发布前最多30天自愿将模型提交给标准机构审查，未来可能实施强制性要求。
- 作者强调决策中需要独立的技术专家以避免利益冲突，特别是在政府持有AI公司股份的情况下。
- 一个挑战是透明度：形式化的测试可能导致作弊（如大众柴油门丑闻），需要不透明且自适应的协议，但这又可能带来不问责的风险。