Open Letter: Minimum Conditions for Embedding Evaluators
4 hours ago
- 这封信支持前沿人工智能公司嵌入第三方评估员，以独立评估人工智能风险，包括系统评估和事件响应。
- 评估员必须科学客观、透明且独立，并受到保护以防公司干预。
- 关键条件包括：独立于公司所有权/治理结构、报酬不取决于评估结果，以及拥有多名具备不同专业知识的评估员。
- 方法、结果、访问权限和条款需透明公开，限制保密协议，并对关键利益设定有时限的删除程序。
- 评估员需免受报复，包括法律和资金保障，并享有与高级内部员工同等的访问权限。
- 这些条件应标准化并制度化，AEF-1 作为早期范例，但仍有待完善。
- 嵌入式评估补充而非取代更广泛的监督，如公众透明度和独立研究人员访问权限。
- 这封信以个人身份列出了超过100位签署人，包括杰弗里·辛顿和斯图尔特·罗素等知名人士。