You Cannot Defend What You Cannot Inspect
12 hours ago
- #interpretability
- #open-source
- #AI governance
- CIRCUIT 是一个开源的 AI 可解释性治理框架，其发布旨在弥补当前 AI 治理实践中的不足。
- 当前的 AI 治理侧重于风险分级、注册机制和输出监控等外部控制，将模型视为黑箱，未解释模型做出决策的原因。
- 该框架强调可解释性，以在事件发生时提供帮助，使得能够理解模型的决策过程，而非仅仅关注所有权或部署细节。
- CIRCUIT 包含基于可检查性的成熟度上限（例如，开源模型比 API 或供应商嵌入式模型有更高的上限）以及与《欧盟人工智能法案》和 NIST AI RMF 等法规的对应关系。
- 它采用一份包含 29 个问题的供应商问卷，以凸显透明度差距，旨在在安全社区内推动对可检查模型的协调需求。
- CIRCUIT 在 Apache 2.0 许可下发布，开放供集体采用和贡献，并呼吁从业者针对实际部署进行测试和完善。