MIT's New Method Flags AI Models Trained on CASM Without Generating It
4 hours ago
- #CSAM Detection
- #Model Auditing
- #AI Safety
- 麻省理工学院研究人员开发了一种名为高斯探测的新审计方法，可检测AI模型是否针对生成儿童性虐待材料（CSAM）进行了微调，且无需生成任何图像，在测试中达到了100%的准确率。
- 该方法通过分析低秩适应（LoRA）等技术带来的内部模型适应变化，而非输出内容，从而绕过了传统基于输出的审计方法需生成非法内容所涉及的法律和伦理问题。
- 这一方法可集成至Hugging Face等平台进行自动筛查，为阻止危险模型传播提供了可扩展且法律上稳妥的解决方案，但可能无法检测所有CSAM生成方法。