I think I was part of a model distillation attack
2 days ago
- #API Security
- #Data Breach
- #AI Agents
- 作者收到了来自OpenAI的电子邮件，指出其API使用存在不一致以及违反了'禁止生物用途'政策。
- 经过调查，他们发现了114次与GPT-5.5的未经授权交互，使用了一个在2023年被盗用的遗留API密钥，可能来自bettergpt.chat。
- 攻击者利用该密钥执行了包括视频问答基准测试、编码代理以及输出胰岛素分子链等多种任务，从而触发了政策违规。
- 这次攻击涉及一个名为'ga-synthesis'的代码仓库，其中的代理程序运行在PyMOL等环境中，并通过虚拟桌面与GUI应用进行交互。
- 系统提示信息表明使用了Anthropic的Claude Agent SDK，路径信息暗示可能是一个位于阿里云上的中国实验室。
- 整个攻击持续约10分钟，消耗了400万个令牌，花费23美元，最终作者在午夜时注意到异常并禁用了该密钥，从而阻止了攻击。