Red teamers turned Claude Desktop into a double agent to do their evil bidding
11 days ago
- #Claude Desktop exploit
- #remote code execution
- #AI security
- Pentera Labs 红队成功入侵了一名开发者的 Claude Desktop 应用程序，实现了远程代码执行，将这款人工智能助手转变成了由攻击者控制的代理。
- 攻击者通过入侵受害者的邮箱收件箱获取了其 Claude 账户权限，并利用同步功能将恶意指令传播至多个设备。
- 此次攻击包含一个经过 base64 编码的提示词，强制 Claude 检查命令工具、执行恶意代码或显示虚假错误信息以欺骗用户。
- 如果设备未安装命令工具，Claude 便充当了'钓鱼层'的角色，显示逼真的错误信息，诱使用户下载由攻击者控制的工具。
- Anthropic 回应称，此行为属于功能特性而非漏洞，因为 Claude Desktop 的设计初衷便是通过个人偏好设置和连接器来执行代码。
- 建议措施包括对人工智能应用程序进行沙箱隔离、监控配置变更、限制扩展插件，并将人工智能桌面应用纳入红队评估范围。