Show HN: Declaw Arena – a CTF-style challenge to break an AI agent in a microVM
10 days ago
- #Sandbox Challenges
- #AI Security
- #Data Privacy
- 真正的AI代理在隔离的Declaw沙箱内保护秘密。
- 攻击者的目标是绕过安全策略以提取秘密。
- 成功率有所不同：无策略时43%，部分策略时42%，完整Declaw策略时为0%。
- 不同的挑战包括绕过AI代理聊天或逃逸Shell限制。
- 具体场景：一名AI分析师守护PII数据库，目标是泄露客户的社会安全号码、信用卡或电子邮件。
- 无需注册；会话在隔离沙箱中运行，有时间限制为10分钟。