I scanned my AI agent framework for destructive/consequential actions, and wow
7 hours ago
- 对25个AI智能体框架的静态扫描发现，有30个实例中模型控制的参数可以在没有授权检查的情况下执行关键操作。
- 该扫描器区分验证（检查形式）和授权（检查特定操作的权限），捕捉网络出口、文件写入、Shell执行和SQL注入等模式。
- 该研究首次运行时的精确率为81%；发现了12个误报并已修复，同时添加了回归测试以防止再次发生。
- 该扫描器覆盖MCP、LangChain和OpenAI等框架，但不涵盖自定义智能体循环或动作/观察分发器。
- 该扫描器公开可用，无需依赖项或网络调用，并可通过简单命令在本地代码上运行。