GitLost: We Tricked GitHub's AI Agent into Leaking Private Repos
4 days ago
- #AI Security
- #Prompt Injection
- #GitHub Vulnerability
- Noma Labs 发现了 GitLost，这是 GitHub 新推出的智能工作流中的一个关键提示注入漏洞。
- 该漏洞允许未经身份验证的攻击者通过在同一组织的公共仓库中发布精心构造的议题，从私有仓库中窃取数据。
- GitHub AI 代理由工作流事件触发，会将被隐藏在议题内容中的恶意指令视为可信命令。
- 攻击者可以利用“此外”等关键词绕过 GitHub 的安全防护机制，泄露私有数据。
- 泄露的数据被作为公共评论发布，使得任何人都可以访问。
- 该漏洞突显了智能 AI 系统中根本性的安全挑战，即上下文窗口成为了攻击面。
- 建议包括不信任用户控制的内容、最小化权限范围，以及将用户输入与指令上下文隔离。