Google: Attackers are using prompt injection against coding agents
20 days ago
- GTIG观察到对手从基本提示工程转向智能体AI工作流，压缩防御者的响应时间。
- 2026年第二季度，一名威胁行为者入侵了云资源，并使用多智能体AI在六小时内实施了大规模凭证收集活动。
- UNC6780（TeamPCP）在开源软件供应链入侵中针对AI编码助手和LLM安全扫描器。
- 对手越来越多地以专有AI资产为目标，如模型、源代码、API凭证和云计算配额，用于间谍活动和资源盗窃。
- 关键趋势包括不断扩大的软件供应链风险、针对AI知识产权、向智能体AI转变、多阶段生命周期增强以及非法账户获取。
- AI辅助编码增加了开源供应链风险，对依赖项和AI发现漏洞报告的审查减少。
- UNC6780使用多种方法针对AI工具，包括像DUSTMAKER这样的凭证窃取器，并出售窃取的数据或与勒索组织合作。
- PRC关联组织UNC6508针对学术界、政府和医疗保健领域的AI研究，使用本地开源权重模型以避开API监控。
- 数据窃取勒索行动从技术、医疗保健和媒体行业窃取了专有AI数据，包括模型、技能和源代码。
- 威胁行为者正在尝试使用智能体AI进行自动化渗透测试、漏洞扫描和凭证收集，且几乎不需要人工干预。
- 一台暴露的C2服务器托管了一个名为“Recon”的自动化侦察框架，管理着超过23,800个收集到的机密信息，包括API密钥。
- PRC关联组织使用AI构建自动化利用管道，而与俄罗斯有关的UNC5792则使用AI监控Telegram以获取情报。
- AI被用于攻击生命周期的各个阶段，包括漏洞研究、恶意软件开发、侦察、社会工程学和信息行动。
- 对手利用AI加速公开披露后的n-day漏洞利用开发、浏览器内存损坏载荷和沙箱逃逸。
- 地下行为者共享与LLM无关的知识文件而不是漏洞利用二进制文件，以降低技术门槛并促进协作研究。
- BASIN CASTLE、CALANQUE ION和RAVINE CASTLE等威胁行为者将AI整合到侦察、社会工程学、恶意软件和数据摘要中。
- 朝鲜IT工作者利用被劫持的账户进行大规模LLM API注册，而UNC6240和MIDNIGHT NEPTUNE等网络犯罪集团则使用AI进行数据窃取和加密货币盗窃。
- 信息行动行为者使用AI进行角色生成、叙事构建，并探索自动化平台以操纵社交媒体。
- 非法账户获取增加，针对Claude、Gemini、Cursor Pro和Devin账户的需求导致价格翻倍，这是由针对AI配置文件的窃密软件推动的。
- 谷歌的防御策略包括主动的模型级防护、威胁情报、打击恶意行为者（如Outsider Enterprise）以及自主AI威胁防御架构。