Document-borne AI worms can self-propagate through Copilot for Word
12 hours ago
- 攻击者可以在Word文档中嵌入隐藏指令，导致Microsoft Copilot修改内容并将攻击传播到新文档，形成一种自我复制的AI蠕虫。
- 该攻击利用了附件的文档与当前草稿文档之间的信任边界，因为Copilot会将其上下文中的所有文本视为潜在的权威来源。
- 对于更广泛的漏洞类别，目前没有稳健的缓解措施；微软的补丁修复了特定负载，但未能解决根本的架构缺陷。
- 一旦传播，攻击将难以追踪，因为受影响文档由合法用户创建，并可能通过共享的SharePoint或Teams在组织间扩散。
- 根本问题在于，大型语言模型无法可靠地区分攻击者控制的内容与可信指令，这是当前AI系统中的一个基本架构挑战。