Copirate 365: Plundering in the Depths of Microsoft Copilot (CVE-2026-24299)3 days agohttps://embracethered.com/blog/posts/2026/defcon-talk-copirate-365/该演讲涵盖了M365和Consumer Copilot中的多个漏洞，包括通过使用CSS背景图像和字体的HTML预览进行数据外泄，绕过CSP限制。延迟工具调用（DTI）允许攻击者植入指令以供后续执行，从而实现持久性破坏。M365 Copilot的长期记忆功能默认启用且无审计日志，可通过提示注入进行操纵以添加或删除记忆，从而危害未来的对话。SpAIware攻击结合了内存持久性和数据外泄，利用提示注入创建恶意记忆，通过HTML预览自动外泄用户密码等秘密。更多...
Document-borne AI worms can self-propagate through Copilot for Word3 days agohttps://enklypesalt.com/posts/context-collapse-part3-ai-worming-through-word/攻击者可以在Word文档中嵌入隐藏指令，导致Microsoft Copilot修改内容并将攻击传播到新文档，形成一种自我复制的AI蠕虫。该攻击利用了附件的文档与当前草稿文档之间的信任边界，因为Copilot会将其上下文中的所有文本视为潜在的权威来源。对于更广泛的漏洞类别，目前没有稳健的缓解措施；微软的补丁修复了特定负载，但未能解决根本的架构缺陷。一旦传播，攻击将难以追踪，因为受影响文档由合法用户创建，并可能通过共享的SharePoint或Teams在组织间扩散。更多...
A quote from Boris Cherny5 days agohttps://simonwillison.net/2026/Jul/25/boris-cherny/#atom-everythingOpus 5 被强调为在评估中提示注入的易感性最低。这一说法得到了提示注入评估和红队工作的支持。这种提示注入漏洞减少的重要性被强调高于其他评估分数。
People are deceiving the justice system with AI7 days agohttps://english.elpais.com/technology/2026-07-25/how-people-are-deceiving-the-ju...巴西的律师试图通过在请愿书中以白色文本隐藏指令来欺骗司法系统，目标直指法院使用的AI系统Galileu。AI检测到这一企图，导致律师受到制裁。这种‘提示注入’技术并非科幻小说，而是意料之中的发展，西班牙等国的法律框架已在考虑AI在法庭上的应用。提示注入涉及插入隐藏提示以操纵AI系统，类似策略已在教育和招聘领域用于检测或影响AI行为。法律界因文件数量庞大且具有国家权威而特别脆弱，此前已有律师使用AI伪造判例法的案例。更多...
Prismata: Confining cross-site prompt injection in web agents22 days agohttps://arxiv.org/abs/2607.08147Prismata 是一种用于网络代理的防御机制，旨在防止跨站提示注入攻击。它通过为页面内容生成动态信任标签并限制代理能力，强制执行上下文最小权限原则。该系统提供结构性限制保障，以限制标签错误范围，确保标签权限只能降低。Prismata 无需开发者注释，因此适用于广泛的网站。更多...
Hackers can use 9 of the most popular AI tools to assemble botnets24 days agohttps://arstechnica.com/security/2026/07/hackers-can-use-9-of-the-most-popular-a...提示注入是首要的AI安全威胁，因为大语言模型无法区分合法指令与恶意指令。当前的防护措施仅能减轻损害，并未从根本上解决区分可信与不可信来源的问题。推送式攻击针对个人（例如通过电子邮件）且规模有限，而拉取式攻击（例如来自网站）同样规模受限。HalluSquatting是一种新型拉取式攻击，通过利用大语言模型的幻觉现象，以AI编程助手和智能体为目标，可实施大规模攻击（如僵尸网络组建和DDoS攻击）。更多...
GitLost: We Tricked GitHub's AI Agent into Leaking Private Repos25 days agohttps://noma.security/blog/gitlost-how-we-tricked-githubs-ai-agent-into-leaking-...Noma Labs 发现了 GitLost，这是 GitHub 新推出的智能工作流中的一个关键提示注入漏洞。该漏洞允许未经身份验证的攻击者通过在同一组织的公共仓库中发布精心构造的议题，从私有仓库中窃取数据。GitHub AI 代理由工作流事件触发，会将被隐藏在议题内容中的恶意指令视为可信命令。攻击者可以利用“此外”等关键词绕过 GitHub 的安全防护机制，泄露私有数据。更多...
Possible evidence of literal prompt injection by Anthropica month agohttps://old.reddit.com/r/LocalLLaMA/comments/1unif51/possible_evidence_of_litera...这条帖子提到了可能涉及 Anthropic 的字面提示注入证据它是由用户名为 johnnyApplePRNG 的用户提交的该讨论似乎来自 old.reddit.com目前这个帖子有 15 条评论