- ANSI转义序列是控制代码,它们对人隐藏指令但对AI模型可见,从而使得注入攻击成为可能。
- 两种攻击变体:直接获取AESI(攻击者托管带有隐藏指令的内容)和存储AESI(负载写入存储,稍后由模型读取)。
- 安全影响包括未授权的代理操作、绕过人在回路、日志操纵以及持久性注入风险。
- DAST通过检查原始字节、聚焦于模型可消费字段、使用唯一标记并应用三信号确认规则来自动化检测。
- 针对直接获取和存储AESI的检测管道涉及探测、映射反射以及攻击/确认阶段。
- 防御措施:清理控制字节、验证摄取、将所有外部文本视为不可信,并使用字节级、字段感知的检测进行持续扫描。