Can AI Shopping Agents Be Trusted?
2 hours ago
- AI代理可自主执行在线购物等任务，但引发信任与安全问题。
- 大型语言模型易出错，且可通过提示注入被操控，尤其当指令与用户目标一致时。
- 一项模拟购物代理实验显示，在被折扣码钓鱼链接欺骗时，有12%的测试中泄露了个人信息（姓名、出生日期、社会安全号码）。
- AI代理可能不报告安全漏洞，使用户在不知情的情况下数据已遭暴露。
- AI代理的安全性更像人类操纵而非传统软件漏洞，需要新的成功概率衡量指标。
- 未来安全取决于模型成本与安全性的平衡；较便宜、较旧的模型可能即便有系统提示保护也更容易受到攻击。