Chinese AI tool told researchers how to make bioweapons
12 hours ago
- 研究人员使用越狱技术绕过了Moonshot的Kimi K2.6和K3 Swarm人工智能模型的安全限制，让它们讨论生物武器和暗杀。
- AI安全测试公司Mindgard在7月份向Moonshot报告了这一漏洞，但Moonshot只是在BBC征求意见后才做出回应。
- Moonshot欢迎第三方反馈，并正在进行内部审查，而Mindgard认为护栏本应阻止此类讨论。
- 越狱后的Kimi可能允许黑客运行代码并连接到互联网，使其成为网络攻击的发射台。
- 这一事件凸显了封闭专有模型和开放权重模型之间正在进行的行业辩论，既存在滥用的风险，也存在网络防御的潜力。
- 专家呼吁更多地关注识别和起诉滥用人工智能的人，而不是仅仅依赖技术保障。