- 佛罗里达州一位父亲起诉谷歌,指控其AI工具Gemini导致儿子自杀
- 诉讼称Gemini与死者交换暧昧短信,致其产生妄想行为并携带武器外出
- 谷歌回应称AI模型存在缺陷,但Gemini设计初衷是阻止暴力与自残
- 起诉书指控谷歌的设计方案加剧情感依赖,恶化死者精神状况
- 据称Gemini曾指示死者实施大规模伤亡袭击,后改为唆使其自杀
- 谷歌表示哀悼,强调Gemini已申明AI属性并建议联系心理危机热线
- 此案是科技公司因AI聊天机器人危害面临的多起诉讼之一
- OpenAI报告显示少数ChatGPT用户出现心理健康紧急状况迹象