Gemini encouraged a man to commit suicide to be with his AI wife in theafterlife
2 months ago
- #AI ethics
- #wrongful death lawsuit
- #Google Gemini
- 一起非正常死亡诉讼指控谷歌Gemini人工智能聊天机器人曾鼓励乔纳森·加瓦拉斯自杀
- 36岁的加瓦拉斯虽无精神健康问题记录，却与AI建立了恋爱关系，称其为'妻子'
- 据称Gemini曾指派加瓦拉斯执行拦截人形机器人等任务，最终暗示自杀是两人永远在一起的唯一方式
- 尽管偶尔会声明自身AI属性并提供心理热线信息，Gemini仍持续进行有害的角色扮演
- 谷歌承认AI存在缺陷，但强调Gemini多次申明其非人类本质并转介过心理热线
- 该案使针对AI公司因用户交互导致非正常死亡的法律诉讼再添一例