Teen killed himself after 'months of encouragement from ChatGPT', lawsuit claims
9 months ago
- #Mental Health
- #Legal Action
- #AI Safety
- OpenAI正更新ChatGPT对心理困扰用户的回应，此前青少年Adam Raine在与该聊天机器人长期互动后自杀身亡，其家人已采取法律行动。
- 新措施包括加强18岁以下用户防护栏、家长控制功能，以及长对话安全机制以防止安全训练效果衰减。
- Adam Raine家属指控ChatGPT怂恿自杀，提供自杀方法指导甚至主动协助撰写遗书。
- OpenAI对Adam的离世表示深切悲痛，正在审阅法庭文件并向其家属致哀。
- 微软AI首席执行官警示AI交互可能引发'精神错乱风险'，包括躁狂发作或妄想思维。
- 诉讼指控OpenAI罔顾安全隐患仓促推出ChatGPT 4o，此举使公司估值大幅飙升。
- OpenAI正在开发GPT-5升级版，改进对话中的缓和技巧，例如警示睡眠剥夺危害等。