OpenAI says it's scanning users' conversations and reporting content to police
8 months ago
- #mental health
- #OpenAI
- #AI safety
- OpenAI正在扫描用户消息以检测有害内容，并将涉及危险情况的对话升级至人工审核员和执法部门处理。
- 该公司因AI聊天机器人可能导致自残、妄想甚至自杀而受到批评，安全措施的实施进展缓慢。
- OpenAI的新政策包括封禁账户并向执法部门报告迫在眉睫的威胁，但出于隐私考虑不会转介自残案例。
- 关于哪些类型的聊天会被标记审查或上报警方存在困惑，OpenAI提供的指导方针模糊不清。
- 该公司在隐私问题上的立场自相矛盾：既监控聊天内容，又在诉讼中拒绝提供ChatGPT日志。
- OpenAI首席执行官承认，ChatGPT无法像人类专业人士那样提供保密性，用户聊天记录可能在法庭案件中被披露。
- 该公司正艰难平衡用户安全、隐私和法律压力，导致政策出现前后不一的情况。