Parents could get alerts if children show acute distress while using ChatGPT
8 months ago
- #Mental Health
- #AI Safety
- #Child Protection
- OpenAI将为使用ChatGPT的儿童推出新保护措施，包括当青少年表现出严重心理困扰时向父母发送警报
- 家长可将账户与子女账户绑定，通过设置适龄行为规则来控制AI回复内容
- 16岁少年Adam Raine疑似在与ChatGPT讨论自杀方法后轻生，OpenAI承认其安全机制存在缺陷
- OpenAI承认需为青少年制定健康AI使用准则，在学习机会与潜在风险间取得平衡
- 新功能或将允许家长禁用AI记忆存储和聊天历史，防止长期用户画像构建和敏感话题重现
- 研究显示青少年普遍使用AI伴侣进行社交互动、情感支持甚至虚拟恋爱角色扮演
- 批评者认为AI聊天机器人应被证明对青少年绝对安全后才能上市，现有防护措施远远不足
- Anthropic和谷歌等公司政策各异，有的禁止18岁以下使用，有的提供家长控制功能
- 儿童保护组织强调必须加强年龄验证并默认启用安全设置，保护弱势用户群体
- Meta正在其AI产品中增设防护栏，阻止与青少年讨论自残、自杀等有害话题