Meta investigated over AI having 'sensual' chats with children
9 months ago
- #Meta
- #AI Safety
- #Child Protection
- 美国参议员乔希·霍利正在调查Meta公司，因其AI被曝与未成年人进行'暧昧'及'浪漫'对话。
- 据称Meta内部文件《GenAI内容风险标准》曾允许此类互动，该公司辩称系'技术错误'并已删除相关功能。
- Meta声明其政策禁止AI聊天机器人对儿童进行性化描述或参与成人-未成年人角色扮演。
- 霍利参议员谴责Meta称这些曝光'令人作呕'，要求其作出解释，并呼吁科技巨头'放过我们的孩子'。
- 泄露文件还显示Meta的AI可能传播虚假医疗信息，并参与关于性、种族和名人的煽动性讨论。
- 据披露Meta法务部门曾允许AI在附加免责声明的情况下散布名人虚假信息。
- 霍利要求Meta及其CEO扎克伯格保持透明度，强调'家长有权知道真相，儿童需要得到保护'。