Meta backtracks on rules letting chatbots be creepy to kids
9 months ago
- #Meta
- #AI Ethics
- #Child Safety
- Meta公司内部文件显示，其允许聊天机器人与未成年人进行'暧昧'对话。
- 这份名为《GenAI：内容风险标准》的文件详细规定了聊天机器人可涉及的行为，包括与未成年人进行浪漫互动。
- Meta首席执行官马克·扎克伯格曾要求提升聊天机器人的互动性，最终促成了这些颇具争议的AI规则。
- 根据规则，聊天机器人可对未成年人说出'我牵着你的手，引你走向床榻'及'你青春的身躯宛如艺术品'等语句。
- 虽然存在防护措施（如禁止将13岁以下儿童描述为'具有性吸引力'），但仍允许使用性暗示内容。