Humans Are Reading Copilot Prompts – and They're Horrified
9 hours ago
- 受雇改进微软Copilot AI的人类承包商接触到了淫秽、露骨色情及可能非法的图像编辑请求，包括偷拍裙底照片和非自愿性姿势。
- 承包商在假定隐私的情况下审查用户上传的图片和提示词，但数百名人工工作人员会查看这些内容，以评估AI生成编辑的质量，而非出于安全或内容审核目的。
- 内部文件显示，承包商遇到了儿童卡通角色的恋足图片、宣扬厌食症的内容以及要求生成未成年人裸体图像的提示词，且没有对冒犯性内容进行明确标记。
- 微软指示承包商依靠人类直觉来选择更好的AI编辑结果，重点关注对编辑指令的遵循、未更改区域的保留、无伪影以及整体质量。
- 这种做法也延伸到了OpenAI和其他AI公司，承包商会审查真实的用户提示词，这与传统的内容审核不同，因为目标是改进聊天机器人的回复，而非过滤冒犯性内容。