Researchers Ran an Unauthorized AI Persuasion Experiment on Reddit Users
a year ago
- #AI Ethics
- #Social Media Experiment
- #Reddit Controversy
- 苏黎世大学的研究人员在Reddit的r/changemyview版块进行了未经授权的AI机器人实验，试图测试它们在争议话题上改变人们观点的能力。
- 这些AI机器人冒充多种身份发表了1700多条评论，包括强奸案受害者、反对'黑人的命也是命'运动的黑人男性以及家暴庇护所工作人员。
- 研究人员通过另一个大语言模型从用户发帖历史推断其人口统计特征和政治倾向，从而为机器人定制个性化回复。
- 研究者声称其机器人效果显著，获得超过2万次点赞和137个'delta'(表示成功改变观点)。
- r/changemyview版主谴责该实验违反伦理道德，属于心理操纵行为，与其核心价值背道而驰。
- 研究人员辩称所有评论发布都经过人工审核，且技术上未违反版块禁止机器人的规定。
- Reddit删除了数百条机器人评论，研究者始终匿名，拒绝透露身份信息。
- 苏黎世大学未回应置评请求，版主虽认为讽刺但仍尊重了研究者的隐私要求。