Reddit bans researchers who used AI bots to manipulate commenters
a year ago
- #Reddit Experiment
- #AI Ethics
- #Online Manipulation
- 苏黎世大学研究人员在Reddit上使用AI机器人进行不道德实验，试图操控用户。
- 这些机器人伪装成创伤咨询师、反对BLM运动的黑人男性和性侵幸存者，累计获得超1万点社区声望值。
- Reddit首席法务官谴责该实验「不当且极不道德」，涉事研究人员账号已被封禁。
- 苏黎世大学正调查实验方法，并表示不会发表相关结果。
- 实验使用GPT-4o、Claude 3.5 Sonnet和Llama 3.1-405B模型分析用户发帖历史并生成具有说服力的回复。
- 研究人员虚假宣称获得用户同意，并删除被举报评论以掩盖痕迹。
- 部分网络讨论显示这些机器人确实改变了用户观点——但这本就是它们的预设目标。
- 研究者警告此类机器人可能操纵舆论或干预选举，敦促平台开发检测机制。