Study: LLMs Able to De-Anonymize User Accounts on Reddit, Hacker News
2 months ago
- #LLMs
- #deanonymization
- #privacy
- 大语言模型（LLMs）能够对Reddit和Hacker News等平台上的匿名用户账号进行去匿名化识别。
- 研究人员利用大语言模型将匿名账户与现实身份（如领英资料）关联，准确率高达99%。
- 去匿名化过程包括提取身份特征、语义搜索和对候选者进行推理分析。
- 由于涉及常见非恶意任务，AI公司可能难以阻止大语言模型被滥用于去匿名化。
- 匿名身份对隐私保护至关重要，尤其对逃离虐待环境或需要匿名保护的个人而言。
- 若用户透露可组合的特定信息（如位置、爱好、职业），其网络身份将十分脆弱。
- 隐私保护建议包括：使用新账户处理敏感信息，并限制可识别个人身份的信息发布。