Making sure AI serves people and knowledge stays human
8 months ago
- #Human Rights
- #AI
- #Wikimedia
- 维基媒体基金会认为获取知识是一项基本人权，并致力于确保所有人能自由开放地获取可靠信息。
- 2024年开展的人工智能与机器学习人权影响评估(HRIA)，旨在研究这些技术对维基生态系统中人权的影响。
- 生成式AI和大语言模型(LLMs)为信息创作、获取与传播带来机遇的同时也带来挑战。
- 维基媒体自2010年起便使用AI/ML工具进行破坏检测和引用标注，但生成式AI引发了新的议题。
- 核心问题包括AI在知识共享中的定位、如何保障信息准确性，以及确保AI工具辅助而非取代人类贡献。
- HRIA报告识别了潜在风险与机遇，但指出目前尚未发生实际损害案例。
- 风险包括AI工具偏见、有害内容生成，以及维基内容被用于LLM训练引发的连锁影响。
- 报告建议通过风险监控和现有数据质量计划来缓解潜在危害。
- 基金会与志愿者社区已开始实施应对这些风险的策略。
- 社区反馈与协作对有效落实HRIA建议至关重要。
- 即将开展的讨论与多语言协作计划，将推动全球维基社区共同应对AI/ML挑战。