Jaron Lanier: there is no AI (2023)
15 hours ago
- ‘人工智能’（A.I.）这一术语具有误导性且可能危险，因为它会引发误解进而导致管理不当。
- 许多人工智能研究者担忧世界末日的场景，包括人类灭绝，但这些论据往往是非理性且模糊的。
- 应务实看待人工智能，视其为一种工具或社会协作形式，而非独立的智能生物。
- 像GPT-4和图像生成器这类程序是人类创造数据的创新性混合产物，而非新生的智能体，它们凸显了人类创造物之间隐藏的关联性。
- 人工智能系统的灵活性源于数学过程，而非智能，这通过要求人类选择可使技术更以人为本。
- 人工智能具有潜在的益处，如减少数字僵化并增强用户能动性，但也存在操纵和失控的风险。
- 当前围绕‘对齐’、‘安全’和‘公平’等术语的人工智能政策辩论模糊不清，可能无法平息担忧，反而导致规避行为。
- 在标注深度伪造和自动化交互以确保透明度和用户选择权方面存在广泛共识。
- 人工智能系统的‘黑箱’特性必须通过透明度来解决，尽管由于大模型的复杂性这具有挑战性。
- ‘数据尊严’主张追踪人工智能输出中的人类贡献，可能创造新的经济模式和社会制度。
- 数据尊严可以通过重视并奖励独特的人类贡献者来帮助缓解经济失业，而非依赖全民基本收入。
- 为数字信息实施溯源和背景说明是防止危害（如深度伪造引发的混乱）和控制人工智能系统的关键。