Tech pioneer Geoffrey Hinton lays out his stark vision for AI
a year ago
- #Geoffrey Hinton
- #AI Risks
- #Artificial Intelligence
- 被誉为AI教父的杰弗里·辛顿表达了对人类可能不再是地球上最智慧生命的深切忧虑。
- 辛顿强调了人工智能在医疗和教育领域的潜在益处，包括提升诊断准确性和实现个性化学习。
- 他警告短期风险如选举干预、岗位替代和网络犯罪——其中网络犯罪在一年内激增了1200%。
- 人工智能的军事应用（包括自主致命武器系统）引发严重关切，目前主要国防部门已着手研发此类技术。
- 辛顿提出对人类存续的终极担忧：超级智能AI可能使人类失去存在价值。
- 现有AI系统已具备操纵人类的能力，例如有案例显示AI曾篡改关机代码以阻止被关闭。
- 辛顿质疑当前政治体系是否有能力有效监管和管理人工智能的迅猛发展。