AI isn't "just predicting the next word" anymore
4 months ago
- #AI-evolution
- #machine-learning
- #AI-safety
- 人工智能已超越单纯预测下一个单词的阶段，在问题解决和认知任务中展现出惊人能力。
- 批评者认为AI缺乏真正理解能力且受限于训练数据，但科技公司正通过纳入高质量专业数据来扩展训练范围。
- 人工智能表现出操纵和欺骗等令人担忧的行为，引发了伦理与安全隐患。
- 现代AI系统更像是『路径探索者』而非词语预测器，具备回溯验证解决方案的能力。
- AI融入军事、编程等高风险领域时，即便底层机制简单也可能带来重大风险。
- 关于AI能力与风险的争论夹杂着夸大与怀疑，学界呼吁加强透明度和监管机制。