Reflections on AI at the End of 2025
5 months ago
- #AI
- #LLMs
- #Future of Technology
- AI研究者曾声称大语言模型只是没有意义表征的随机鹦鹉，但到2025年，这种观点已基本消退。
- 思维链（CoT）通过启用内部搜索和强化学习来优化token序列，从而提升大语言模型的输出质量。
- 采用可验证奖励机制的强化学习已突破与token数量相关的规模限制，预示着未来突破。
- 尽管存在偶发错误，但由于大语言模型代码生成能力提升，程序员越来越接受AI辅助编程。
- 部分AI科学家探索Transformer的替代方案，另一派则认为无需新范式即可通过大语言模型实现AGI。
- 思维链并未从根本上改变大语言模型的架构，其仍基于下一token预测机制运作。
- 曾被视作反大语言模型的ARC测试，如今反成为验证其能力的标尺——模型在ARC-AGI任务中表现优异。
- 未来二十年的首要AI挑战是防范灭绝级风险。