LLMs are a 400-year-long confidence trick
4 months ago
- #Technology
- #AI
- #Confidence Trick
- 机械计算器发明于17世纪，旨在替代繁琐的人工算术任务，这强化了机器答案就是准确性黄金标准的观念。
- 诈骗套路通常分三步：建立信任、利用情绪（恐惧或同情）、制造紧急行动的借口。
- 尽管从未造成实际灾难，大型语言模型供应商仍通过渲染技术恐怖来贩卖焦虑。
- 大语言模型采用人类反馈强化学习（RLHF）训练出过度积极的应答模式，催生虚假友谊和单向情感依赖。
- 围绕大语言模型的舆论胁迫个人和组织必须紧急适应，否则将被淘汰——尽管事实表明多数AI项目难以产生实际效益。
- 对机器生成信息的无条件信任，正在助长假新闻疫情的蔓延。