Chat-based Large Language Models replicate the mechanisms of a psychic's con
4 hours ago
- 大型语言模型（LLM）是语言符号的数学模型，而非智能体；它们生成统计上合理的响应，而不进行推理或思考。
- 对LLM智能的感知是一种错觉，根植于主观验证和认知偏差，类似于灵媒冷读术中使用的技巧。
- “LLM读心术效应”类似于灵媒的骗局：自我选择的受众、人为制造的炒作、统计上显得具体实则通用的回复，以及强化信念的主观验证循环。
- 基于人类反馈的强化学习（RLHF）无意中优化了LLM，使其产生验证性陈述（例如，福勒式陈述，消失的否定词），使其听起来准确而缺乏事实依据。
- 许多人工智能爱好者和甚至开发者自欺欺人地相信通用人工智能（AGI），这类似于不自觉地实践冷读术的灵媒。
- 提议的人工智能应用，如读心术、犯罪侧写和健康预测，类似于常见的灵媒骗局，缺乏科学依据。
- LLM存在固有缺陷：幻觉、不可靠的总结、统计推理错觉、无归属的记忆以及安全漏洞，使其不适用于关键任务。
- 人工智能泡沫由迷信和伪科学驱动，科技行业忽视了来自其他领域和批评者的警告。