Proving (literally) that ChatGPT isn't conscious
5 months ago
- #AI Consciousness
- #Philosophy of Mind
- #Neuroscience
- 文章提出了一项证明，指出像ChatGPT这样的大型语言模型（LLMs）并不具备意识，认为它们的输出是基于训练数据而非主观体验。
- 作者凭借神经科学和整合信息理论背景，运用元理论推理论证：任何非平凡的意识理论都无法适用于大型语言模型。
- 论证的核心在于替换思想——若用单隐层神经网络或查找表等系统替代LLM，将导致关于意识的预测出现错配，从而证伪任何赋予LLM意识的理论。
- 论文提出邻近性论证，指出LLM与可证明无意识的系统（如查找表）过于相似，因此不能被视作有意识。
- 持续学习被强调为意识的关键特征，而LLM在交互过程中静态处理输入，缺乏持续学习能力。
- 作者批判当前意识研究现状，呼吁建立更严谨、可证伪的意识理论，并宣布成立Bicameral实验室推进相关研究。
- 研究同时指出伦理影响，强调区分有意识与无意识系统对负责任AI发展的重要性。