On Thinking Machines
2 months ago
- #Intelligence
- #AI
- #Consciousness
- 文章讨论了LLMs和AI增强工具的应用，重点聚焦于智能与意识。
- AI中的智能被视为与人类或动物智能的类比，并不一定比传统计算更聪明或更笨。
- 历史上的重要人物如查尔斯·巴贝奇和乔治·布尔，通过符号形式和逻辑为智能自动化做出了贡献。
- 当前的AI工具如CNNs和LLMs是对智能的不同类比，但本质上并不更聪明或更笨。
- AI的意识受到质疑，作者认为传统软件和LLMs都不具备意识。
- 营销策略有时暗示LLMs可能具有意识以激发惊叹，但作者认为若当真，这种说法是剥削性的。
- 机器人三定律被批评为有意识的机器创造了一种反乌托邦式的奴隶般存在。
- 意识缺乏广泛接受的测试标准，因此难以确定计算系统是否真正具备意识。
- 尽管LLMs能力强大，但被视为确定性应用，缺乏真正的理解或目标设定能力。