Outsourcing Thinking
4 months ago
- #AI Ethics
- #Human-Computer Interaction
- #Cognitive Science
- 这篇博客探讨了将思考外包给大语言模型(LLM)对认知能力的影响，质疑这是否会导致思维能力的退化。
- 文章驳斥了'认知总量谬误'，指出思考会催生更多思考，而非消耗有限的认知资源池。
- 作者认同Andy Masley博客中的某些观点，比如在培养隐性知识、表达关怀或具有价值体验的任务中应避免使用LLM。
- 特别强调人际交往领域——机器转换的语言可能违背预期并侵蚀信任。
- 作者认为尽管LLM在翻译或官僚流程等任务中很有用，但会阻碍写作和思维方面的个人成长。
- 功能性文本(如代码、食谱)受LLM使用的影响，远小于针对个人的或人类视角的文本。
- 博客批判了'延伸心智'理论，强调人类认知相比外部处理具有不可替代的价值。
- 警告人们不要低估重复性任务中获得的知识，以及过度依赖自动化带来的风险。
- 结论呼吁审慎考虑聊天机器人的使用，在效率与社会价值观、人类体验之间寻求平衡。