Chomsky on What ChatGPT Is Good For
a year ago
- #Ethics
- #Noam Chomsky
- #Artificial Intelligence
- 人工智能（AI）正在改变各个领域，同时也引发了伦理担忧。
- OpenAI开发的AI聊天机器人ChatGPT利用大语言模型（LLMs）生成类人化回应。
- 诺姆·乔姆斯基探讨了AI超越人类能力的潜力，但强调工程与科学的本质区别。
- AI工程追求实用性，而科学旨在理解人类智能等生物系统的运作原理。
- 包括LLMs在内的AI工具可能被用于传播虚假信息和诽谤，构成公共威胁。
- 乔姆斯基批评LLMs无法区分可能语言与不可能语言，而这正是人类语言能力的核心特征。
- 语言习得研究的关键在于区分语言能力（知识）与语言运用（行为）。
- AI缺乏道德判断能力，若不加控制可能更加危险。
- 监管机构关注AI风险，但控制其发展面临挑战。
- 乔姆斯基对阻止AI发展持怀疑态度，但支持降低风险的努力。