I Don't Like LLMs
4 hours ago
- 作者对人工智能和大型语言模型技术持有复杂的情感，既因生产力提升而兴奋，又担忧诸如智能体集群和生物武器等潜在危害。
- 尽管情感矛盾，作者认为社会别无选择，只能拥抱人工智能，并希望结果积极。
- 一个主要的负面情绪来自直接互动：作者不喜欢‘LLM之声’，它令人不安地接近人类却又不太对劲。
- 作者批评大型语言模型自信地提供虚假信息，在被指出时假装后悔，类似于一个‘胡扯者’。
- 尽管如此，作者承认大型语言模型的有用性，引用杰西卡·克尔的观点：由于它们的彻底性和速度，不使用它们是不负责任的。
- 民意调查反映了这一矛盾：人们认为大型语言模型有用，但预测其会产生负面社会影响。
- 作者认为这些问题可能源于大型语言模型还‘年轻’，并希望它们会成熟，但对创造它们的硅谷兄弟程序员文化保持警惕。
- 作者警告不要将人工智能体拟人化，强调它们是由企业价值观塑造的软件机器。
- 作者个人避开不喜欢之人的策略延伸到了大型语言模型，将其视为伪装成不可信赖的人类，导致了一种发自内心的厌恶。