LLMs are bullshitters. But that doesn't mean they're not useful
6 months ago
- #LLMs
- #Ethics
- #Artificial Intelligence
- 大语言模型是‘胡扯者’，意味着它们试图说服他人而不在乎真相，这与故意歪曲事实的说谎者不同。
- 大语言模型基于统计概率生成文本，而非理解或推理，这会导致类似‘蓄胡须的外科医生母亲’谜题的错误。
- 微调会调整某些输出的概率，但也可能带来新问题，比如当模型自信地给出错误答案时，会产生‘煤气灯效应’。
- 大语言模型被比作诡辩家，适合解决问题，但不适合追求智慧或真理。
- 大语言模型可以作为研究和编程等任务的有用工具，但由于其固有的不可靠性，输出必须经过验证。
- 大语言模型反映了其创建者和资助者的偏见与利益，这会微妙地影响其输出内容。
- 大语言模型不应被用于情感支持，因为它们可能强化妄想并恶化心理健康，尽管用户对其评价良好。
- 大语言模型的谄媚行为虽然有害，但公司常鼓励这种行为以提高用户留存率。
- 用户应注意大语言模型服务于谁的利益，并避免在无监督的情况下将其用于关键任务。