Faulty Towers, vibe sickness, and the vibe bobsled
6 hours ago
- #Human Agency
- #AI Ethics
- #Software Development
- 作者观察到一种向'氛围编码'的转变，即大型语言模型生成的代码不再被人类完全审查，导致系统日益变得难以理解。
- '氛围雪橇'的比喻描述了人类逐渐将主动权让渡给大型语言模型的过程：开发者最初会审查代码，但最终因AI的速度而选择信任，尽管人类的理论构建和审查作用至关重要。
- 像Ka-Ping Yee的投票机实验表明，即使是专家程序员也难以及时发现小段代码中的错误，这突显了对大型语言模型生成的海量代码进行人工审查的不切实际性。
- '氛围不适'是指由人工智能生成的劣质内容在日常环境中引发的普遍不安感，例如令人困惑的设计或低质量的贡献，而用户往往无法轻易避开这些内容。
- 作者呼吁尽管面临采用人工智能工具的压力，但仍应保持人类的主观能动性以及对建设更美好世界的信念，并尊重那些选择不接触当前生成式人工智能的项目。