Stop Generating, Start Thinking
3 months ago
- #Ethics in tech
- #Software development
- #AI in coding
- 作者对日益依赖LLM生成代码表示不安，担心这会导致编程技能和责任感的衰退。
- 他们将LLM生成的代码比作快时尚——初看吸引人，实则质量低劣且对环境有害。
- 作者批判了'LLM只是另一层抽象'的观点，指出其缺乏系统架构思考和可维护性评估能力。
- 文章揭示了LLM输出的非确定性和不透明性问题，包括可能产生幻觉内容和错误。
- 通过Horizon丑闻案例，作者警示在软件开发中外包批判性思维的危险性。
- 作者认为尽管人工编写代码存在缺陷，但优于LLM生成的代码——后者会固化并放大现有错误。
- 强调代码审查对建立共同认知和问责制的重要性，并警告LLM生成PR的风险。
- 作者澄清自己并非反对LLM而是反对过度炒作，主张保持人类在循环中的负责任使用。
- 他们鼓励开发者专注于理解和享受编程艺术，而非将其外包给LLM。