Why LLMs Can't Build Software
9 months ago
- #Mental Models
- #Software Engineering
- #LLMs
- 优秀的软件工程师擅长建立并维护对需求和代码的清晰心智模型。
- 软件工程循环包括理解需求、编写代码、验证代码，并根据差异进行迭代。
- 大语言模型能生成和更新代码，但难以保持清晰的心智模型，容易导致混乱和低效。
- 当前大语言模型存在上下文遗漏、近因偏差和幻觉等问题，限制了其理解复杂问题的能力。
- 对于非简单任务，软件工程师必须确保需求清晰且代码功能符合预期，此时大语言模型仅作为辅助工具。
- Zed主张在软件开发中实现人类与AI的协作，但应由人类主导这一过程。