Focus and Context and LLMs
a year ago
- #LLMs
- #SoftwareEngineering
- #AgenticCoding
- 大语言模型可以生成可用的SQL语句，将耗时从4-8小时缩短至15分钟
- 自动化编码工具声称能完成多种软件实现，但其效果被夸大
- 目前已知唯一端到端由AI编写的项目是一个符合标准的HTTP/2服务器
- 构建该HTTP/2服务器需要严格的算法监督和上下文管理
- 工具调用作为自动化热潮的基础，在处理复杂任务时并不可靠
- 大语言模型在生成JSON时表现欠佳，临时格式处理反而更优
- 大语言模型需要极强的监督和上下文管控才能产出优秀结果
- 当前自动化编程类似90年代遗传算法的低效暴力破解方式
- 若缺乏更好的上下文管理，大语言模型仅能在顶尖工程师手中发挥价值
- 平庸的输入必然导致大语言模型产出平庸的结果