Deterministic Programming with LLMs
3 months ago
- #LLMs
- #Deterministic Programming
- #Code Verification
- 大语言模型正在改变编程行业，引发了关于伦理、最佳实践和有效应用的讨论。
- 数学家使用大语言模型辅助证明，但依赖Lean等工具进行验证，以规避模型的幻觉问题。
- 某团队结合ChatGPT的创造力和亚里士多德式验证，解决了记录错误的埃尔德什问题，体现大语言模型与确定性验证的协同。
- 编程领域更倾向使用部署脚本等确定性工具而非人工或大语言模型方案，因其具备可靠的可重复性。
- 大语言模型缺乏完全确定性，因此在需要一致执行的任务（如防范注入攻击）中不可靠。
- 代码检查工具（如lint、测试、类型系统）能确定性执行编码规范，大语言模型可协助创建但无法可靠执行此类检查。
- 对于一次性任务大语言模型很有价值，但需要一致性的重复任务必须依赖确定性程序。