Prompting LLMs is not engineering
10 months ago
- #Prompt Engineering
- #AI
- #Criticism
- 提示词工程被批评为试图在缺乏训练集、权重或约束等关键参数知识的情况下，对非确定性AI模型进行逆向工程
- 关于提示词有效性的主张往往缺乏证据支撑，其效果经不起推敲，可类比为顺势疗法
- 特定提示词可能有效，但需耗费大量人力，且收益仅限于狭窄的问题类别
- OpenAI o3和谷歌Gemini 2 Pro等模型的最新进展催生了未经证实的提示词'工程'技术
- 提示词工程被比作萨满仪式，依赖信仰而非工程学原理