LLM's as a Different Kind of Intelligence16 days agohttps://handmadeoasis.com/llms-as-a-different-kind-of-intelligence/LLMs代表了一种不同于人类智能的新型智能。诸如‘初级工程师’或‘抽象层’之类的人类类比是有缺陷的，因为LLMs缺乏意图和确定性推理能力。LLMs结合了海量知识和无法理解意图的特点，导致随着时间的推移逐渐偏离用户目标。LLMs的概率性行为挑战了软件工程中确定性的基础。有效使用LLMs需要学习其独特的失败模式，而非强行套用熟悉的类比。
Canonization and the Overhang15 days agohttps://laughingmeme.org/2026/06/30/canonization-and-the-overhang.html大卫·贝西斯认为，数学过于重视定理证明，而低估了创造力、清晰度和教学的重要性，这些因素对于进步至关重要。LLM驱动的定理证明器可以在不依赖人类协作和直觉有益副作用的情况下证明定理。在软件领域，通过测试的代码与为团队可用性和迭代而进行社会建构的代码之间存在着类似性。规范化是将一次性解决方案转化为可重用、连贯且兼容的系统或库的过程，这一过程耗时但具有长期价值。软件通过规范化的代码受益于稳定的抽象和可靠的系统，这与可丢弃、单次使用的软件形成对比，后者在传统标准下可能显得'糟糕'。'知识悬置'指的是来自过去创造力的未实现潜力，连接现有想法可以产生新的解决方案，这一概念既适用于数学也适用于软件。LLM适合通过记忆和跨大规模文本库的模式匹配来搜索'知识悬置'，而人类则依赖于直觉飞跃。开源软件代表了可基于其进行未来开发的规范化工作的'知识悬置'。仅重视定理证明或编码而不进行规范化和知识传播，可能会耗尽'知识悬置'并低估清理和教学等关键的'衔接工作'。
DSLs Enable Reliable Use of LLMs7 days agohttps://martinfowler.com/articles/llm-and-dsls.html特定领域语言（DSLs）通过设定明确边界和约束提升大型语言模型的可靠性，减少代码生成过程中的不稳定性。DSLs作为软件系统的唯一事实来源，使大型语言模型能够充当自然语言界面，并成为设计过程中的迭代协作伙伴。抽象化与语义模型（如分布式系统领域的Tickloom）将大型语言模型的提示语锚定于现有词汇体系，从而提高准确性并减少幻觉生成。大型语言模型的工作分为两个阶段：在DSL设计阶段作为头脑风暴伙伴，在DSL确立后作为可靠生成器。DSLs支持确定性验证（例如通过解析器或编译器），允许自主代理在没有人工干预的情况下自我修正错误。应用实例包括：结合PlantUML生成演示文稿，使用内部DSL测试分布式系统场景，展现了其多功能的特性。结构合理的DSLs能够产出可维护、可读性强且准确捕捉设计意图的成果，降低对提示语作为主要事实来源的依赖。
LLMs aren't remotely like compilers or power toolsa day agohttps://blainehansen.me/post/llms-not-power-tools/大语言模型与编译器或电动工具等可预测的工具截然不同，后者是为了可靠性和一致性而设计的。代理是一个更恰当的比喻来形容大语言模型，因为它们涉及随机、不可预测的输出，类似于人类代理，从而引发了委托-代理问题。大语言模型的自然语言接口本质上存在模糊性和不精确性，使其不如编程语言或物理控件等结构化接口可靠。大语言模型模仿类人任务，但本质上非常奇特，无法与现有实体直接比较，因为它们基于复杂的神经网络过程运行。虽然大语言模型在特定、狭窄的情境中可能有用，但当前社会对它们的讨论常常具有误导性且会终结思考。