这期有个案例一开始让人挺生气:有团队把一件正则就能干的事交给大模型,中间还硬加了一层表达式。当场的反应是「这不智障吗」。但顺着想下去,那一层恰恰是企业落地里最关键的东西——用户说的话和企业内部的黑话之间,语义距离比想象中远得多。
这套东西不新,大概 2020、2021 年就发了。它的说法是:数字化转型从 10% 走到八九成大概要 10 年,AI 转型大概 8 年——注意这是行业增量口径,不是说某一家公司要干这么久。
它显然是基于上一代机器学习那套概念想出来的,没料到生成式 AI 会把这个时间压缩到什么程度。
但它有一点值得借鉴:先定义 key capabilities——不谈时间表,先把「成熟」到底由哪几项能力构成说清楚。这个框架对外沟通时是能用的。
LangChain 一直被开发者当成一个 LLM 框架。问题是:如果只在「框架」这个维度上跟 LlamaIndex、Semantic Kernel 比,它没有概念上的高度,也就没有竞争优势。
所以它提了一个新词——cognitive architecture(认知架构)。文章里最直接的例子是 OpenAI 推 Assistant API:表面上是个 API,本质上推的是一套认知架构。
这个说法的用意很清楚:把自己从「一个编排 flow 的工具」抬到「你在构建认知架构」这个层面上去。
Anthropic 在提示词这块做得确实强,基本没人敢说比它更强。官方 blog 给的例子很直接:你要做一个教育计划,只需要写一小段说明加几个 topic,它会自己跑一轮提示词优化流程,最后交给你一个完整的东西。
当时的想法是接到国产模型上试一遍,看看这套流程是不是模型无关的。
Llama Tutor 这个项目发出来时看着挺有意思。打开一看,代码本身是学生级别的框架,没什么特别的东西。
那这类项目怎么看?直接翻它的 prompt。项目的全部价值往往就浓缩在那几条提示词里——代码是壳,prompt 才是产品。
有个案例是这样:判断「用户是否到期」「为什么是这个 119 的档位」这类策略解释。他们的做法是先把逻辑转成一层表达式,大模型只负责最后一步——把表达式翻译成人话回答。文章里还一直在吐槽这个转换过程有一定概率会转错。
第一反应是生气:一件正则就能完成、根本不需要任何推理能力的事,你让大模型去做,还转错?
但想下去会发现这层有道理。企业内部的黑话,和用户提问之间,永远隔着相当大的语义空间距离。要真正落地,就得在中间定义出一层语言——既能沾上用户的语义,又能沾上内部的业务模型。
这和之前分享过的 DSL 那个思路是一回事,微软 Copilot 的实现里也是在中间做了这么一层。那层表达式不是多余,它就是那层中间语言。