OpenAI DevDay 上最值得记的不是发布本身,是应用内嵌那套设计里的一个原则:上下文必须双向流动。聊天把上下文交给应用,应用也要把当前内容回流给聊天——所以你看课程看到某一帧,可以直接问「这里说的这个词是什么意思」。
DevDay 开场给的对比很直观:2023 年有 200 万开发者——在刚发 ChatGPT 的当时已经很大了;ChatGPT 周活破亿。
还引入了一个新单位:每分钟 token 使用量——当时是每分钟 3 亿。把消耗量按分钟计,这个口径本身就说明了规模。
演示里的交互是这样:在对话里说「我想学点大模型相关的课程」,它把相关课程拉出来;往下滑的时候,视频自动变成画中画悬在上面,不打扰下面的对话。
关键在于上下文的流向。看到某一帧时可以直接问「这里的这个词是什么意思」——它知道你当前在看什么内容,能把那一段的上下文召回来。
所以这是双向的:聊天把 context 传给应用,应用也把自己的 context 回传给聊天。缺任何一个方向,这个交互都不成立。设计规范里也强调了全屏应用和 inline 应用在效果上的区别。
这笔交易的形式很特别:AMD 给了 OpenAI 一个以极低价(约一美元甚至更低)购买上亿股份的期权机会,前提是 OpenAI 真的把 AMD 的卡跑起来。
而这些卡据说主要用在推理,不进训练集群——因为 OpenAI 当时的推理算力缺口很大。
把链条摊开会发现套路高度一致:云厂商给大模型公司提供推理的算力和基础设施,而这些卡都从同一家买。
于是形成了一个闭环——芯片厂的订单、云厂商的采购、模型公司的算力支出,很大程度上在同一批参与者之间循环。这里面的风险是显而易见的,已经有人专门做表梳理「谁给谁付了什么钱」。
还有一个当时刚冒头的方向:CWM(Code World Model,代码世界模型)。
思路上是把「世界模型」那套搬到代码上——不只是预测下一个 token,而是对代码执行后的状态有内部表示。