这两周事情密集：NeurIPS 2024、OpenAI 的十二天发布会、Gemini 2.0、Devin 付费版上线。其中分量最重的是 Ilya 在 NeurIPS 上那场很短的演讲——他讲的是预训练这个时代要结束了。
NeurIPS 是信息处理领域最重要的会议之一。这届的 test of time paper 环节里，Ilya 做了一场特别短的 session，但传播极广。
主题就是预训练时代要终结了——不是说预训练没用了，而是靠堆预训练规模来换能力的这条路，走到头了。接下来的增量得从别的地方来。
有个工具的思路值得记：你在某个 App 里干活时，可以把它切换到对应的模式，切过去之后它就能拿到你当前应用的上下文——知道你正在干什么。
例子是 GitHub：直接问「最近 commit 了多少、隔多久 commit 一次」，它能算出来。也适配了 Xcode（写代码、做 code review）和 Notion。
局限也很清楚：因为是桌面端，很多时候还得手动把文字拷进去才能执行——上下文并不是真正打通的。不过要画个分布图之类，直接在桌面端就跑完了。
Devin 的付费版上线了，500 美元一个月，还能额外购买更多 ACU（算力配额）。集成了 GitHub 和 Slack。
外界评价普遍一般：无非是帮你改改 issue、写一点新 feature 的代码、写写前端、做点 code review。如果只是这些，50 美元都顶天了。
定到 500 的原因大概只能是 ACU——它要支撑的是那种特别复杂、消耗巨大的任务，价格反映的是资源消耗而不是功能清单。
Chrome 的地址栏里多了一组 @ 前缀：@history、@bookmark 等等。
试了一下：输入 @history 再打个关键词（比如「培训」），它能把相关的浏览记录整理出来。
这说明浏览历史本身也可以被当成一个 agent 来对待——不是让你去翻记录，而是让你去问它。
OpenAI 的十二天发布会当天正好走到最后一天；Google 的 Gemini 2.0 一整套东西；再加上 CES。两周之内密度极高，很多东西只能挑着看。