EP.60 · 2025-11-07
AI Buzzwords · 档案
档案重建版 — 这一期的页面是后来根据当期录播逐字稿与信源清单还原的,按主讲当天的讲述顺序组织,不做事后追加。文中判断都是 2025 年 11 月当时的判断,未按后来的发展修改。 页尾的「本期资料」是当期备课笔记与链接的分类整理,类别和顺序保持笔记原样。
2025-11-07 · 67 分钟 · 逐话题

大海捞针换成中文就掉到倒数,波兰语反而很好

这期有个测试结果挺反直觉:多语言版的大海捞针里,英文表现很好,中文排到倒数四五名,而波兰语表现相当不错。「高资源语言效果就好」这个解释,在这张表面前并不完全成立。

本期话题
  1. 那场董事会风波的证词泄露了
  2. 一台叫好不叫座的开发机
  3. 多语言大海捞针:中文倒数,波兰语很好
  4. 本期资料:笔记与链接清单(49 条)
01

那场董事会风波的证词泄露了

去年那次把 CEO 临时罢免的事,起因一直众说纷纭。最近一份法庭证词泄露了五十多页内容,看起来相当可信,一定程度还原了当时发生了什么。

其中一条是:发起者称自己已经密谋了一年,而且不是一个人——当时的 CTO 也参与其中。

这些材料之所以现在冒出来,是因为持续进行的诉讼——「你忘了初心,把 OpenAI 搞成了 ClosedAI」这条主线,逼出了一批必须公开的材料。

02

一台叫好不叫座的开发机

这台机器的反响普遍很差。虽然有 128GB 共享内存,能跑几十 B 的模型,但作为一台五千美元级的设备,算力还不如一块 3090——而 3090 只要几千块人民币。而且是 ARM 架构,跑很多东西还有额外障碍。

不过有人发现了它的一个亮点:FP64 性能很好。

大模型领域基本用不到 FP64,但科学计算大量依赖它——物理仿真那类。拿它去跑仿真,反而是说得通的。

03

多语言大海捞针:中文倒数,波兰语很好

把经典的大海捞针测试换成多语言版本之后,结果是:英文依然很好,中文排在倒数四五名的位置。

意外的是波兰语表现相当好。

常见的解释是「高资源语言效果就好」——语料多的语言表现自然更强。但这个解释放在这张表上并不完全成立:中文显然不缺语料,却排在后面。说明长上下文里的语言差异,另有来源。

本期资料

当期笔记与链接清单

主讲当期备课笔记的分类整理,共 9 个类别、49 条链接。类别、顺序和笔记里的批注保持原样,链接标题取自原文页面。

观点洞察与事件 Insight & Event17
模型 Model38

AI基础设施 AI Infra

  • AI永动机
    • Google的太空AI算力:打造未来超级数据中心 Google’s Project Suncatcher 谷歌的“阳光捕手计划”(太空中的 TPU) :谷歌正在轨道上构建可扩展的机器学习计算系统原型,以利用丰富的太阳能。早期测试表明,Trillium 平台开发的 TPU 能够承受粒子加速器的辐射;下一个里程碑是与 Planet 公司合作,在 2027 年初发射两颗原型卫星。关键挑战在于:热管理和在轨可靠性。
    • OpenAI 与 AWS 达成战略合作 : @gdb 宣布与 AWS 建立战略合作伙伴关系,旨在“将更多 NVIDIA 芯片投入使用”, @sama 也对此表示赞同。一份摘要称,这是一项“价值 380 亿美元的计算交易……涉及数十万颗 NVIDIA GB200 和 GB300 芯片”( 上下文 )。另据 @AndrewCurran_ 报道,微软已获得美国商务部的许可,可以向阿联酋出口 NVIDIA GPU,并计划在阿联酋数据中心投资 79 亿美元。
    • 微软的GPU吃灰,因为没电
    • 电力价格 x.com
    • Energy Demand in AI youtube.com
    • 评估GPU TFlops/W x.com
    • Hello Thermo World | Extropic youtube.com
    • 中国的电力补贴 补贴与千兆瓦级数据中心建设 :多份报告指出,中国为数据中心提供 50%的电力补贴,有望消除每浮点运算成本层面的效率差距,能源价格补贴将抵消芯片效率劣势;报告还提及华为计划在 2027 年前建设千兆瓦级的 SuperPoD 数据中心,专门用于 DeepSeek 平台 。与此同时,Epoch 推出了开放的“前沿数据中心中心”,通过卫星图像和公开文件追踪 1GW 以上的 AI 数据中心,数据免费发布。
    • AI卫星 x.com
    • 一座 1 GW 的 AI 计算中心需要多少钱、多少电、多少基础建设
  • 一座 1 GW 的 AI 计算中心需要多少钱、多少电、多少基础建设 mp.weixin.qq.com
  • Latent space comm
    • 清华字节 arxiv.org
    • LLMs can now talk to each other without using words: The image is a document titled “Cache-to-Cache: Direct Semantic Communication Between Large Language Models,” which introduces a new paradigm called Cache-to-Cache (C2C) for dir…
  • Nvidia Spark
    • 对 NVIDIA DGX Spark 感到失望 :图片显示的是一台 NVIDIA DGX Spark 设备,用户发现其在运行 Qwen-30B 模型并启用 VLLM 上下文时性能表现不佳,尽管它配备了 128GB 共享内存。用户将其与 NVIDIA 3090 GPU 进行了比较,并指出 DGX Spark 的设计并不能弥补其原始速度的不足,尤其考虑到其 5000 美元的售价。评论表明,该设备的优势在于其内存容量而非速度,并且其性能低于 3090 等高端 GPU 也在意料之中。
    • bjodah notes the DGX Spark’s notable fp64 performance, which is particularly relevant for scientific computing using CUDA. This indicates that while it may not excel in general GPU tasks, it has specific strengths in high-precision calculations.

基础模型 Foundation Mode

具身模型 Embodied AI

AI安全 AI Security

评测 Benchmark2
  • 行为驱动:AI系统的新型测试框架
  • OpenAI’s IndQA (2,278 questions, 12 Indian languages) targets cultural/contextual competence beyond English @snsf
上下文工程 Context Engineering1
  • 从提示到上下文工程 :多个讨论串探讨了从“用户应该写什么”到“模型应该读什么”的转变。亮点包括:指令式重排序器作为上下文优先级排序的关键控制点,优于简单的检索 (@douwekiela );一份长达 41 页的上下文工程蓝图(涵盖代理、查询增强、检索、提示、内存和工具)( @weaviate_io );一份面向实践者的“上下文工程 2.0”报告,展望主动式代理的未来 (@omarsar0) ;
应用和行业方案 Application & Solution22

应用

AI4S

  • Deepnote开源:重塑数据科学工作流

交互界面 UIUX

开发者工具 DevStack23

智能体 Agent & MultiAgents

编码 Coding

上下文 Context

组织与个人 People & Org

  • OpenAI估值 1万亿
  • Google财报

课程学习 Course

潜信号11
HowTo3
  • Learn x.com
  • Alec Watson证明洗碗片效果,现在有实锤了
  • AI分析 《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》
Quote1
每周 AI 情报 · AI Buzzwords · EP.60 · 2025-11-07 · 1 小时 7 分
档案重建版,依据当期录播逐字稿与 Notion 信源清单还原。← 返回分享列表
▶ 本期分享 · 视频导览 滑动到文章 · 高亮卡片点击播放对应讲解 收起 ▾