实体库 · 期 Buzzwords · 档案重建
EP.5智能体新增 · 待复核
EP.5(2024-04-07):Transformer 那八个人后来都去哪了。档案重建;8 个故事线 / 专题 · 5 个条目 · 讲到 4 个实体。每个故事线 / 专题 / 条目都是库里的一个节点,连到它讲到的机构、App、模型和人。
- 分享日2024-04-07
- 页面xiaopingfeng.com/buzzwords/5/ · 档案重建 · 当期录播后补建的页面,话题 + 备课笔记的链接清单
- 标题Transformer 那八个人后来都去哪了
- 一句话Transformer 八位作者的去向;模型合并能否降低训练门槛;多 agent 编排让 3.5 逼近 4;production ready 成为多 agent 的新关键词
- 规模8 个故事线 / 专题 · 5 个条目 · 讲到 4 个实体
故事线与专题 8 个 · 点标题到页面上的那一节;摘要是页面自己的导语(档案重建的期里是话题)
搜索
排序视图
共 8 条
训一个模型到底要多少 GPU上周那场技术分享里有一份挺实用的东西:训练一个模型需要多大 GPU 的标准算法——总参数怎么折算成显存占用,各项参数分别是什么意思。
Transformer 那八个人,后来都去哪了这期最有意思的是一篇按论文署名顺序讲八位作者的文章,从老一排到老八。
模型合并:把三个模型 merge 成一个HuggingFace 上已经堆了海量模型。有人在做的事情是:假设有 A、B、C 三个模型,能不能 merge 成一个 D,让它保留三者的优势、减少各自的劣势。
多 agent:GPT-3.5 靠编排逼近 GPT-4红杉那场 agent 会议上提到一个当时很有冲击力的说法:通过多 agent 的编排,基本能让 GPT-3.5 的能力达到 GPT-4 的水平。照这个推,用 GPT-4 做 agent 就能逼近下一代模型的水平。
TaskWeaver:一个默认集成了国产 API 的多 agent 框架微软的 TaskWeaver 是这期唯一被单独拎出来讲的框架,原因不在功能——它默认就把智谱的 API 集成进去了,开箱支持。
下一步想试的方向:用多 agent 做 RAG这期结尾提到一个后面打算重点试的方向——拿多 agent 来做 RAG。当时已经有 blog 在写这条路,思路是把检索、筛选、综合拆给不同角色去做,而不是塞进一条链里。
顺带一提:一个程序员认真整理的延寿指南聊到 MetaGPT 那个 repo 时顺带提了另一个项目——一个程序员把「怎么活得更久」的各类证据认真整理成了一个 GitHub 仓库,从戒酒开始往下列,每条都附证据。
团队讨论:竞品分析该不该系统做后半场变成了内部讨论。当时的现状是:竞品和友商方案的信息基本靠零碎收集——从别人的公众号上看到、从客户那边听到,没有人在系统地做对比。
共 8 条 · 数据 2026-11-04
条目 5 个 · 本期资料 5 · 信源徽章与 MUST / TECHREAD / ★ 是页面自己的标记
搜索
栏目
信源
必读
排序视图
共 5 条
共 5 条 · 数据 2026-11-04
这一期讲到的机构、人、App 和模型 4 个 · 名称匹配(名字在标题里记「主角」,只在正文里记「提及」),待复核;按它们在这一期被讲到的条目数排
被讲到最多的(按故事线 / 专题 / 条目数)
共 4 条 · 数据 2026-11-04
机构 · 4
- GitHub公司
- Microsoft公司 · 3 个模型 · 3 个 App
- Z.ai公司 · 3 个模型 · 1 个 App
- Sequoia Capital公司
共 4 条 · 数据 2026-11-04