这期的题目是「AI 的奥本海默时刻」。说的不是一个比喻——政策层的紧急响应、开发者主动争取免责条款、领军人物住所遭袭,这几件事发生在同一周。「我们到底在创造什么」已经从哲学问题变成了日常压力。
这个类比指的是强大技术与研发者责任感之间的那种张力——跟原子弹诞生时是同一种。
「我们到底在创造什么」已经不再是哲学问题,而是日常决策要承受的具体压力。
同一周发生的几件事是连在一起的:政策层对某个高能力模型作出紧急响应;开发者主动争取免责法案;行业领军人物的住所在两天内遭到两次袭击。
技术批评者的愤怒开始演变为现实威胁。
对组织来说,这意味着需要一套比「技术伦理声明」实质得多的利益相关者沟通框架。
年度权威报告里的几组数字:84% 的 AI 专家看好 AI 对医疗的积极影响,公众只有 44%;73% 的专家认为 AI 对工作有正面影响,公众只有 23%。
监管信任度的分布也很极端:美国对政府监管 AI 的信任度全球最低(31%),新加坡最高(81%)。Z 世代是 AI 焦虑增长最快的群体。
企业内部的版本更刺眼:一线员工对 AI 的信任度是 9%,管理层是 61%——相差 52 个百分点。
这就是「自上而下强推 AI」为什么失败的预测因子。Z 世代对公司强推工具的静默反叛,根因就在这 52 个点里。
一个平台披露的数据:agent 发起的请求已占总流量的 70%,一年前只有 10%,预计年底到 90%。
一年七倍,而且还在加速。
对 API 和 Web 服务的架构师,这条的含义很直接:面向 agent 的访问模式优化——并发控制、鉴权、幂等设计——应该从「未来考虑」提到「当前架构优先级」。
配套的东西也已经出现了:有工具专门扫描一个网站的「agent 就绪度」,检查 robots 配置、内容协商、接口、授权、技能与交易支持,给分并给改进建议。「Agent-Friendly」正在变成和移动端适配、SEO 并列的新可访问性维度。
有人给 ML 系统普及之后会出现的新职业做了分类,名字起得很有画面感:
提示词专家;设计 QA 流程去抓模型错误的流程工程师;量化并控制系统性偏差的统计工程师;负责喂养和验证训练数据的模型训练者;替系统失败担责的法律缓冲人;以及事后解读「模型为什么失败」的调查者。
这不是对「AI 取代工作」的反驳,而是对「工作内容如何变形」的清醒描述——当模型行为不可预测,人的角色就从执行者转向驯化者和仲裁者。
企业做 AI 部署的人力配置框架如果不纳入这些角色,会严重低估真实的人力需求,同时高估 AI 的自主可靠性。
三件事凑在同一周:一个模型以一百多轮无人干预的自我修改实现了 30% 的性能提升;一套系统证明 AI 可以完成 2 到 17 周量级的真实编程任务;一个编程系统首次在竞技编程中全面超越人类。
「自我改进」不再是论文里的设定,是能在生产环境里跑的东西。
同期的算力侧读数也很紧:GPU 租用价格 60 天内暴涨 48%。能力和成本在同时抬升。
延伸阅读 · 本刊深潜《Agent 工程进化论:从 Harness 稳定到自主迭代》——百轮无人干预自改这类证据的五阶段全景。
有一条风险很少被算进来:当所有人大规模使用 AI 作为认知辅助,会同时产生两个系统性后果——认知同质化(大家依赖同一批模型,得出相似结论),以及个人认知能力的退化(不经历独立思考过程,技能就萎缩)。
独立认知能力的多样性,对一个社会解决复杂问题的韧性是关键。
这跟这期第二条是连着的:认知鸿沟已经创了新高,如果 AI 进一步压缩独立认知的空间,这道沟会在下一代用户身上以更隐蔽的方式加深。
对做 AI 产品的人,「帮助思考」和「替代思考」之间那条线值得认真对待。