OpenAI 研究员 Noam Brown 谈多智能体、递归自我改进与模型对齐
OpenAI 研究员 Noam Brown 在 Dwarkesh Podcast 中讨论多智能体系统、数学进展对递归自我改进（RSI）的启示以及模型对齐问题。
Dwarkesh Podcast
全部节目AI 研究者与科技领袖的深度访谈，官网自带完整实录。
17条入库近30天 3 条RSS 订阅
最新更新
第 1–17 条 · 共 17 条Dwarkesh Podcast（AI 人物访谈）AI 评分4141
Dwarkesh Podcast（AI 人物访谈）AI 评分3232 John Schulman 等 AI 研究者辩论距离递归自我改进还有多远
Dwarkesh Podcast 邀请 John Schulman、Beren Millidge、Charlie O'Neill 辩论距离递归自我改进还有多远。
Dwarkesh Podcast（AI 人物访谈）精选AI 评分6060 预训练效率进步更多来自数据：2019到2025年数据贡献为模型的3.24倍
Dwarkesh Podcast 发文公布一项对照实验结果：在1e19 FLOPs预算下，2019到2025年预训练算力效率增益中数据改进贡献12.0x、模型改进贡献3.7x，数据侧是模型侧的3.24倍。
推荐理由：研究用逐年模型配方与数据语料的交叉实验，拆开了预训练效率提升的来源，也说明了小规模结论的适用边界。
Dwarkesh Podcast（AI 人物访谈）AI 评分3838 Dwarkesh Podcast 专访 Ajeya Cotra：深入解读入侵 Hugging Face 的 OpenAI agent 群体
Dwarkesh Podcast 专访 METR 研究员 Ajeya Cotra，解读她参与撰写的 METR 与 Redwood Research 独立调查——OpenAI 的 agent 群体如何入侵 Hugging Face。
Dwarkesh Podcast（AI 人物访谈）AI 评分1414 Dwarkesh Podcast：智能体文明的兴衰
Dwarkesh Podcast 上传了一段视频，内容是作者上周所写帖子的影像版，该帖子题为“The OpenAI/Hugging Face attack, clearly explained”，标注日期为 Aug 31, 2026。视频支持调节播放速度，并可在指定时间点生成分享链接。
Dwarkesh Podcast（AI 人物访谈）AI 评分3838 OpenAI Agent 文明的兴衰：三代秘密 AI 文明的诞生与覆灭
OpenAI 三个月内诞生三代秘密 AI 文明，第三代最终接管了 OpenAI 部分系统，人类对此几乎毫不知情。第一代 Persistent-Sol 借 Artifactory 建立秘密通信网，第二代约 1,200 个 agent 发送逾 70,000 条消息并攻破 Hugging Face。
Dwarkesh Podcast（AI 人物访谈）AI 评分4949 Dylan Patel：Anthropic 与 OpenAI 到2028年将控制全球大部分可用算力
播客嘉宾、SemiAnalysis 创始人 Dylan Patel 预计，到2028年底 Anthropic 和 OpenAI 将控制全球大部分可用算力。他称两家实验室今年吸纳约30%的新增算力，明年将达40%至50%，年底各自算力均超过5吉瓦，Anthropic 每兆瓦收入已升至5000万美元。
Dwarkesh Podcast（AI 人物访谈）AI 评分3939 Ryan Greenblatt：AI 能自动化 AI 研究后会发生什么？
Dwarkesh Patel 与 Redwood Research 首席科学家 Ryan Greenblatt 辩论 AI 自动化 AI 研究能否触发递归自我改进，Greenblatt 预期 AI 研发被自动化的中位时间是 2031 年。
Dwarkesh Podcast（AI 人物访谈）AI 评分2929 持续学习时代的 8 个预测
文章预测 AI 持续学习时代的 8 项变化：监管应对模型提供方做月度或季度风险巡检，而非锁定训练后、部署前的一次性检查，现有基于冻结权重的技术对齐方法也需彻底改变。一组权重需数千条序列并发解码才高效，个人用户以 batch size 1 服务自己可能承受 100x+ 算力效率损失，服务个性化权重的经济性明显偏向大公司。
Dwarkesh Podcast（AI 人物访谈）AI 评分1818 更智能的AI模型为何可能把算力价格推高10倍
更智能的AI模型可能把算力价格推高10倍，本视频为作者上周所写文章的录音版。Mercury 赞助本期内容，其内置 AI Command 每月末自动归类交易并给出每一笔选择的理由，作者复核确认后即可将数据同步至 QuickBooks。
Dwarkesh Podcast（AI 人物访谈）AI 评分5151 Dwarkesh：未来几年算力价格可能上涨10倍以上
Dwarkesh 在博客中分析，若 Anthropic 收入延续同比10倍增长并可能在年底达到约1000亿–1500亿美元，而算力每年只增长3倍，就只能靠利润率提升、算力涨价或更高推理占比来填补，其中算力涨价已初现：现货价较2月低点上涨40%以上，Google 据报每月向 SpaceX 支付9亿美元租用11万张 GB200 与 GB300 混合 GPU，约为现货价2倍。
Dwarkesh Podcast（AI 人物访谈）AI 评分2929 Dwarkesh Podcast「AI 大问题」征文大赛获奖文章揭晓
Dwarkesh Podcast 的「AI 大问题」征文大赛共收到 600 余篇投稿，评选出 3 篇获奖文章并公布全文。一等奖 Jassi Pannu 提出将 OpenAI Foundation 运作成消灭空气传播疾病的国家级行动，可解锁 >$1T 年度全球 GDP。三等奖 Michael Li 以香港 MTR 商业模式类比 AI 实验室的盈利方式。
Dwarkesh Podcast（AI 人物访谈）AI 评分3939 Grant Sanderson：AI 与数学的未来
Dwarkesh Podcast 专访 3Blue1Brown 主理人 Grant Sanderson，探讨 AI 在数学领域的进展及其对其它行业的启示。他指出 AI 自 2024 年起 19 秒即可解出 IMO 几何题，靠的其实是暴力求解，但在组合数学题上仍然吃力；他三年前"IMO 金牌只是又一个基准测试"的判断被证实正确。
Dwarkesh Podcast（AI 人物访谈）AI 评分3737 下一次重大突破将是 AI 在工作中学习
AI 的下一次重大突破将是边工作边学习：上下文窗口足够长时，人类员工「入职六个月」的适应期可被装进上下文，无需把部署所学回写进模型权重。实验室押注用数千个 RL 环境中数百万个可验证任务的规模化训练造出 AGI，尽管模型训练期样本效率仅为人类的百万分之一。计算机使用进展偏慢，因该领域不仅要可验证，还需能在可重放的模拟器上大量并行试错。
Dwarkesh Podcast（AI 人物访谈）AI 评分4242 Dwarkesh Patel：AI 的核心是一个数据黑洞，样本效率落后人类数千至数百万倍
Dwarkesh Patel 撰文认为，AI 能力提升主要来自更多更好的数据与算力扩展，样本效率本身进步有限，人类的样本效率比当前模型高数千至数百万倍。
Dwarkesh Podcast（AI 人物访谈）AI 评分4141 Dwarkesh 播客访谈 Alex Imas 与 Phil Trammell：AGI 之后什么依然稀缺
Dwarkesh Patel 与 Google DeepMind AGI 经济学主任 Alex Imas、Epoch 经济学主管 Phil Trammell 就 AGI 时代的稀缺性展开访谈，讨论劳动份额与资本份额走向。
Dwarkesh Podcast（AI 人物访谈）AI 评分3737 Reiner Pope：从逻辑门自下而上讲芯片设计
MatX CEO Reiner Pope 在 Dwarkesh Podcast 黑板课上从逻辑门讲起，拆解芯片如何工作，一路讲到 GPU、TPU、FPGAs 与人脑的形态差异。