🔬 奥斯卡奖、两颗小行星与sklearn算法：John Platt谈AI赋能科学研究
你有多久没遇到既拿过奥斯卡奖、又发明了教科书级机器学习算法的嘉宾了？John Platt 手握一座奥斯卡奖、两项教科书级算法、两颗命名小行星，还有一个 6 的Erdős-Bacon 数。这大概是我们要读过的所有嘉宾中简历最精彩的一位。这场对话既宏大又有趣，涵盖了 Google 的经验研究辅助（ERA）项目、AI 如何助力应对气候变化，以及科学与 AI 协同演化的众多精彩故事。
John 的同事 Dave Bacon 常打趣他，说 John 的职业生涯总是比下一个大趋势早了二十年。无论是卷积神经网络（有人认为是他首次提出该术语）、核聚变研究，还是量子计算，都是如此。过去十多年里，John 与 Google 一直致力于用 AI 和计算手段解决人类面临的最难题。最近，John 和他的团队将目光投向了利用 AI 解决任何可以量化评分的科学问题。
Google 的经验研究辅助（ERA）
多年来，John 的团队攻克了许多极具挑战性的科学难题。在解决这些问题的过程中，他们发现了一个规律：许多科学问题都可以简化为 John 所说的“可评分任务”。一旦确定了评分函数，目标就变成了寻找能使评分最大化的代码。难点在于如何制定评分标准，但即便有了评分标准，寻找最优解往往仍需耗费大量精力。
John 的团队着手解决这一通用问题的自动化方案。这源于打造“自动 Kaggle”AI 的构想，即能解决任何扔给它的 Kaggle 竞赛问题。由于 Kaggle 隶属 Google，所有数据对他们而言都是现成且易于获取的！
最终成果就是 Google 的实证研究助手 ERA（论文、github、博客）。1 ERA 在概念上出奇地简单：让 Gemini（或你喜欢的任何 LLM）持续维护一棵由历史实验（notebook）构成的树，并跟踪每个方向的研究进展。它和 Monte Carlo Tree Search 是近亲：每一轮迭代中，用 Upper Confidence Bound 规则挑选最值得变异的 notebook。这种策略是乐观式的而非贪心式的，所以有时排名第五的 notebook 也会被选中。接着由 Gemini 为选中的 notebook 提出变异方案，每次大约十个。每条分支共享历史记录，因此不同的叶子节点之间可以互相借鉴。“这几乎就像雇了一个不知疲倦、干劲十足的博士生。”
演化算法 从上世纪 70 年代就有了，但这次能成，是因为 Gemini 真的知道该往哪儿找！更有意思的是，从 Gemini 2.0 到 2.5 出现了一个台阶式的跃升——以前完全跑不通的东西，现在效果出奇地好。
ERA 强大到 John 和他的团队用它解决了许多悬而未决的问题，产出了至少 十篇论文。其中一些与气候变化相关，我们会在下一节谈到。
于是我们不得不追问：如果你手上有位“优化之神”，该如何避免自欺欺人？约翰的回答是，ERA 提供的是预测模型，而确保模型真正具有解释性，是科学家自己的责任。这当中有些部分，靠的还是老派、严谨的机器学习功底。“它像一把强力工具，不小心能切掉你的手指。”这引出了一段关于 Kaggle 比赛的有趣讨论，以及人们那些花样百出的过拟合方式——他们可能在数据集上刷得不错，却并没有真正解决你关心的那个问题：谷歌的尾迹检测比赛，冠军队伍发现标签里有个半像素的误差（原点究竟在像素的角上还是中心？），而这一点最终成了夺冠的秘诀之一。想拿那一万五千美元奖金，这招挺好使；但如果你真想解决飞机尾迹的问题，就没啥用了。
“人自己也会像这些 LLM 一样，去钻奖励机制的空子。这就回到了古德哈特定律：一旦某个指标成为目标，它就不再是一个好指标。”
那他的建议是，该从哪里入手呢？
“永远先拟合线性回归。做就完了。做。做。做。或者用 SVM。”
用 AI 应对气候变化
约翰和他的团队在缓解气候变化影响方面做了大量工作。我们聊到了他们的几个项目。
其中最有意思的一项，是减轻飞机凝结尾迹（condensation trails，即 contrails）的影响。你看到的那些飞机后面拖着的细细白线，居然占了人类活动导致全球变暖的 1%？！有些由冰晶构成的尾迹可以悬挂好几天。这些冰晶在红外波段是“黑”的，就像一条保温毯，白天黑夜都在锁住热量。
这里发生了什么其实不难理解：大气中某个区域进入“过饱和”状态，2一点点尾气就足以给水汽“播种”，让它瞬间结晶。这里的尺度惊人——一克尾气，能催生十公斤的冰晶。
原则上，解决之道其实很简单！我们知道大气中哪些区域最容易形成尾迹。只要让飞机降低一两个飞行高度层就行了，问题不就迎刃而解了吗？难点在于计算防止了多少升温。这是一个反事实问题，曾把 John 的团队难住了两年多。他们为“吸热”那半部分建立了一个可用模型，但搞不定“反射阳光”那部分。ERA 最终找到了一个简单模型，其中包含一些他们此前未考虑的混杂因素。难题破解了！
一般性气候建模是个难题。气候最好被理解为众多可能天气结果的吸引子（attractor）。3 这使得建模难度大大增加。
“天气是你正处于吸引子上的哪个位置，而气候则是该吸引子的统计特征。气候问题在于我们正在改变它。吸引子本身正在变化、移动。”
John 及其团队既治标又治本，在应对气候变化方面还有其他多项研究成果。我们简要提到的另一个有趣案例是 FireSat，一种利用卫星星座快速识别火灾的方法，以防火势大到无法控制。住过加州的人明白这个问题的严重性。在干燥年份，一场小火灾可能烧毁数十万英亩土地。如果能在火灾只有一个房间大时发现，就能扑灭。等到它扩散到一英亩，处理起来就难多了。
这一切将走向何方？回望来路，展望未来
至此应该很清楚，John 在科学、计算和 AI 交叉领域拥有令人惊叹且独特的视角。John 谈到了他 1982 年跟随 Richard Feynman 修读的计算物理4课程。那时，量子计算还是一个概念模糊、缺乏理论或实验支撑的领域。John 回忆道，每周二有客座讲座，每周四 Feynman 就会解释为什么周二的客座嘉宾说错了。John 还记得，在过去做科研时算力基本为零，每秒百万次运算就算最前沿了。
John 的建议是：最重要的技能是深耕领域专业知识。要培养品味，没有别的办法，只能去啃硬问题。一个出人意料的观点是，John 建议花时间用老派的方式做事：亲手摆弄工具，自己动手实现。
“你可以开车上山，也可以徒步上山。偶尔徒步一下，其实挺好，甚至挺有趣。”
总结来说，John 想告诉听众：科学家依然有立足之地，甚至可以说，未来只会为“有创意的、严谨的、哲学性的工作”打开更多机会。但也别忘了花时间做那些苦活脏活。
“这个世界似乎有一种强烈的冲动，要把一切优化到极致、榨干每一分效率。但过度优化是有代价的——那是过拟合。”
无论你最终用什么工具，John 的建议和四十年前 Feynman 给他的忠告如出一辙：你不能自欺欺人，而你自己恰恰是最容易被骗的人。
和 John 聊天非常愉快，希望你喜欢这期节目！
本期其他内容
在 John 看来，可控核聚变离我们只有三年，而不是三十年。以及为什么 Lawson 判据意味着每种聚变方案都有致命弱点。
为什么超导量子比特至今依然娇贵难伺候。
他以母亲名字命名的小行星，后来发现居然有颗卫星。
迫在眉睫却无人谈及的氦气短缺问题。
NeurIPS 最初是怎么由一群人“蹭”进 Snowbird 的一个私人研讨会办起来的，以及为什么说Hopfield 网络就够了。
给 Carver Mead 当系统管理员的经历：一台 VAX，配 80 MB 硬盘，硬盘有洗碗机那么大。
1985 年怎么找小行星：胶片、立体镜，外加一封写给 Brian Marsden 的信。如今 Vera Rubin 天文台六周就能发现 11,000 颗。
“Feynman 效应”：他在场时一切豁然开朗，他一走就全蒙了。
量子回波，NISQ（含噪声中等规模量子）时代，以及他认为量子计算既非“三十年后”也非“明天”就到来的原因。
一家初创公司想向聚变反应堆中注入汞，并出售嬗变生成的黄金。“这方法可能行不通。”
John 对他所在团队实施的 20% 自由时间规则：做点东西用于学习，甚至不需要告诉他具体做什么。
ERA 的 GitHub 仓库 包含一个开源实现，该实现曾运行 Gemini，但也可用于任何其他 LLM。ERA 目前尚未作为 Google 产品提供。
2“冰过饱和”（Ice-supersaturated）指的是水蒸气，而非液态水。冷空气能容纳特定量的水蒸气，且存在两个不同的临界值：与液态水达平衡时的量，以及更低的、与冰达平衡时的量。在冰点以下，一小片空气可能恰好处于这两个临界值之间。它含有的水蒸气超过了冰所能承受的极限，但尚未多到足以凝结成液滴，且没有冰核，水蒸气也不会直接凝结成冰。因此，这些水蒸气就悬停在那里，处于亚稳态，有时甚至会持续数天，直到某个触发点（成核）出现。
3我们最近在一期与 Anima Anandkumar 对谈的节目中探讨了气象与气候的交叉领域，并计划在后续节目中更深入地介绍气象与气候。
4这段经历其实源于对量子计算的讨论，但那是早期阶段，那时没人真正明白这意味着什么，还只是 Feynman 等几个人在探讨的一个模糊概念。