播客:Kimi K3.1 Pro、网络安全新现实与 Muse 碎碎念
我们——Nathan 和 Florian——想聊聊这一周 AI 领域各种错综复杂的取舍,并探讨一些紧迫的问题,比如:
Kimi K3.1 Pro 跑分如此惊艳,为什么口碑却褒贬不一?它会获得广泛采用吗?
关于开源权重模型的网络安全风险,我们之前的判断错了吗?
为什么网络安全专家和 AI 专家对近期事件的看法如此不同?
接下来几个月会发生什么?什么会改变我们的看法?
关于这个话题我们还会写更多内容,但这次想带你看看幕后——我们希望能尽快深入了解网络安全行业,以及过去几年把我们带到今天的种种趋势。播客结尾还聊了些轻松的话题,从 Muse-maxing 到我们仍在乐于招聘初级技术人才。欢迎大家发来问题和想听的话题,我们之后计划录制更多这类播客。
可以在 Apple Podcasts、Spotify 以及你常用的播客平台收听。其他 Interconnects 播客请点这里。YouTube ↓
时间轴
00:00 Kimi K3.1 评价
08:15 Kimi 的开源权重网络安全原则
11:23 “万物皆可黑”的时代
15:54 PHP2Shell、LiteLLM 与新的互联网
24:00 Abliterated API、安全防护与可信访问
31:41 Anthropic 不招初级员工
36:16 Florian 的 Muse 上瘾
45:30 收尾
节目中提到的链接
文字记录
00:00:00 Nathan Lambert:我们又回来了,这是新一期的 Interconnects 播客。本期嘉宾是 Florian,就是那位“评测专家”,最近刚搬到旧金山。Florian,Kimi K3.1 Pro 这个名字真难念,它能否不负众望,达到像 Artificial Analysis 等基准测试所暗示的水平?或者说,它最终表现如何?
00:00:17 Florian Brand:过去 Kimi 的模型总是能兑现预期,但这次发布跟以往不太一样,有点怪。我觉得部分原因是他们越来越职业化了,之前几次模型发布有点突如其来。而这一次,他们也招来了一些批评,因为这次搞了个声势浩大的社交媒体营销活动,据称还花钱找人发帖宣传模型,且没有进行披露。
00:00:56 Nathan Lambert:很多公司都这么干,还会叮嘱你别声张,但这就是一团糟,是很糟糕的操作,任何公司都不该这么做。事情本质上是有个人发了一条推文,附上了 Kimi 给媒体的宣传指引截图,上面写着“不要提到这是付费推广”。据我所知,之后也没有任何人证实过这条消息。
00:01:15 Florian Brand:是的,现在有不少模型发布,包括美国公司的,明显是刷出来的水军营销。我们见过那种几千条转发、几百个点赞的发布——因为这种手段拉关注度确实很有效。有些会标注是付费广告,有些则不会。总体来看,模型发布的专业化进程很快。一年前,大家就是直接把模型一扔,然后回头再给 vLLM 打补丁,导致那段时间谁也跑不动任何开源模型。现在不一样了,第一天所有推理框架就都支持,第一天所有推理服务商就都上线。或者,这也是越来越常见的做法,模型发布方先独占几周,再放出权重。K3.1 Pro 就是这种情况,我记得是独占两周之后才发布模型权重。
00:02:38 内森·兰伯特:他们表示模型权重将于11月4日前发布。关于核心亮点……我不确定能否共享屏幕,这台电脑没装好相关软件。但重点是“Artificial Analysis”的评分显示,其表现领先于 GPT-6 Astra。如果看 Kimi K3.1 的官方博客,他们列出的核心数据确实非常强劲,但后面的一些数据则显得不太平稳。比如 Terminal-Bench Science,落后 GPT-6 Astra 20分;还有 ProgramBench 等测试。你了解 Terminal-Bench Science 和 ProgramBench 吗?大家是否认为这些是评估前沿模型的重要基准?又该如何解释在 Artificial Analysis 上该模型排名靠前,甚至可能是第三或第四名?目前最新的两个 Claude 5.5 模型是 Muse Wonder Full,接着就是 Kimi K3.1,这分数看起来简直离谱,我想大家对此仍感到震惊。但如今评估模型还有大量细节维度需要考虑。我在 Twitter 上发过一条推文问“大家的印象如何”,很多人觉得“似乎不太好”,也有人觉得“还行”,评价相当两极分化。相比之下,K3 当时几乎是众口一词,而我觉得 K3.1 更像一个大模型,但后训练似乎有点没调好,可能 RL 训练导致模型有点“过拟合”。让我们看看最终结果如何。
00:04:26 弗洛里安·布兰德:关于基准测试,Artificial Analysis 目前使用的基准版本,预计在本期播客发布后很快就会更新。
00:04:43 内森·兰伯特:我们无法透露具体日期,但我们两人都知道。
00:04:48 Florian Brand: 总体来说,Artificial Analysis 的基准测试时间跨度都比较短,而像 ProgramBench 这样的测试则耗时长得多,也更强调探索性。其他基准测试是在告诉模型“目标就是这个,你给我达成它”,而 ProgramBench 更像是“这是我要的东西,但你得自己大量摸索”。我觉得这或许能解释我们观察到的一些差异:他们的 RL 训练目前还是更偏向利用型而非探索型——探索型意味着你得在真正搞清楚状况之前,先把解决方案摸索出来。
00:05:41 Nathan Lambert: 但如果是一个三万亿参数的模型,我觉得它本来就该在探索方面相当强。因为如果你只是想用模型处理一些比较常规的编码任务,比如用 DeepSeek-V4.1-Flash-1017——它在这份榜单上的分数也差不了多少,但速度快得多。按实际 token 数量算,单个任务的成本可能也没差多少。所以我觉得对 Kimi 这次发布的批评是有道理的:模型这么大,它必然更慢,就得做到像 Fable 那样……不过我还是觉得 Fable 在处理模糊任务时挺好用的,有时检查幻灯片我会切回去用,感觉它更懂我一点,而 Opus 就特别费劲。开源权重模型在这种费劲场景下反而更有优势,因为你可以让它跑得更快、更便宜。
00:06:44 Nathan Lambert: 从命名变化来看,Kimi 似乎正在为推出 Flash 风格的版本做准备。之前的 Kimi 模型就叫 K2、K2.6、K3,现在这个叫 K3.1 Pro。所以在 Twitter 上,那些关注公司前景和投资层面的人认为 Kimi 的很多东西都押在这次发布上——某种程度上确实如此。我们虽然不是推理方面的专家,但要服务这个三万亿参数的模型,相比服务那个七千亿参数的模型,显然需要投入多得多的资源。我猜要做好,得上 NVL72 机架才行。
00:07:21 Florian Brand: 要完整部署这个模型,你需要 B300,每个模型副本独占一个节点,这其实有点别扭,毕竟其他模型甚至可以用 H100 或 H200 跑起来,而这两者的货源要充足得多。相比于每节点部署单一模型副本,或者用现有节点承载完整权重,拆分模型部署始终显得麻烦。因此,就这一点而言,三万亿参数刚好处于尚可合理承载的边缘,但与所有 Flash 模型及更小型模型相比,它确实让人头疼,因为后者能充分利用手头现有的大量 GPU。
00:08:15 Nathan Lambert: 你觉得 Kimi 自称在限制自身的网络攻防能力,是不是有点搬起石头砸自己的脚?在博客文章里我能读出这种考量,因为对外宣称是有好处的。他们说:‘基于开源权重原则,这些评估结果决定了我们的开源发布决策。首先,我们不打算发布那些会拓展网络攻防绝对前沿的开源权重。K3.1 Pro 的主动网络攻防能力在出厂设定上就低于我们内部管线能达到的水平,且落后于前沿闭源模型。’他们接着提到……我不确定其中是否包含关于中期训练的环节,但本质上,他们通过操纵中期训练数据,降低网络攻防能力的权重,并验证这种抑制效果能延续到后期训练阶段。你认为这会反过来影响他们现有的其他基准测试吗?或许这也解释了那种长程任务的弱点?还是说人们实际上能把这部分影响剥离出来?”
00:09:08 Florian Brand:我觉得大家完全能分清这些事。我跟不少人都聊过,这种发布方式其实很好。你想让所有人都能广泛使用,从而发现并修补所有漏洞,这对世界整体是好事。Kimi 表示他们仍会发布用于防御的能力强的模型,但不想助长攻击端的能力。我从网络安全从业者那里了解到,真正利用漏洞、渗透甚至摧毁整个组织要难得多,因为这需要长程任务能力,还得在入侵的每个阶段持续站稳脚跟。这方面闭源模型——尤其是经常被点名提到的 GPT-5.6 Sol——比开源模型强太多了。我觉得这点很重要。我们希望所有代码都安全,这应该很快就能实现,但这不需要长程能力,也不需要那些 CTF 风格的挑战。所以把它们从训练数据中剔除是个合理的决定,还能反驳那种“一旦出现具备 Mythos 级能力的开源模型,世界就完蛋了”的恐吓式论调——从某些方面来说我们其实已经有这种能力了,但世界并没有崩塌,我也不认为近期会发生。所以开源模型在这方面受到的审视远比闭源模型严格,他们把自己定位成“负责任的行动者”,是个聪明的做法。
00:11:23 Nathan Lambert:好的,我们可以过渡到这一部分的“万物皆可黑”环节。这里信息量很大,Florian 和我都不是网络安全专家,但这值得讨论。因为在我看来,我所关注的网络安全领域专家更多是从生态系统视角来谈这些问题的。在 ChatGPT 出现之前,漏洞检测、漏洞利用时间等指标就已经呈指数级增长了,AI 大模型的问世并没有带来断崖式的变化,他们聚焦的也是这种生态系统视角。但当你转向 AI 领域,也就是我们在 Twitter 上的那个圈子时,人们热衷于争论开源模型与闭源模型、Mythos 等议题。而混乱的中间地带在于:Daybreak 项目、Mythos 等对更广泛的社会产生了什么影响?我觉得自己在努力理清思路,同时避免陷入某一种特定的观点。但我真的认为这并不主要是开源对闭源、或是能力模型的问题。
00:12:33 Nathan Lambert:我真希望能重温一下 Mythos 发布时的那个时刻,因为我的印象是他们很快就把它包装成了一种网络武器。我可以去回顾他们当时的官方沟通,也许他们本意只是说“这是网络安全领域的重大跨越”,而政府对此感到极度恐慌,非常严肃地对待,随后这个叙事流水线就演变成了 AI 安全社区在预测更多潜在问题上的传播策略。追究媒体生态系统行为的责任很难,但如果你是全球最受关注的公司,你就要对这一切的运作方式承担部分责任。因此,项目里的人给我反馈说:“我们当时没说 Mythos 出现会导致世界末日,我们只说会出现大量问题。”从某种意义上说,他们的确是对的,确实发现了大量漏洞。但我清晰记得过去几年许多 AI 安全公司那种“狼来了”的味道。我曾 与 Dean Ball 有过这样一段交流,我当时试图在 Twitter 上向他指出这一点,我说:“老兄,这招我们玩了几年了。”“狼来了”这则寓言之所以经典是有原因的,这似乎是一个盲点,我真无法理解他们是怎么想的。
00:13:50 Nathan Lambert: 但我们已经身处其中了,漏洞正在被大规模发现,而且我觉得公开可见的攻击事件确实略有增加。也可能是 Twitter 社区里的攻击报道更多了。我聊过的很多网络安全从业者都把报告的网安损失——其中很多来自勒索软件——当作观察趋势的指标。历史上看,AI 在网安损失中占比一直非常非常低。所以如果网安损失因为 AI 而暴涨,那将是一个非常糟糕的世界。但漏洞挖掘这件事本身已经让人非常不安,只是还不清楚它最终会转化成什么。这就是我的看法,以及我认为这种转化可能不会发生的原因。比如我很喜欢 Joshua Saxe 的工作,他提到网络黑客的“供应链”其实很弱。这群人之间存在竞争,而且往往是因为找不到更好的工作才自我选择进入这个行当,这群人可能也不太愿意去做那种动静很大、破坏性极强的攻击。所以我相当确信,国家级攻击者已经在用 AI 大规模收集情报、进行渗透。但放眼全世界,究竟有哪些人愿意用 AI 模型在物理世界制造大规模破坏,目前并不明朗。而我不喜欢的是……说出“接下来四个月我们就能验证这一点”这种话实在很可怕,但考虑到现存漏洞的数量,现实可能就是这么回事。我想你一直在关注那个 PHP 的漏洞事件,不知道你愿不愿意给大家简单讲一下,再聊聊你关注的那些后续评论。
00:15:54 Florian Brand:PHP 的问题基本是这样的:多年来一直存在一个漏洞,允许攻击者在 PHP 环境中远程执行代码。也就是说,任何使用 PHP 的网站都受到影响,而 PHP 支撑着网络上大量的网站。WordPress 就是基于 PHP 运行的最大生态系统之一。OpenAI 的 Patch the Planet 计划联合其他 AI 安全或网络安全研究人员 发现了这个漏洞,随后向 PHP 基金会报告,并与相关方协作完成补丁修复,最终一次性发布补丁。由于 PHP 支撑着 Web 的很大一部分,且该漏洞利用极其强大、风险极高,许多网站甚至一度下线以完成修补,这是正确的应对方式。显然,鉴于此事热度极高,加上人们联想到 Mythos 和开放模型发布,便涌现出各种观点,认为如今任何能运行开放模型的人基本上都能黑掉全世界。但有趣的是,大量报告显示,大规模的漏洞利用尚未发生,也并未正在发生。
00:17:37 Nathan Lambert: 等等,你看到 关于 DeepSeek 蜂群修复它的推文 了吗?
00:17:40 Florian Brand: 看到了。
00:17:42 Nathan Lambert: 我不确定是否属实,但某家大型云公司的员工说:“我们正在目睹某个群体,或是 DeepSeek 蜂群,正在大规模地进行自动化修复。” 很棒的梗。是否属实,就看硬币的正反面了。
00:17:59 Florian Brand: 但总体来看,有些人的预期似乎是:模型一经发布,所有人都能立刻写漏洞利用代码、扫描各种网站、造成大规模破坏。但这种情况并没有发生,这对当下的世界来说是好事。我觉得未来也会是类似的情形——负责任的参与者会迅速修复问题,而这些人占了绝大多数。正如你所说,网络安全从业者都是本行的专家,而且修复漏洞能赚大钱。各家网络安全公司、Anthropic、OpenAI,还有所有 AI 厂商,都靠这类项目赚得盆满钵满,所以个别恶意行为者终究是少数。至于民族国家,我认为完全是另一回事——如果你是一个国家,你拥有的能力完全不同。你可能会运行完全不同的模型,并在很长时间内滥用这些技术。所以,不能因为开源模型在这类事情上变强了,就说民族国家此前不具备这些能力、或者无法通过训练模型来提升自身实力。我们基本上看到的是:整体格局没有变,只是被大大加速了。
00:19:49 Florian Brand: 另一件有趣的事,尤其是考虑到勒索软件这类问题,是很多人至今仍未意识到系统补丁的重要性。我有一些朋友在小型或中型企业工作,他们的反应往往是:“噢,听起来很糟糕,让我查查我的 PHP 版本。”结果发现版本早已过时,因为多年来他们都没有更新 PHP 版本或系统,导致无法获取安全补丁。这使得他们极易受到一系列其他安全漏洞的攻击,而这些漏洞目前尚未被利用,这一点同样耐人寻味。还有一个因素强化了“当前恶意行为体数量极少,且系统可访问性可以比人们想象的要维持更久”这一观点,即 LiteLLM 被黑事件。LiteLLM 是一个软件库,允许你通过一个端点调用所有提供商,从而大幅减少代码量。他们本周再次遭到入侵,结合之前提到的 PHP 及其他安全漏洞,进一步强化了“所有系统都不安全”的印象。据初步报告,他们再次被黑的原因是,一个 API 密钥被提交到了 GitHub,并暴露了五个月之久。这意味着该密钥在某种程度下是可读的,五个月后,有人利用这一点分发恶意软件。
00:21:44 Nathan Lambert:我不认为我们已经进入了防御占优的时代,但我也觉得攻击能力的提升未必是核心瓶颈所在——这里面关系很复杂。这可能也是为什么现状没太大变化:没错,网络攻击的成本和能力确实在快速上升,但执行攻击的那些机构,产出并不会因此翻十倍。真正让人担心的是防御这一侧。Azeem Azhar 在 Exponential View 上写过一篇不错的文章,大意是:这是新互联网的“零日”,未来的互联网可能再也回不到以往那种安全又开放的状态了,因为人们正在用 coding agent 以指数级速度产出代码。代码量暴增,而我不认为写代码的模型能靠自身杜绝所有漏洞——漏洞往往源于软件之间的交互和层层堆叠的方式,这需要模型掌握很多它通常拿不到的上下文。所以目前的判断是:未来漏洞会多得多,而这几年的过渡期正好赶上旧漏洞积压未清、新代码又指数增长的双重压力。接下来几年漏洞数量大幅上升,看起来几乎是必然的,这可不是什么好消息。
00:23:17 Nathan Lambert:但这似乎和开源闭源之争没什么关系。怎么把这类事件的时机和预测,与“开源模型会持续变强、闭源模型也会持续变强但防护并不完善”这个现实结合起来看?我总觉得这两个社群互相都讲不清楚对方对自己的意义。有人无视网络安全社群的观点,而网络安全社群里也有人说“这正好符合我们的预判”。我至今没完全想明白该怎么梳理这一切,因为信息量实在太大、太压人了。
00:23:54 Florian Brand:大体上我同意这个判断。
00:24:00 Nathan Lambert:我关于“四月发布开放权重 Mythos 完全没问题”的观点,最近收到了不少反对意见。那其实是几周前的事,当时我正忙于一篇关于网络安全的文章,便顺带在文末提了一嘴。彼时,舆论界弥漫着一种恐慌情绪,声称开放权重模型将引发一系列问题,甚至导致各种网络攻击。现在很多人纷纷跳出来,声称“看吧,我们当初的担忧是对的,开放权重模型确实导致了这些漏洞和攻击”。但因果关系的认定极其困难。我觉得很有必要去问问那些与大厂安全高管熟识的人,看看企业是否真的在部署开放模型来加强网络防御。我不认为有太多公司会主动出击进行网络防御,给我的感觉是,整个行业更偏向被动应对。所以我也拿不准。但另一方面,有一些 API 服务商正在通过接口提供“已移除对齐层”(abliterated)的模型,这简直是在自找麻烦,无异于主动寻求政府监管部门的诉讼。我真不明白他们为何要这么做。我认为防御用途下的“移除对齐层”可能被过分夸大了,但人们确实希望将模型部署在自家基础设施上,从而无需通过 API 发送任何数据。所以,为了保障系统安全,你反而需要向一个“移除对齐层”的模型发送信息,而且还得通过 API……据我所知,其中一家公司叫作 Abliteration.ai,另一家是 Morph。我认为,这些公司在此时选择托管此类模型,是一个糟糕的决策。
00:25:43 Florian Brand: 我还觉得,abliteration 到底是真有用,还是只是营销做得好,还有待观察。不过整件事至少说明了一点——这或许也呼应了你那个“开源 Mythos 本来就够了”的观点——那就是模型扩散得还不够快。人们很难用上,尤其是当时更难用上 Anthropic 和 OpenAI 的网络安全项目,所以只能用开源模型。显然闭源模型在这些任务上更强,但如果拿不到访问权限、每次请求都被拦,你还能怎么办?只能退而求其次用能力更弱的开源模型。好在 Anthropic 这边现在也变了。要加入 OpenAI 的防御性网络安全项目其实挺容易的:提交身份证明、用硬件密钥做好系统安全防护,然后基本就能获得权限——当然仅限于防御侧,也就是保护自己的代码。我觉得这很棒:如果有人滥用,OpenAI 可以查到背后的真实身份,最坏情况下追责或移交执法部门。进攻性项目依然门槛很高。另外据我所知,Anthropic 也在逐步向更多人开放访问。这完全是好事,而且会改变整个行业格局——让更多安全研究人员能够筛查海量软件、消化积压的代码安全工作,这才是最终真正需要的。
00:27:49 Nathan Lambert:我认为,正是这些程序的存在,促成了大量漏洞披露。PHP 的漏洞披露其实早已在筹备中,就在相关人员着手修复时,信息却泄露了。我更倾向于认为,用户利用受信任访问计划轻松使用这些闭源模型,从而执行了大量此类操作,相关公司理应为此获得认可。而开放权重模型方面的状况实在杂乱无章。只有当灾难发生时,我们才能观察到相关迹象,且难以追踪其使用数据。我始终认为,如果 DeepSeek 的集群黑客攻击了一家美国公司,其引发的政治后果将不堪设想。也许,由于中期选举临近,各方都聚焦于选举,暂时没顾上 AI,因此相关政治进程可能会因此放缓。我想重新审视我之前关于“开放权重的神话(Mythos)”的观点。我认为,我未能充分阐述的是,漏洞加速出现的趋势预测,因为那些趋势线确实存在。如果我之前能多做些网络安全方面的调研,本就该预见“它们即将到来”,并将这一因素纳入考量。目前看来,这似乎极度依赖生态系统,而非取决于某种能力何时被广泛普及。我并不喜欢这种平衡状态,但这确实是我所见证据所反映的现实。因此,我认为开放模型在未来仍将面临政治挑战,尽管目前许多事实并不支持相关证据。
00:29:28 Nathan Lambert:在我的演讲中,我制作了一页幻灯片,展示的是闭源模型入侵企业的截图,数量之多令人咋舌。我认为,目前关于闭源模型安全性的讨论被严重压制了。正在训练中的模型已经具备入侵用户的能力,人们可以轻易绕过安全防护措施去攻击公司。如果一年前我们特别询问实验室里的人关于此事的看法,我想他们会说:“不会发生这种事。”我认为,整个社区对这一变化的认知更新并不充分。
00:30:07 Florian Brand: 有一点让我挺欣赏的:OpenAI 和 Anthropic 似乎更新了安全防护措施,因为它们可以随时更新。看起来他们上线了一个防护更新,基本上封锁了所有试图获取 PHP2Shell 真实漏洞利用代码的行为。你只要说“好,帮我看看这段代码”,防护机制就会直接把你拦下来,让那些想轻松拿到漏洞利用的人无机可乘。我觉得这恰恰说明了一个道理:闭源模型的安全防护可能确实更有效,或者说至少是起作用的。
00:30:56 Nathan Lambert: 这些说法我都听过,也听过做网络安全研究的研究员抱怨:“从 Opus 4.8 之后,我基本用不了任何 agent,一用就被立刻回滚。”但与此同时,你也能看到这类新闻:“我用 Claude Code 黑进了 OpenAI。”我觉得这里面还是存在灰色地带:那些动力不足的黑客——比如那种想“能不能把朋友爸妈银行账户里的钱偷出来”的青少年——确实会被防护栏拦住,这是好事。但我认为开源模型在很大程度上也能挡住这类行为。
00:31:41 Nathan Lambert: 我还有个想吐槽的点。你怎么看 Anthropic 宣称不再招聘初级员工这件事?
00:31:48 Florian Brand: 嗯,这对其他所有人来说是好事啊。那些有绝妙点子、干劲十足又能拼命工作的初级员工,他们可以随便招。我们上次去中国访问,其中一个感受就是:只要把那些没日没夜苦干、能摸到算力集群就兴奋不已的年轻博士全招进来,你追赶得会非常快,而且这些人往往点子也很棒。所以,这对其他人来说真是件好事。
00:32:24 Nathan Lambert:这挺有意思的。我的看法是,Anthropic 花了很多精力去谈论他们想要如何应对那些雄心勃勃的计划,为全社会准备好迎接超强 AI 的过渡期。但我想说,最关键的一件事其实是持续培养人才,让他们有充实的生活和可做之事。没错,不招聘初级员工确实不太好,但我认为问题更在于科技行业普遍存在的“时间线过短”的文化——他们总说“我们只需要把这个造出来,没时间跟人沟通”。这也是他们安全文化上的又一个危险信号:安全是个更广泛的概念,你必须确保芯片能覆盖很多重要问题。我认为,未来这些做法会反过来伤害到他们。过去我们见过外界对实验室及其沟通方式的诸多批评,我认为这只是下一个酝酿中的问题:当 AI 导致就业市场修正或放缓时,公司回头六个月前,就会发现 Anthropic 决定不招初级员工的时间点,恰好赶在青年失业率高企的新闻爆发前夕。这看起来不会太好,而且我觉得他们绝对有这个财力。我认识很多最终选择加入那里的科学家。在工作中建立这些长期关系,确实是这份工作中很有趣的一部分。因此,我认为这再次暴露了实验室文化中有些怪异的方面,他们需要“接地气”一点,认识到改变需要很长时间,而且我认为 RSI(递归自改进)是有其极限的。
00:34:05 Florian Brand:我认为我们还没有看到大规模的就业流失,甚至软件行业也是如此。实际上大家都在疯狂招人,因为使用编码代理能做的事情更多了,而且每个人都似乎工作得更努力。所以,这些事情在现实世界中的扩散速度还有待观察。但话说回来,对于那些没能申请到 Anthropic 的初级候选人来说,去别处看看也挺好的,因为有很多人才正饥渴地寻找合适的机会。
00:34:50 Nathan Lambert:很好奇你们怎么看接下来几周会发生什么。有传言说会有更多开源模型发布,我们还会持续经历一波波漏洞公告,外加零星的黑客攻击。OpenAI 和 Anthropic 还会继续发新模型吗?我猜 IPO 可能也快了。这么多事情同时发生,感觉真是很奇怪。
00:35:23 Florian Brand:我觉得这些趋势会延续下去:披露会更多,需要大家紧急打补丁的大规模事件也会更多。开源模型的发布也会大幅增加,尤其是来自美国的,这对我们是好事。我们关注这块很久了,接下来大概一两个月,各家应该会接连不断地放出开源模型。中国的玩家们也在为新模型发布做准备——其实之前很长一段时间我们都是这种节奏,只是过去一两个月相对安静,现在看来事情要重新热闹起来了。
00:36:16 Nathan Lambert:那 Muse 在这里扮演什么角色?Florian 不自己去超市买菜,不自己点餐,也没有预算概念。
00:36:29 Florian Brand:既然搬到了美国,我终于能真正使用 Muse 以及其它在欧盟被封锁的 AI 工具了。一下子体验所有功能和操作系统的能力,感觉挺有意思。有一样东西我尝试了很久,因为在 Twitter 上读了很多相关内容,终于该动手试试了——就是 Muse。我当然可以手动配置 OpenClaw、Hermes 等工具,但不想在这个上面花太多时间,尤其是它们需要频繁更新。而且我不太放心自己搭建安全基础设施,特别涉及金钱交易时更是如此。还有其他替代方案,但我更信任 Facebook,因为他们在这些领域经验丰富。一旦 Muse 出现数据泄露等问题,他们的股价会直接崩盘,还得面对巨额诉讼。所以他们的风险更高,安全性也更强。因此我设置了 Muse,同时也配置了 Dots,方便随意体验一下。
00:37:53 Florian Brand: Muse 好用得让我有点恼火。虽然它不是最强的前沿模型,但对很多事情来说已经够用了,而且它的主动消息功能特别有帮助。我在德国要注销一堆东西,在美国又要注册一堆东西——社会安全号、银行账户等等,这意味着我得准备各种文件和表格。Muse 会主动给我发消息:“我看到你有个预约,你需要这些表格。你手上应该已经有 O-1 签证了,那张表格就是从那儿来的,这样下载就行。”这帮了大忙。而 Dots 就只会说:“哦对了,两天前你在 Slack 上给那个人发了消息,我已经处理好了,你要不要再跟进一下?”我心想:不用了,谢谢。Muse 还有一个好处:因为公寓是空的,我显然要买很多东西,但我不知道哪些网站靠谱、美国哪些牌子好。所以我直接跟它说:“行,我要把整个厨房配齐,还要买裤子之类的,你去搞定。”我把信用卡给它,它就自己跑起来了。
00:39:29 Florian Brand: 它会把整个购物车都备好——不是在 Amazon 上,因为 Amazon 会屏蔽它——然后给我一个 Stripe 链接结账,这个链接会生成一张一次性信用卡,这点也很妙。就算 Muse 搞砸了,或者商店出了问题,暴露的也不是我的信用卡,而是一张交易完成后就不存在的一次性卡。几天后东西就送到家了,非常省心。要说烦人的地方,就是它有点慢,如果你要办时间敏感的事,自己去逛网站反而更快。另外它的浏览器偶尔会崩溃,崩溃后得重建一切,加上模型本身慢,一次就要浪费 20 分钟——如果你是异步处理倒也无所谓。有些网站开始屏蔽 Muse 的数据中心,或者想办法给它使绊子。验证码倒不是问题,Muse 能很轻松地绕过各种 CAPTCHA。总的来说这东西很好玩,而且我越信任它、它积累的上下文越多,就越好用。我都有点震惊它居然这么有用。
00:40:54 Nathan Lambert:你得给多少东西才能让它跑起来?我猜你得给它邮箱、日历,还有那种装了一堆生活琐碎信息的邮件,然后就只能让它随便造,看看会发生什么。
00:41:08 Florian Brand:首先,你可以从任何系统导入你的记忆数据。每个人都在试图把你锁定在自家的记忆系统里,而 Muse 基本上通过提供提示词来规避这一点,让你把其他记忆系统的信息喂进来,比如在我这里就是 ChatGPT:“好吧,把你关于我的一切都告诉我。”然后你会得到 ChatGPT 的导出内容,再输入给 Muse。但你给它的东西越多……我用了十多年 iCloud 作为邮件服务,而 Muse 和 Dots 都没有和 iCloud 的集成,所以我问“行吗,能配置一下吗?”两者都说不行,但 Muse 还立刻建议:“嘿,你可以登录浏览器,我直接监控那个就行”,这倒是管用。但另一方面,Muse 每次都请求访问 iCloud 的权限,因为它是敏感网站,这其实挺棒,因为我相信 Facebook 能妥善处理这类事务。不过还是有点烦,所以我设置了 Gmail 邮件转发并使用了连接器。现在,因为我在买东西、告诉它一些事情,它就获得了一大堆可以搜索的邮件,并记住:“好的,你买了这些东西。你注册了这些服务。你有这些预约的确认信息。”随着时间的推移,它变得越来越有用。
00:42:37 Nathan Lambert:也许我是个老派的人,但我让 AI 代理给我潜在的新牙医打电话,心里有点过意不去。
00:42:47 Florian Brand:它不能打电话。我的做法是,一旦涉及到和真实的人互动,比如客服或类似场景,我就接管过来自己写东西,因为我认为,保持任何人际连接的真诚,是对彼此的相互尊重。但应对支持表单或其他聊天机器人、所有这些破破烂烂的系统,那就没关系。我不想在这些东西上点来点去。只要 agent 来处理这些,我就想省点时间。
00:43:24 Nathan Lambert:如果有人要给我发一封 AI 写的邮件,我宁愿它先经过 AI 处理再送到我这里,因为我最近订阅了 Pangram,每月付 20 美元,它会检测每封邮件是不是 AI 写的。这给了我充分的理由,把那些垃圾邮件直接删掉。最好玩的是,有些我很熟的人也被查出来了,我心想:“你居然用 AI 写邮件给我?我还以为你给我发邮件发了好多年了”,真是好笑。不过这类元数据确实有用。我不知道怎么才能走到那一步……是 Muse 吗?让大家习惯互相发送 Muse?这看起来是个非常难的冷启动问题。作为一名科学家,我能不能不在网站上挂 Gmail,而是挂上我的 agent 联系方式,让其他 agent 来找到?也许根本不用可见,但我觉得这才是关键:怎么给我的整个网站设置一个面向 agent 的“前门”?支付这块好像已经有基础了,比如可以设计成“付我一美元,你的 agent 就能给我的 Gmail 发消息”,然后看看会发生什么。所以 Muse 在打破这些壁垒是好事,但我的想法是:“我不确定我真的需要它。”我很忙,而且我还挺享受自己去买菜的过程的。不过到某个时候,我肯定会更深入地投身其中。
00:44:58 Florian Brand:我的情况也有点特殊,因为我刚到一个新国家,人生地不熟。有 AI 帮我处理这些事情,帮我省了大量时间,也少了很多麻烦,我对此非常满意。每次我因为觉得哪里不太对劲而去核实,Muse 的答案都完全准确。所以对我来说真的很棒,帮了大忙。
00:45:30 Nathan Lambert: 我总觉得在退款和处理杂事这方面……我刚结完婚,正试图把婚礼网站的域名从 Porkbun(我平时存放域名的地方)迁移出来,但这过程得跟客服打交道。我猜这就是那个时刻:我要跟 Muse 说,“Muse,你得帮我把这个烂网站里的域名给弄回来”。所以我离目标更近了。也许我现在就试试。你们有什么最后的“辣评”(hot takes)吗?我之后很快就会看 《You Can See Everything》(你可以看到一切),挺期待的。
00:46:11 Florian Brand: 不错。我觉得关于“辣评”,尤其涉及我们所有网络安全相关的话题,我们近期储备还够用一阵子。
00:46:23 Nathan Lambert: 且拭目以待。好的。祝大家顺利。希望你们不被黑客攻击。继续披露你们的安全漏洞(vulnerabilities),还有无论如何,别把锅甩给 DeepSeek。我们就以此作结。很高兴见到你们。
00:46:40 Florian Brand: 拜拜。