模拟：新的 Scaling Law——Simile AI 的 Joon Sung Park
2024 年我们首次讨论模拟式 AI 之夏时，就知道这会是一个短暂的夏天。但最近它又强势回归：4 月的SimGym之后，如今又迎来了Simile AI 获得 20 亿美元 B 轮融资。本轮融资由 GreenOaks 和 Index Ventures 领投，Fei-Fei Li、Andrej Karpathy 等知名人士参与支持。Simile AI 已为CVS 等《财富》世界 500 强客户运行数千万次模拟，在与人工焦点小组的对比中达到了85%–99% 的准确率。
是时候重新了解，这场模拟技术的“第二个夏天”为何能够成功了！
从打造Smallville——这篇 2023 年具有里程碑意义的 Generative Agents 论文，首次展示了AI 角色能够记忆、规划、社交，并产生涌现行为——到如今构建人类行为基础模型，Joon Sung Park 正试图回答一个更宏大的问题：如果我们能在做出决策之前先模拟这个世界，会怎样？在本期节目中，Simile 联合创始人兼 CEO 将与我们一起梳理从 Generative Agents 到数字孪生的发展历程，探讨为什么当今最前沿的模型仍无法准确捕捉人类的真实行为，以及最终模拟地球上 80 亿人还需要具备哪些条件。
我们深入探讨 Simile 建模人类行为的方法：长篇访谈、观察数据与交易数据、随机对照试验、群体和个体层面的模型，以及围绕人们为何做出某种决策的因果机制进行后训练。Joon 介绍了他们的研究如何构建数字孪生，使其在复现人类行为和态度方面达到人们复现自身回答时 85% 的准确度；也解释了为什么以理性为目标优化的模型，反而可能无法很好地模拟非理性的人类，以及为什么要理解“社会物理学”，可能需要改变模型权重，而不只是向前沿 LLM 提示。
我们还探讨了模拟背后更宏大的目标：在部署产品和政策前先进行测试，寻找通往目标结果的反直觉路径，模拟整个社会中的涌现行为，并最终应对气候变化、民主不稳定和UBI等问题。Joon 分享了他对模拟领域 Scaling Law的思考、数据中心规模模拟世界的经济学、模拟与 Thomas Schelling 及 psychohistory 的联系、模拟为何出人意料地类似绘画，以及我们是否可能已经生活在一个模拟世界中。
本期讨论：
Smallville 和 Generative Agents 如何促成了 Simile
Joon 的团队为何提出：“如果我们能重建我们所生活的世界，会怎样？”
为什么真正有用的个人智能体需要深入理解用户
记忆架构、Markdown 文件，以及提示的局限
“社会物理学”与行为基础模型
为什么网络数据更多记录人们说了什么，而不是他们实际做了什么
访谈、交易、观察数据与随机对照试验
为什么相比预测未来，更重要的是理解如何塑造未来
Simile 如何构建具有代表性的模拟人群
模拟与预测的区别，以及它与《Foundation》中的 psychohistory之间的联系
如何评估模拟，而不是简单堆叠LLM 的幻觉
创建 1,000 个真实人类的数字孪生，实现85% 的行为准确率
为什么前沿模型难以复现真实的人类行为
为什么优秀的模拟必须复现人类的偏见与错误
基于随机对照试验对模型进行后训练
群体级模拟与个体级模拟的区别
人类模拟的扩展定律
长期目标：模拟地球上的全部 80 亿人
模拟能否帮助解决气候变化，或检测民主制度的崩溃
Thomas Schelling 与基于智能体的建模发展史
为什么未来的模拟可能需要整座数据中心
多智能体模拟，以及模拟人类彼此互动时会发生什么
用合成人口取代昂贵的人类调研样本
为什么市场研究只是模拟的起点
为什么 Joon 认为模拟与绘画有着出人意料的相似之处
用模拟研究全民基本收入（UBI）等问题
我们是否已经生活在一个模拟世界中
为什么AGI 与模拟可能是高级文明的两项孪生技术
Joon Sung Park
LinkedIn： https://www.linkedin.com/in/joonspark
Simile： https://www.simile.com
时间戳
00:00:00 从艺术走向 AI：介绍与 Joon 的经历
00:01:46 Smallville、Generative Agents 与模拟的起源
00:05:03 “不如直接创造一个世界”：个人智能体的未来
00:09:53 社会物理学与行为基础模型
00:14:08 预测与模拟：如何塑造未来？
00:16:59 Simile 如何模拟真实的人类与群体
00:25:35 如何评估模拟、数字孪生与 85% 的准确率
00:30:23 通过后训练让模型复现人类行为
00:40:04 Scaling Law 与模拟 80 亿人口
00:43:10 从 Schelling 到社会规模的智能体模拟
00:46:13 模拟世界的成本与经济学
00:52:05 真实世界的应用场景、合成人口与市场
00:57:27 模拟、绘画与 UBI 的未来
01:04:23 我们是否已经生活在模拟世界中？
01:06:08 创建 Simile 与招聘
访谈实录
引言：Joon Sung Park、Simile 以及一路走来的故事
Vibhu [00:00:00]：今天我们请到了 Joon 来做客。很期待开始这期节目。你们是一家非常令人兴奋的公司。我们先从一个问题开始：能不能聊聊你的人生经历，讲讲你是怎么走到今天的？
Joon [00:00:13]：当然，我也很高兴来到这里。说起我的人生经历，我出生在韩国，在那里生活了大约 11 年，后来全家搬到了波士顿。那时我 11 岁，父母都是医生，正在攻读博士后。我父亲是一名外科医生，当时在 Boston Children’s Hospital 做学术休假。我的成长经历和科技圈没什么关系，我从小更喜欢音乐、艺术和绘画。
Vibhu [00:00:49]：绘画？
Joon [00:00:49]：没错。我到高中才开始接触绘画，不过那一直是我过去主要做的事。后来我从韩国搬到美国，主要在东海岸长大。在新罕布什尔州生活了很多年，之后去了宾夕法尼亚州上大学。也是在大学期间，我逐渐融入了科技圈。起初我接受的是艺术家训练，本来以为艺术会成为我的职业，而不只是兴趣爱好。我当时想的是：“好，那就靠这个谋生。”后来我逐渐对一个想法产生了浓厚兴趣：最伟大的艺术家往往会创造属于自己的媒介，而当时我们能获得的最佳媒介，就是计算技术。于是我决定深入探索这个方向。之后一步步走到今天。当然，我们还可以继续展开聊，但我也是在这个过程中逐渐对研究产生了兴趣，然后就走到了现在。
Smallville、Generative Agents 与 2023 年的突破性论文
Swyx [00:01:46]：你刚才提到的研究经历里，包含了很多内容。你在 2023 年发表了最具影响力的论文之一，也就是那篇 Generative Agents 论文，大家通常称它为 Smallville 论文。
Swyx [00:01:58]：当然，你也可以随时回到刚才提到的其他话题。不过，大多数人应该都是通过这篇论文认识你的。你知道有多少人读过它吗？arXiv 应该会提供一些数据吧？
Joon [00:02:10]：这个问题问得好。至于到底有多少人读过，我还真不确定。
Joon [00:02:14]：我知道我们会跟踪论文的引用次数，而且增长得相当快。
Swyx [00:02:23]：是的，Google Scholar 上显示有 7,200 次引用。
Vibhu [00:02:25]：我觉得它的影响力应该还不止于此。这是一篇非常关键的论文，被引用了很多次。
Swyx [00:02:34]：每当有人问“你最近读过的最好论文是哪篇？”这篇论文经常就是答案。
Vibhu [00:02:39]：我觉得其中的记忆组件被低估了。那是一个非常出色的早期记忆系统，也是影响力最大的论文之一。
Foundation Models 与对杀手级应用的探索
Joon [00:02:47]：我先简单讲讲这篇论文是怎么诞生的。2020 年，我在 Stanford 开始攻读博士学位，也正是在那一年，GPT-3 即将面向公众开放。当时我们已经有了 GPT-2，隐约意识到，一类全新的模型正在进入市场，团队对此非常感兴趣。大家普遍的疑问是：“这种模型到底能派上什么用场？”“这些模型没有针对任何特定任务进行训练，实在很奇怪。”但我们决定赌一把。Stanford 有一大群学者参与其中，项目由我的联合创始人之一 Percy Liang 带头，我们一起投入了这项研究
Swyx [00:03:35]：也就是 “foundation models” 这个词的提出者。
Joon [00:03:36]：没错，他提出了 “foundation models” 这个术语。我们后来写了那篇论文，《Opportunities and Risks of Foundation Models》，这个术语就源于那篇论文。在研究过程中，我开始认真思考：这是我们整个生态中一种本质上全新的模型。它之所以新，是因为它并不是为某项特定任务训练的；相反，它的前提是能够完成几乎任何事情。打个生物学上的比方，它就像一颗干细胞。
我对这个问题越来越感兴趣：如果认真想想，这项技术能催生哪些杀手级应用？答案会是什么？当时不少同事都在用它做简单分类、简单生成。模型能做到这些确实很有意思，但从交互的角度看，并没有那么令人兴奋——这些事情我们几十年前就已经知道怎么做了。最后，我们注意到，这些模型是用来自互联网的海量、多样数据训练的，对吧？其中包含人类行为数据：社交媒体、Wikipedia 以及各种其他数据。所以，只要从恰当的角度去探索，就能让模型呈现出非常逼真的人类行为，而这是我们过去从未见过的。
时间机器游戏：重现这个世界
Joon [00:04:45]：这让我们产生了浓厚的兴趣。于是，我们几个后来一起创办 Simile 的同事——Michael Bernstein、Percy Liang 和我——坐下来玩了一个我们称为“时间机器游戏”的游戏。
Joon [00:05:03]：假设我们坐上时光机，把时间快进 10 年，再回头看：哪一项应用会成为最重要、最有趣、最鼓舞人心的成果？我们当时想，如果能把我们生活的整个世界重现出来呢？恐怕没有比这更宏大的目标了。那就干脆创造一个世界。
Joon [00:05:24]：这就是我们的起点。最初，我们发表了一篇名为 Social Simulacra 的论文，它也是后来那篇 generative agents 论文的前身。
Swyx [00:05:32]：在继续之前我想问一下，在这个“时光机”设想中，你们还考虑过其他更宏大的目标吗？第二或第三名是什么？
Personal Agents、User Models，以及 Simulation 为何最先出现
Joon [00:05:44]：有一个目标几乎并列第一，后来逐渐发展成了更多自动化工具，尤其是打造真正个性化的 Agents——它们可以替你完成各种事情。
Swyx [00:05:59]：这件事也正在发生。
Joon [00:06:00]：这件事也正在发生。不过，对我们来说有意思的是，我们之所以决定投入 simulation，首先是因为我本身就是个狂热的科幻迷，而“创造一个 simulation”这个想法一直让我非常着迷。我很喜欢这个概念：看到这样一个游戏般的小镇，再看着这些 agent 在其中生活，确实非常酷。 但与此同时，我的判断是：如果想用这项技术打造一个真正出色的个人助理，第一步必须是建立一个出色的用户模型。比如我对模型说：“能不能帮我买一份晚餐？”结果它点了夏威夷披萨，而我不喜欢披萨上放菠萝。它就这样彻底失败了。要避免这种错误，唯一的办法就是深入了解我是谁。 这个例子很简单，甚至有点傻，但你可以想象，对人的核心理解有多么重要。家人和最亲密的朋友之所以了解我们，是因为他们心里有一个关于“我们是谁”的准确模型，而这正是社会关系建立的基础。 所以我们的另一个判断是：围绕 simulation 的技术——也就是创建对人的准确表示——应该先于那些能够自动化我们现实生活的复杂 agent。这个就是我们的下注方向。 不过，这是我们当时非常接近的第二选择，而我现在依然对此十分着迷。这个领域正在开展许多有意思的工作。不过我要发表一个比较大胆的看法：我们还没有真正看到符合这一方向宏大目标、足够实用的个人助理。 我认为，现在已经出现了一些很有意思的早期应用。即使是如今的 ChatGPT 或 Claude，也已经掌握了不少关于我们的信息，因此它们生成的内容确实更加个性化了。但这个领域的目标非常宏大，我觉得目前还没有凑齐所有必要的要素。
Swyx [00:08:01]：那么，像 OpenClaw 这样的个人 agent，你希望它们具备哪些目前还没有的能力？
记忆、Markdown 与 Prompt 的局限
Joon [00:08:09]：我确实认为这方面正在逐步改善，但总的来说，我希望它们能更深入地理解一个人。现在来看这些模型——比如 OpenClaw，它依赖的是一个 Markdown 文件。我觉得这个思路很巧妙。回顾《Generative Agents》论文，我们当时也有类似的直觉。最初设计 generative agents 的记忆架构时，大概是在 2022 年，那时我们甚至还没有 agentive architecture 这个概念，也没有“agent”这个术语。但我们和如今一些研究工作的共同出发点是：一开始我们想过，要不要把记忆做成 knowledge graph？要不要训练一个定制模型？类似的方案还有很多。后来我们决定：“算了，别折腾这些。”语言模型本来就很擅长对文本进行建模、理解和推理，那就把所有内容放进一个 Markdown 文件或文本文件里，问题解决。我觉得这一点很有意思，而且这样做确实有很大优势。不过，它也有局限：当数据规模非常大时，如何检索并理解这些数据会变得非常费力。所以我认为这项技术正在不断进步。 但与此同时，我也认为，有些东西光靠 prompt 模型是无法塑造出来的。在一定程度上，你确实需要触及模型本身的参数。因此，这方面的工作是必要的，而且也正在进行。问题在于，我们究竟能把它推进到什么程度？我们该如何获取数据？又该如何建立一个生态，让人们持续向模型提供数据，使它不断了解你？
Vibhu [00:09:50]：为什么你认为必须在模型内部完成这件事？
社会物理学与行为基础模型
Joon [00:09:53]：我判断什么时候该训练或后训练一个模型、什么时候只需给它写提示词，关键在于：模型是否需要学习它所处世界的底层规律，也就是新的社会运行规律。如果它已经掌握了这些规律，就不必重新训练。我们可以相信它对这些规律的理解——它已经具备了基础统计知识，现在只是要对环境做出反应。在这种情况下，我认为只要通过提示词，就能引导它生成相应的行动。
我不认为目前公开可用的模型已经学会了人类社会完整的运行规律。这正是 Simile 的核心论点之一。之所以会这样，一个重要原因是：模型训练所用的数据主要来自互联网，也就是网上能找到的各种内容。这些数据集确实很有价值，但本质上主要是人们主动表达出来的态度信息，夹杂着一些零散的行为数据。模型还没有真正学到人类深层的行为本质——不仅是人们声称自己在网上会做什么，更是他们在现实生活中实际做什么。
在我看来，这正是人类尚未捕捉到的一类“暗知识”。而这些数据也需要纳入模型构建过程。
Vibhu [00:11:21]：你们把它称为行为基础模型（behavior foundation model）。
Vibhu [00:11:23]：这个概括很到位。不过除此之外，你们还需要什么类型的数据？在模型层面，你们具体做了哪些改变？你们是如何构建行为基础模型的？
三类数据：访谈、行为与因果
Joon [00:11:35]：我们把数据分成三类。其中一类是访谈数据。这类丰富的定性数据很有意思。它虽然不是行为数据，但我们会直接问人们：“请讲讲你的人生经历。”
Vibhu [00:11:53]：就像我们现在做的这样。
Joon [00:11:54]：你们在访谈开头提出的问题，其实正是我们也会问的问题。我们还会请参与者再深入一些，比我刚才讲到的程度更深。或许我可以多分享一些自己的人生经历，作为对这个问题的补充。之所以说这类数据有趣，是因为通过了解这些关于人的长尾信息，你能为模型——也就是这个人的模型——增添很多细节和质感。哪怕只是了解他们的童年记忆、创伤经历或初恋，也能提供许多难以预料、却非常有价值的信息。这是第一类。接下来是我认为属于行为数据的两大类。第一类是观察性行为数据，比如交易数据，或者通过抓取网络获得的数据。你可以想象这类数据集为什么有意思：它们能告诉你人类行为的基础统计规律。
Joon [00:12:55]：最后一类数据，我个人认为可能是最重要的，是描述行为因果机制、解释人们“为什么”这么做的数据。访谈数据中的定性信息也能覆盖一部分，因为人们会谈到自己为何做出某些决定。但真正能最充分展现行为层面的，还是随机对照试验，也就是 RCT。假设你采用相同的实验设置，只调整几个变量，能否以足够真实的方式还原人类行为？比如，假设你面临一个选择：要不要喝咖啡。喝咖啡的那天和不喝咖啡的那天，你的行为会不会发生变化？这就是一组能够描述因果机制的数据。在建立人的模型时，这一点非常重要。原因在于，人们对 simulation 感兴趣，往往并不是为了预测未来——当然，如果你想在股市中取胜，预测未来确实很有吸引力。
预测 vs. Simulation：塑造未来
Joon [00:14:08]：但对大多数人，尤其是决策者来说，他们真正想知道的是：我们怎样才能塑造未来？告诉他们两季度后销售额会暴跌，其实没什么帮助。他们只会说：“哇，真糟。”他们想知道的是：那我们现在该做什么，才能避免这样的未来？这就是因果机制。 而且，这类数据也很难获得，对吧？现实世界就是我们的 ground truth，但同样的事情只会发生一次。只有在高度受控的环境中，确保所有条件都相同、只改变一个变量，才能得到这类数据，但这种情况非常罕见。所以，如果你想对人类行为建模，这类数据既难获取，又极其重要。
Swyx [00:14:50]：所以我觉得，行为数据是最难获取的数据集。现在到底有哪些数据？又能获取到什么程度？你不可能知道我生活中的很多细节。我甚至没有关于自己健康状况或生活习惯的完整数据，也不会把所有事情都记录下来。那你们怎么获得这类数据？
Joon [00:15:14]：我们会开展很多随机对照试验。
Swyx [00:15:17]：但你们是把人带进实验室，观察他们睡觉之类的吗？
Joon [00:15:20]：我们非常重视知情同意流程。参与者知道，我们邀请他们加入这个社区，一方面分享数据，另一方面也让他们以不同形式被呈现和代表。 我们会把很多人带到实体或虚拟实验室里，设计一些需要他们做出真实行为决策的实验。在这类实验中，区分“态度”和“行为”的关键，通常在于决策的利害关系是否真实。只有当决定会带来真实后果时，它才真正属于行为。 因此，我们也借鉴社会科学、心理学等领域同事的研究方法。比如，他们会假设有一家线上商店，邀请参与者来购物；参与者在实验中买下的商品，之后真的会收到。这些设计能让决策的利害关系变得真实。 我们会开展大量这类实验，也会与企业合作。目前，我们的一些客户也很乐意让我们了解其用户表现出的部分行为，从而更深入地理解人们在不同平台上的行为方式。
客户如何使用 Simile：人群、查询与实验
Vibhu [00:16:39]：我想，站在客户的角度，他们通常掌握大量用户数据，比如谁买过什么，以及用户的行为数据。
Vibhu [00:16:47]：能不能举个例子，说明客户通常会因为什么来找你们？他们希望解决哪些问题？你们会为他们定制模型，还是提供现成的模型？整个流程大概是什么样的？
Joon [00:16:59]：如今，人们使用我们的模型，通常是为了更好地了解自己关注的人群。合作之初，我们一般会先沟通，了解客户希望我们模拟哪类人群。比如，一家面向全美国销售的 CPG 公司，可能想模拟美国的总体人口，这相对比较简单。但如果他们准备进入某个垂直领域或新市场，想更深入地了解居住在加州、年龄在 20 到 30 多岁之间的人群，那目标就具体得多。了解目标人群后，我们会在取得同意并提供激励的前提下招募这些人，收集部分数据，为他们建立模型。
Joon [00:16:59]：接下来，你就可以对这些模型进行查询。输入可以包括一个筛选条件，用来描述你想交流的人群——比如我刚才提到的那类人——以及一个环境。这个环境可以是问卷问题、行为实验，也可以是 A/B 测试。最常见的核心场景之一，是从概念测试入手。当然，客户有时也会组织焦点小组。还有一个很有趣的应用，是模拟上市公司的财报电话会。
Joon [00:18:21]：这些就是我们通常会首先开展的应用场景。
Swyx [00:18:23]：“概念测试”是业内的固定说法吗？我以前没听过这个词。
概念测试、Gallup 与政治
Joon [00:18:27]：是的。它指的是对不同的宣传信息、产品或创意进行测试。
Swyx [00:18:32]：就像一种营销调研。
Swyx [00:18:33]：好，明白了。那政治领域呢？
Joon [00:18:36]：我们确实和 Gallup 建立了战略合作关系。当然，Gallup 深耕政策领域。不过目前为止，我们还没有深入涉足政治领域。
Swyx [00:18:49]：我很好奇，这方面到底有没有需求？或者说，他们是否有一些完全不同、无法和你们现有用户或受访者需求兼容的需求？
Joon [00:19:00]：我认为需求肯定是存在的。
Joon [00:19:02]：但我们非常重视这项技术会如何被采用，以及它最终可能带来的社会影响。我认为，政治是一个企业必须格外谨慎的领域，需要认真思考应该如何运营、如何施加影响。因此，在服务政治等市场之前，我们也希望先建立足够的防护机制，并形成一套清晰的视角，明确应该如何使用这项技术。
Swyx [00:19:29]：我来举个例子。我最喜欢的电视剧之一是《白宫风云》，不知道大家有没有看过。
Swyx [00:19:34]：其中一条重要的剧情线是：总统患有多发性硬化症，但还没有对外公开，他们需要想办法披露这件事。于是，他们找了一个虚构的州长来做民调，询问大家对此事的看法。
反事实推演、民调，以及模拟何时真正有用
Swyx [00:19:47]：他们试图根据民调结果来决定这样做会得到怎样的反响，以及应该采取什么方式应对。
Swyx [00:19:54]：我当时就想，如果我能信任模拟结果，遇到这种反事实问题，我会直接用模拟来判断。
Joon [00:20:01]：当然。
Joon [00:20:02]：那部剧最后是怎么演的？
Swyx [00:20:04]：剧情基本是意料之中的。他们说：“我们知道情况会很糟，只是不知道会糟到什么程度。”然后民调结果出来了：确实糟得不得了。可最后他们还是照做了。
Joon [00:20:14]：这部分也是为了戏剧效果，对吧？你会先设想——
Swyx [00:20:17]：把戏剧张力拉满。
Joon [00:20:18]：“到底能有多糟？”结果发现，糟透了。
Swyx [00:20:20]：某种程度上，我觉得这也是成为你们客户的难点之一，或者说其中的关键：如果我大致知道、凭直觉也能判断出
Swyx [00:20:35]：结果会怎样，那我还需要你们吗？我需要多高的结果精度，才能据此做决定？比如说，我的支持率是 50%，
Swyx [00:20:48]：然后出了一个负面新闻，把支持率降到了 30%。
Swyx [00:20:52]：如果降到 20%，或者降到 40%，我会在意吗？不会。我知道它会下降，也知道这是负面影响。那我什么时候才需要模拟？
Joon [00:21:01]：如果你做了明显糟糕、不得人心的事，大家都不喜欢你，那确实，就像——
Swyx [00:21:05]：那就不需要模拟了。
Joon [00:21:07]：没错。但这里有几个问题。首先，有些应用场景是这样的：开发者、设计师、政策制定者和营销人员每天都在制作各种内容、推出新产品。很多决定事后看似显而易见——当然，这事很糟糕。但即便如此，我们还是会做这些研究，因为要判断影响的大小，以及某件事究竟有多严重，其实相当困难。即使我们觉得“这不是明摆着的吗”，我们依然会犯下那么多错误，原因就在这里。每次有人在网上说了什么，结果引发巨大反弹时，你都会看着他想：“真是个蠢货。”但事情没那么简单。第一点是这样。这里还有另一个方面：这也正是模拟不同于预测的原因。在模拟中，理想情况下——
