引导 AI 走出自动化的窠臼
引导 AI 走出自动化的窠臼
一份研究议程与行动计划
Arvind Narayanan2026年10月14日2134636分享作者:Gabriel Unger 与 Arvind Narayanan。Unger 是斯坦福数字经济实验室的经济学家。
当今 AI 领域最根本的问题之一是:AI 这项事业在多大程度上就等同于自动化人类劳动?
硅谷目前主流的 AI 发展路线(业界和学术界都有拥趸)给出的回答是:"几乎完全如此。"1 这背后隐含着一种技术决定论:AI 有其深层的内在逻辑,天然倾向于自动化。沿着这个方向持续推进,就能走向经济增长、繁荣与利润。AGI 的愿景正是这一事业的最终达成:创造出能力足以自主完成人类一切工作的 AI 系统。
但还存在另一种观点:AI 和任何技术一样,可以朝不同方向发展。完全自动化只是其中一个方向,此外还有别的路径——比如更注重增强人类能力,提升人类与 AI 模型协作的集体力量。
我们的观点并非否定自动化的价值。显然,自动化在某些场景下是有益的;也确实有人出于最狭隘的短期私利,试图抵制这种进步,从而损害了更广泛的社会与经济福祉。但我们认为,AI 还有很多有趣的方式可以增强人类员工的能力。从技术和经济两方面来看,那些试图完全自动化所有人类劳动的极端尝试都 缺乏前景。而目前,大量 AI 研究资源 正被投入到上述极端方向,却牺牲了更具潜力的增强路径。这种对自动化议程的偏重,既源于经济激励,也源于计算机科学在更深层的智识与文化特质。
与之对立的观点在计算机科学的发展史,尤其是人机交互这一子领域,有着深厚的智识根源。此外,当下推动这一方向也有充分的技术与经济理由。随着目睹首个程序实施带来的经济失望,数量虽小但在增长的企业群体正逐渐转向这一立场。尽管如此,该观点目前仍属少数,理解度低,且缺乏组织。最关键的是,当下的计算机科学界尚未清晰阐述一套系统化的 AI 架构方案来支持这一议程。
本文简要探讨了其中的利害关系、这一争论在计算机科学史上的演变、其当前在经济学及其他领域的状态,以及大学计算机课程和文化中的自动化议程。最重要的是,我们在第 1 节勾勒了几个 AI 研究方向,旨在推动人与 AI 的协作。设计真正具备协作能力的 AI,需要解决的技术问题集与当前模型和智能体截然不同,这些问题往往被忽视,甚至未被意识到是问题所在。我们勾勒的具体方向旨在保持试探性和实验性。我们的核心主张是,要明确提出一个不同于硅谷主流范式的 AI 项目构想,并从批判走向对替代方向的积极建构。我们希望这能成为一项更广泛、持久、实验性和集体性研究计划的种子。
第 2 节讨论本项目的高层次动机,第 3 节简要回顾其中一些思想的历史脉络。第 4 节将这一切放入当前经济学与政策界关于 AI 与自动化争论的语境中,第 5 节则概述一种自下而上、市场驱动的方法,用以引导 AI 开发与部署的方向。
1. 协作智能体的研究议程
一项严肃的人机协作研究计划,会提出那些被自动化导向的 AI 议程容易忽视或视为次要的新型技术问题。下面给出四个具有代表性的方向。
问题一:我们能否在各个劳动领域打造“白盒”智能体?
当前 AI 模型与智能体占主导地位的是“黑盒”范式:只根据最终产出评估系统。中间步骤通常不对用户公开,即使公开也往往令人费解(因为它们与人类处理任务的方式差异很大),而且不会被当作任务表现的一部分来对待和优化。黑盒范式的一个原因是模型训练中缺乏过程数据。假设我们用一千幅文艺复兴时期的画作训练一个新的 AI 模型,但没有任何关于这些画作创作过程中间步骤和修改的数据,那么得到黑盒模型就在所难免。它也许能生成一幅风格相近的新画作,却无法主动向我们讲解创作这样一幅画需要哪些步骤。
我们所说的“白盒智能体”,指的是对人类用户在认知上更透明、会明确展示中间过程(来源、假设、方法、不确定性、过程产物)的 AI 系统。白盒智能体能为更直接的人机协作形式打开大门:只要人类能看到中间过程,就能与之直接交互。
白盒智能体的成功开发,需要解决诸多技术子问题。首要挑战在于:为更广泛的人类劳动领域捕捉过程轨迹(process traces)。过去几年,AI 模型的训练与部署过度聚焦于软件编程,原因有很多,但其中关键一点是:大量公开的代码仓库为我们提供了软件研发全流程的详细轨迹。然而,在当今经济中诸多重要专业领域——如法律、医疗和许多科学分支——并不存在如此“神奇”的公共、免费、全面且易于编码化的过程轨迹数据库。
不妨做个思想实验:假设在一个没有开源软件的世界里,出于必要,编码智能体被训练为直接输出编译后的二进制软件,而非源代码,以一种黑盒方式工作。我们认为,软件工程师会觉得这种能力并非解放,反而充满反乌托邦色彩;它不会增强工程师的能力,而是直接取代他们。我们所倡导的转变,等同于向那个世界引入代码仓库和编码智能体——并在当前缺乏这些条件的每一个领域复制这一做法。
一场悄无声息的淘金热正在展开:无论是全力专注于此的新兴公司(如 Mercor),还是那些不惜一切代价试图监控自家员工以用于 AI 训练、进而替换他们的老牌科技公司(如 Meta),都在争相为更广泛的职业领域捕捉过程轨迹,以喂养 AI 模型。吊诡的是,这些努力大多仍服务于自动化范式:寻找训练数据,以便在更多领域打造黑盒智能体。但它们同样关键,能够为新一代白盒智能体的开发提供有力支撑。
问题二:我们能否以足够快的速度开发智能体,以支持实时交互?
主动人机协作的一个基本要素是低延迟。想象两个人真正在对话:如果你每问对方一个问题,他就得离开房间思考 20 分钟,那就谈不上对话了,充其量算把任务委托给他。能以更接近人类互动速度工作的模型,或许能更好地支持更深层次的人机协作形式。
如今我们被迫二选一:要么用反应快但回答流于表面的聊天机器人,要么用能把任务做彻底、却不断打断对话节奏的 agent。这种取舍并非不可避免。
这个目标听起来简单,背后却是一整套复杂的技术挑战,可能涉及模型推理、检索方法、shell、浏览器、工具等方方面面。怎样才能打造出延迟低到足以支撑协作的 AI 系统?agent 技术栈的哪些环节需要改变,才能实现这一点?
低延迟之所以特别有前景,是因为它能帮助工作者保持心流状态。心流是心理学中的一个概念,描述人们从事攀岩、下棋等出于内在动机而投入的活动时的体验:一种变了质的状态,投入者忘记时间和疲劳,完全沉浸于当下。大多数程序员对心流并不陌生,这正是编程吸引他们的一个重要原因。
进入心流状态需要清晰、即时的反馈——也就是低延迟。到目前为止,agent 反而削弱了我们进入心流的能力。许多程序员反映,从亲手写代码转向监督 coding agent 后,心流减少、认知负担加重,甚至出现倦怠。但我们的假设是:完全可以重新设计 agent,不仅找回心流,甚至让人更容易进入心流。
问题 #3:人类与智能体能否持续协作,而不再受限于“回合制”范式?
在自动化范式下,人机交互的基本模型是“委托”:我告诉智能体该做什么,然后走开,稍后再回来验收。许多版本的“人在回路”(Human-in-the-loop)本质上仍回归于此;人类在技术上确实在回路中,但只是站在起跑线,然后在终点线等待。这与协作模型截然不同——后者要求人类积极参与过程,并在智能体工作时持续为其指引方向。
如今主流编码智能体中已存在初级版的持续引导,但仅限于在工作过程中向智能体下达额外指令。这只是对“用户与智能体轮流行动”范式的微调,而非突破。如果用户试图编辑智能体正在处理的同一个文件,智能体就会陷入混乱,一切结果皆不可控。
真正的协作带来了一系列全新的技术挑战。系统需要展示持续变化的可见状态,而非逐轮更新;需具备共享工作区,并支持中断、并行工作、同步编辑等协作模式。这在那些难以事先精确定义任务、或验证复杂且与实现紧密相关的领域尤为重要。要应对这一挑战,需设计允许持续控制且在中断下不崩溃的交互架构。
问题 #4:如何评估并优化人机协作?
目前大多数 AI 基准测试 考察的是模型独立完成任务的能力,而非模型与人类协作的效果。(这很可能是基准测试表现与实际效用之间出现落差的部分原因)。
评估 AI 与人类协作团队的整体表现很难。这个问题说起来简单,但要真正取得进展并不容易。如何最佳地评估 AI 与人类的协作本身就更加困难,它会引出一整套复杂的问题,乍看之下可能显得过于主观或令人困惑:AI 模型与人类之间保留多少分歧才算合适?模型应该有多顺从,人类又应该掌握多少控制权?一段富有成效的协作中,双方需要多少空间互相学习?如何衡量团队的短期与长期成功?评估协作成功最客观的方法是什么,应该从数据中选取哪些最佳信号和代理指标?
提升协作能力这件事,可能无法套用让自主任务表现快速进步的那套基准测试加爬山优化范式。基准任务作为真实任务的代理还算够用,两者上的表现可以互相印证。但协作涉及真实的人,静态基准行不通。模拟用户是一个有前景的思路,但超过某个程度后,模拟用户与真实用户行为之间哪怕微小的偏差,都可能导致模型训练奖励了错误的东西。
2. 自动化议程的问题出在哪里?
关于自动化潜在弊端的争论,往往只聚焦于纯粹的分配问题。批评者担心,大规模自动化可能造就一大批失业、贫困或失去权力的劳动者。经济学家传统上对这种担忧持怀疑态度(现代经济史显示,技术进步、部分自动化、然后就业再分配,本来就是一种正常的循环)。硅谷更常见的立场是承认大规模失业的经验前提,但把它视为好事——人们将不再“不得不”工作,并由全民基本收入(UBI)或某种更奇特的福利方案来支撑。
这种“自动化加补偿”的协定存在诸多问题,其中一个显而易见的是,它完全脱离了当前美国可辨识的政治经济格局。自 1980 年代以来,收入不平等急剧扩大,但美国精英阶层并未以慷慨的新政治福利扩张方案作为回应。美国政治也未催生出精英之外的广大选民联盟,去要求并赢得这种扩张。(在同一时期,许多基础现金福利项目反而被削减了。)即使某种类似 UBI 的方案在政治上可行,它对硅谷以外的普通民众也缺乏吸引力。大多数美国人想要的是拥有< a href="https://www.pewresearch.org/social-trends/2023/09/14/what-makes-for-a-fulfilling-life/">真实生活并从事< a href="https://blog.csaip.org/p/what-56000-americans-told-us-about">实际工作,而不是领取救济金。
其次,即使我们接受自动化议程,该议程在其自身逻辑下也正举步维艰。在自动化议程驱动下的工业 AI 部署努力,日益承诺交付高性能的智能体(Agents),这些智能体同时具备部署成本低廉(无需针对特定任务开发或配置)、可靠以及真正自主的特性。然而,这些目标之间存在着直接的张力,甚至构成了一种< a href="https://substack.com/@aisnakeoil/note/c-133518692">三难困境——(1)完全自主,(2)在高风险场景中< a href="https://www.normaltech.ai/p/new-paper-towards-a-science-of-ai">可靠,(3)真正通用。三者只能选其二。
当前关于 AI 行业最直观的问题之一是经济账是否算得过来:数十亿美元的资本支出(capex)与许多企业不明朗的投资回报率(ROI)相对比。放松自动化议程的限制,实际上可能为一种更具经济可持续性的 AI 模式打开大门。
最后,AI 对经济增长有实实在在的潜力。美国的生产率增长在过去 50 年里基本停滞,因此抓住这个机会至关重要。AI 最激进、最有趣的用例,很可能是那些让我们能做以前做不到的事情的应用。如果只盯着把我们已经会做的事情自动化,变革性要小得多,也不太可能带来快速的经济增长。业界和政策制定者普遍意识到,AI 的一个积极愿景尚未被清晰地阐述出来。我们认为,要提出这样的愿景,首先需要摆脱对自动化的一味执念。
3. 为什么自动化议程占据主导
一个观念的历史
在现代计算机的早期(1940 年代至 1960 年代),关于计算机应该成为什么、人机关系应该是什么样,存在三种不同的愿景。它们各有交集,但彼此独立。第一种愿景后来演变为经典 AI,追求近乎拟人化的机器——能推理、解决问题、有自主性、用途通用、会说人类语言。"人工智能"一词就是在 1956 年的达特茅斯会议上提出的(连这个名字本身都在尝试拟人化!)。
第二种愿景后来演变为机器学习,强调在定义明确的一组任务上做到窄而深的性能——用大量数据来做预测。在选择任务和使用预测结果这两件事上,人的角色往往被默认保留着。
第三种愿景(后来成为 HCI 这一分支领域)则非常明确地追求人机协作。JCR Licklider 1960 年的"人机共生"和 Engelbart 1962 年的"增强人类智能"等著作提出:人和计算机各有不同的能力,我们应该思考如何设计最佳团队和组织来把两者结合起来,而不是孤立地去设计最好的计算机;最好的计算机是那些能与人迭代式、交互式协作的计算机,而不是自主完成尽可能多工作的计算机。
今天的 AI 是经典人工智能与机器学习的融合体。HCI(人机交互)依然是生机勃勃的子领域。鼠标、图形界面以及个人计算机中许多我们习以为常的设计特征,皆源于这一群体。他们最为关心的,是制造能与人类良好协作的机器。然而,如今 Licklider 和 Engelbart 等 HCI 先驱所秉持的“人机协作”愿景,似乎已成为少数派观点。经典 AI 的愿景反而成了新的正统。为何它如此具有主导性?
当下的自动化议程
将 AI 视为纯粹自动化工具的吸引力源于多重因素。首先是表面上的经济理由(即便这一理由最终未必站得住脚)。在大多数行业的企业中,生产环节最大的成本是人力。在 20 世纪的美国,劳动力通常获得生产收入的三分之二。对于高管而言,削减人力往往是最显而易见的降本手段。裁员还能在短期损益表中立即体现成效。此外,由此带来的确切成本节约易于估算。相比之下,旨在提升生产力的宏大投资或许十年后才有回报,但事前难以评估,且无法带来即时的财务满足感。
这一切的背景是,当前的政策环境在诸多方面都偏向资本而非劳动力(例如,在相对税收待遇上),且实际利率经历了数十年的下降趋势。如果你是一家财富 500 强企业的缺乏想象力的 CEO,你会对“替代人力工作”的方案极度关注。如果你是一名 AI 初创公司创始人,正在向那些希望打造令此类 CEO 心满意足的产品的高管或 VC 推介,你对此会尤为敏感。
经济学层面是故事中显而易见的一部分。但计算机科学(CS)内部还存在着其他更不显眼、更微妙的层面。
让自动化对研究者更有吸引力,还有一系列技术层面的原因。自主的模型或智能体非常适合用非常干净的 benchmark 来衡量:模型把任务完成得怎么样?损失函数、性能指标、模型之间的对比,都可以做得很优雅——远比在真实场景中评估人与 AI 如何协作要省事得多,后者往往一团乱麻。
最后还有一层原因——最隐晦,但也确实存在——那就是当今 AI 乃至整个计算机科学界的深层思想文化背景。自主系统被当作一种美学理想教给学生。“端到端”的系统被视为一种胜利,而需要人类监督则被看作一种缺陷;甚至人们在谈论人类参与时(比如"human in the loop"),往往也把人描述成一个暂时的麻烦。Peter Thiel 在《Zero to One》中将其称为“计算机科学的意识形态”:
“为什么这么多人忽视了互补的力量?根源在学校。软件工程师倾向于做替代人力的项目,因为他们在接受训练时学的就是这个。学者靠专门化的研究建立声誉,首要目标是发表论文,而发表就意味着必须遵守特定学科的边界。对计算机科学家来说,这就意味着把人类的能力拆解成一台台计算机可以被训练去逐个攻克的专门任务。”(第 12 章,第 148 页)
在 AI/ML 的教学中,标准做法是教学生一套模型流水线(问题定义、数据、模型选择、训练、评估、后训练、部署、监控),其中被构建的核心对象是准自主的,而人机协作的问题往往被搁置一旁。人类可能偶尔出现(作为数据标注者,或提供强化学习的反馈),但并不被当作核心主体。智能体就是那个模型。
在财富 500 强 CEO 们关心的经济学问题登场之前,计算机科学作为一门学科的深层文化,早已塑造了我们构建 AI 的整个思路。
4. 当前经济学与政策界关于 AI 与自动化的争论
AI 对劳动力市场影响的实证研究是一个快速演进的话题。但在更深层面上,经济学家中存在一种普遍观点:技术就是技术本身——我们无法掌控它的方向和发展,任何试图干预的做法都显得天真、不切实际、令人尴尬,注定失败。如果 AI 只是一台用计算机任务取代人类任务的自动化机器,那它就是这样。技术进步是一种单向的线性运动,经济政策的首要任务就是不要挡它的路。技术可以在不同方向上真正发展的想法——无论是作为一般规律,还是 specifically 在 AI 领域——仍然相当陌生。
不过也有显著的例外。Acemoglu 和 Restrepo 有一系列论文论证存在“过度自动化”。Acemoglu 和 Johnson 在《Power and Progress》一书的结尾主张发展支持增强人类能力的 AI。Brynjolfsson 把 AI 过度聚焦于模仿人类的危险称为“图灵陷阱”。Autor 则指出,AI 真正的前景或许不是自动化,而是把隐性知识普及给更广泛的劳动者。Mullainathan 及其合作者正在发起一系列研究项目,主张我们应该推动“人机协作”的视角,但“……遗憾的是,今天驱动 AI 的是另一种愿景:替代人类心智。在我们看来,这是一个相当乏味的未来图景。自动化能降低成本,却难以抬高上限。仅仅复制人类能力,也意味着我们受限于人类自身能力的极限……我们致力于为心智打造自行车——开发增强而非取代人类能力的算法和 AI。”
显然,和计算机科学界一样,经济学界也不乏志同道合者。但这仍属少数派立场。许多经济学家对 Acemoglu 和 Johnson 那本书的回应,尤其是在这一点上,往往充满轻蔑与居高临下的姿态。
双方分歧的一部分,其实源于对「如何实际引导 AI 朝有利于劳动者的方向发展」这件事的误解。怀疑论者想象中的方案,是一种笨拙的、苏联式的自上而下命令经济,甚至不惜直接禁止多种形式的自动化——比如自动驾驶汽车或仓储机器人——来保住就业岗位。
这不是我们所主张的。自动化并非一无是处。很多工作极其程式化,天然适合自动化。为了保住它们而打一场后卫战毫无意义;把它们自动化掉,本身就是重要的社会和经济进步。1900 年代芝加哥肉类加工厂的工人,每天工作 12 小时、每周 6 天,换来的却是低薪、断肢和被机器砸死的命运。弗吉尼亚煤矿里的工人处境可能更糟。自动化在这两个行业都是巨大的进步。美国每年有 4 万人死于车祸,原因不过是人类开车技术不佳;总有一天,当我们身处自动驾驶汽车的世界回望这个数字时,大概也会同样感到震惊。
自主 AI 智能体在知识工作中也自有其用武之地。有些任务中,那些更「人类专属」的特质(隐性知识、判断力、对情境和目标变化的把握)相对不重要,活动本身是程式化的,产出易于验证,少量错误的代价不高,或者给人类带来的风险和痛苦较大。以上条件的某种组合,可能足以让某个领域实现完全自动化。
但提出「增强优先」的 AI 路线,关键在于两点:(1) 还有另一大类活动,在今天的 AI 技术水平下并不适合自动化;(2) 如果 AI 领域在各种技术、经济和认知上的混乱中,误入歧途地去追求 (1) 这种注定难以成功的努力,而不是去推进人机协作、真正提升人类在现实世界中的生产能力,那将是令人遗憾的。
我们认为,政策可以在边际上推动我们走向一个自下而上的世界——让人们去探索那些能更好赋能人类的 AI 形态。我们会在下一节末尾给出一些具体建议。
5. 如何引导 AI 走向增强?一种自下而上、市场驱动的路径
假设你认同这样一种观点:如今的 AI 行业过度偏向把 AI 视为自动化这一狭隘愿景,这对许多打工人不利,对许多企业和整体经济增长同样可能是一种次优选择。那我们该怎么办?一个稻草人式的答案是自上而下的政策干预。更严肃的答案是自下而上、多管齐下:我们设想的方案包括去中心化的技术试验、计算机科学界内部的思想和文化转变、一些精准的政策杠杆,以及企业逐渐发现自动化路线本身可能就难以为继。
新玩家和新产品开始满足对协作智能体的未被满足的需求
市场上还没有真正的协作智能体。由 OpenAI 前任 CTO Mira Murati 创办的实验室 Thinking Machines 发布了一种这类智能体的架构。按照他们的设想,一个面向用户、超低延迟、多模态的模型负责前台交互,把更复杂的工作交给更强大的后台模型。不过他们还没有推出可用的产品。但令人欣慰的是,已经有一家资金充足的公司在human-AI协作上押下重注。
与此同时,三大前沿实验室(OpenAI、Anthropic 和 Google)都在大力推动低延迟,OpenAI 尤为突出,因为它与 Cerebras 达成了合作,Cursor 和 Cognition 也在跟进。我们预测,随着更多打工人体验到这种与 AI 协作的工作方式,需求会不断增长,形成飞轮效应。
另一类可能打造协作智能体的公司(虽然目前还没有行动)是深耕特定领域或垂直行业的公司,比如法律领域的 Harvey AI 和医学领域的 OpenEvidence。高效的协作系统往往需要领域专属的数据轨迹、专家的隐性知识和行业经验。相比之下,大型前沿 AI 实验室未必具备这些条件,而行业公司则更擅长把 AI 能力与深厚的领域知识结合起来。这种组织模式最能发挥作用的行业,比如法律和医疗,往往受到严格监管。受监管行业天然适合人机协作模式,因为在很多决策环节上,本来就有法律要求必须由人来把关。
超越协作:通往人机互补的多条路径
协作只是人机互补这一更广阔的设计空间中的一种形态。下面再举几个例子,仅供参考而非穷尽列举。对每一种形态,都可以像第 1 节那样,把它拆解成一系列具体的技术挑战。
集体智能:AI 可以改变并协调人类团队彼此之间的协作方式,形式多种多样:保存组织记忆、调解冲突、识别团队内的专长、整合分散的知识,以及其他协调辅助。这里的直接目标不是完成某个具体任务,而是整体提升团队的生产力。
新任务与新能力:用 AI 自动化现有的人类劳动,与用 AI 去完成人类原本做不到的新任务,是完全不同的两回事。历史上有很多技术创新都属于后者,比如飞机和显微镜。
技能提升:跳出短期任务执行的视角,AI 还能帮助人类工作者提升长期能力。AI 尤其擅长内化专家的隐性知识;只要经过有意识、用心的设计,它长期来看完全可能让工作者在各自领域变得更加专业。
环境智能体(Ambient Agent):AI 模型/智能体的常规范式可以称为“被调用模型”——只有你明确调用它、让它做事时它才出现。相对地,我们可以定义一种“环境智能体”:一种在组织范围内持续运作的 AI 模型,即使没被明确调用,也在观察上下文并主动提供帮助。这固然带来一系列新挑战(隐私、分寸感),但它也是另一种人机协作范式,蕴含独特的机遇(更多上下文、更多组织知识、有趣的新型协作方式)。
HCI 的角色与文化变革
在计算机科学领域,HCI(人机交互)历来是认真对待人机协作的先锋。但如今它在 CS 中的地位已相当边缘化。如果它要在帮助 CS 摆脱自动化议程、转向更有生产力的方向上发挥超乎寻常的重要作用,需要两件事同时发生。
第一,计算机科学系、资助机构以及其他议程制定者需要有意识地提升 HCI 的地位。第二,HCI 自身需要进化以应对时代要求。它在思想和方法上一直自我设限,这也是它被边缘化的部分原因。简单来说,HCI 把人类掌控视为公理而非工具性目标,其分析单位是“用户”,导致它对公司、组织、激励、权力和政治经济学这些更宏观的问题几乎没有发言权。
新近兴起的 Human-Centered AI(以人为中心的 AI)运动在一定程度上是 HCI 的复兴尝试,试图将其与 AI 融合,但无论体量还是影响力,都远逊于通常全盘接受行业优先级的主流 AI 领域。不过在某种可能的未来中,一个进化后的、更强大的 HCI(以及 HCAI)版本将在大学中地位上升,并拥有真正举足轻重的议程制定权。
同样,AI 教学长期以来也总是以 AI 系统为中心,忽视了人的存在。但事情本可以不是这样。我们可以想象对课程大纲、基准测试设计、研讨会以及资助优先级做出改变。
有针对性的政策
除了粗暴地禁止自动化或自上而下地强制推行技术路线之外,更聪明、更有针对性的政府政策也可以成为扭转自动化浪潮的一份力量。
在供给侧,可以调整科研资助的优先方向,甚至设立 DARPA 式的大奖。在需求侧,美国目前的税收政策实际上偏向自动化,这种不对称是可以缓解的,但需要谨慎行事,避免粗暴地把 AI 系统监管性地归类为“自动化”或“增强”。政府还可以利用自己作为 AI 大买家的地位施加影响。最后,凡要求 AI 必须有人类监督的法规,都必须确保这种监督是真正有效的,而不是走过场式的橡皮图章。
竞争政策也能发挥作用。自动化范式已经抢占了先机,政策制定者应当确保客户不会被锁定在某个方案上。让工人在 AI 部署的谈判中有更多话语权,是引导行业走向增强路线的又一途径,无需硬性强制。
订阅以获取基于证据的 AI 影响分析
订阅结语
在关于 AI 发展方向的内部博弈中,自动化路线目前正占据上风。而赌注极其高昂。史上规模最大的和平时期民间资本投入之一,正在大规模涌向一种自动化的 AI 愿景——这种愿景不仅在经济上可能本身就难以为继,也是在浪费 AI 帮助我们去做此前无法做到之事的全部潜力。
所幸的是,有一大批人——包括经济学家、技术专家和其他各界人士——正在努力理解和开拓 AI 的另一条道路:更加重视人机协作,让 AI 帮助我们做成新的的事情,而不只是把旧的事情自动化。
这一方向的核心任务,是为这类人机协作建立一套系统性的 AI 研究纲领并加以推进。我们希望,通过更强的集体意识与共识,以及更好地整合和协调已有的众多努力,这种自下而上、去中心化的方式能够成功引导 AI 的发展与部署方向,而不必依赖自上而下的指令。
延伸阅读建议:
关于经济学家对这一话题的观点,可参阅 The Turing Trap 和 Building Pro-Worker AI。
关于这些思想在 AI 与人机交互(HCI)领域的简要历史,可参阅 How AI Fails Us 的第 V.B 节。
论文 Human Amplification, Intelligent Agents, and the Aims of AI Research 从哲学角度提出了与我们相似的论点,但我们的讨论范围更窄,聚焦于面向劳动者的 AI 工具。
论文 AI Agents Push Humans Out of the Loop 批判了当前 AI agent 的设计。
即使不必等 AI 系统被重新设计,个人也有很多方法可以增强自己的主动性:Arvind 在他的 ICML 演讲 中分享了一些想法。
业界常有一些套话,声称其工具是为了帮助劳动者而非取代他们。但实际的优先级——AI agent 如何设计、如何评估,甚至 AI 课程教授的内容——讲述的却是另一个故事。自动化假设也是业界领袖频繁预言大规模失业的底层逻辑。OpenAI 的章程明确表示其使命是实现 AGI,并将其定义为“在大多数具有经济价值的工作上超越人类的高度自主系统”。Mechanize 之类的公司更是直白地宣称全面自动化势不可挡、不可避免。
2134636分享