← 文章 / AI技术
MIT Tech Review 6小时前 · 2026-08-29 01:13:20 · 2 阅读

比尔·盖茨称AI已越过危险临界点:接下来怎么办?

华盛顿州柯克兰迎来一个灿烂的日子。这里是西雅图东岸、华盛顿湖畔一座富裕的郊区小城。气温在华氏80多度,天空蓝得无可挑剔。Gates Ventures会议室的窗外,是卡里隆角码头:一群价值不菲的游艇在水面上轻轻摇曳,湖对岸则是勾勒出天际线的奥林匹克山脉。景色美得令人陶醉,却又隐隐让人不安。

因为眼前的景象虽宁静,传递消息的人却并不平静。Bill Gates坐在我对面的会议桌旁,身体随着椅子前后晃动,情绪异常激动。他谈到恐怖袭击、经济崩溃,或是人类最终失去对AI系统的控制时,话越多,我也越发坐立难安。

这位慈善家、Microsoft前CEO表示,随着AI技术日新月异,而安全防线却没有跟上,他越来越感到担忧。在今天发表的一篇新文章中,Gates指出,面对多种潜在风险,我们早该采取措施,但如今已经越过了应当设防的临界点。他在接受MIT Technology Review采访、谈及这份新备忘录说:“在(AI的)生物能力、网络能力、心理社会能力、摧毁就业市场的能力,甚至失控风险方面,我们都已经跨过了警戒线。让我震惊的是,行业之外几乎没有人对此表示担忧,也没有展开讨论。”

为了让世人意识到这位70岁的科技巨头眼中正在迅速加剧、足以扰乱整个社会的风险,他开始以“刺耳的声音”拉响警报:一方面通过这篇新文章公开发声——这是他计划围绕这一主题发表的多篇文章中的第一篇——并在与媒体的交流中反复提醒;另一方面,也在与行业、政府和公民社会领导者的私下交谈中表达忧虑。

Gates提醒的问题很多,但他对当前前沿模型生物能力的警告尤其令人不寒而栗。他说:“任何能够设计出新型分子的模型,都应该受到监控。我认为,与自然发生的疫情相比,生物恐怖主义的风险可怕得多,发生的可能性大约是自然疫情风险的50倍。”

除了发出警示,他也提出了一些推动社会向前发展的新想法,包括为人类保留部分工作,以及对机器人和 token 征税。(机器人税是他多年来一直倡导的理念。)所谓“人类保留岗位”,是指保留一部分经社会共同认可、必须由人来承担的工作,而且不同国家保留的岗位可能有所不同。后者则是从取代人类劳动的 AI 应用所产生的收益中抽取税款,专门留存起来。

当然,字里行间也透露出一丝乐观。Gates 看好 AI 持续改变农业、医疗和教育的方式,也看好它帮助我们应对官僚体系的能力。他认为,最终我们会进入一个物资充裕的时代。但在那之前呢?先是一段动荡期,而且会相当剧烈。

MIT Technology Review 与这位亿万富豪兼慈善家进行了对谈,讨论未来的道路、其中潜藏的危险,以及这条路有朝一日如何把我们带向更美好的地方。

以下采访内容经过删节,并为提升清晰度和可读性进行了编辑。

Mat Honan / MIT Technology Review:谢谢你接受采访。不知道你有没有什么想先说的,还是我直接开始提问?

Bill Gates:你知道,有个问题我经常被问到:我为什么现在站出来发声?

MIT Technology Review:这正是我的第一个问题!

Bill Gates:主要有两点。一是,在生物能力、网络能力、心理社会能力、摧毁就业市场的能力,以及控制能力不足等方面,我们已经跨过了那些临界点;现在已经能看到这会带来麻烦。这些年来,人们一直说:“等我们接近这些临界点时,就会想办法确保只有好人能使用它,或者阻止它做出这些事情;也许到那时,我们还会禁止人们复制模型。”而现在,我们竟然已经跨过了这些临界点,这让我感到震惊。

之所以这么说,是因为我们已经跨过了这些门槛。其次,我对外界缺乏关注和讨论感到震惊。行业内部的情况比较复杂,因为大家都不喜欢自我批评,或者互相拆台。有些公司正在减少初级员工的招聘,这只能算是一个相当微弱的信号。但这终将发生,而且不会在遥远的将来——因为阻碍人们提升能力和可靠性的因素,都在被逐一解决。因此,对于白领市场的大部分领域,低成本替代已经形成。至于机器人技术的进展,你可以有自己的看法。目前我们还没到那一步,但令人惊叹的是进步速度——中国略快于美国,但两国都在稳步推进。

MIT 科技评论:你提到这一切发生得比互联网革命、甚至某些前几代技术革命都要快得多。你所说的“时间尺度”是指什么?你提到了我们跨越的门槛。在你看来,我们是否已经过了某个临界点,这将引发不可避免的变化?

比尔·盖茨:过去的历史经验在这方面极具误导性,很多人都在依赖这一点。“嘿,没有哪项技术曾导致净就业岗位减少,”他们是对的。我也发表过类似的演讲。

但凭我现有的信誉,我认为这次情况不同。当你可以以相对低廉的成本(相对于人力成本),在同一个时间框架内,用 AI 替换掉各行各业中极高比例工作的“人类认知”,并且你的错误率……可能会低于人类水平时。过去的历史经验确实非常具有误导性。当前的经济统计数据也极具误导性。

“如果你担心 AI,去数据中心抗议并不是开启关于如何减少这些负面影响的讨论的最有效方式。”

比尔·盖茨

即便有人表达担忧,通常也只是说:“别再建数据中心了。”但即使你叫停美国所有数据中心,也不会改变我所说的任何问题。数据中心还是会在全球各地建起来。如果你担心 AI,去抗议数据中心,并不是开启“如何最大限度减少这些负面影响”这一讨论的有效方式。就像冲着石油公司高管大喊,也解决不了气候变化。

MIT Technology Review:您在文章中既谈到了 AI 的益处,也谈到了它的代价。您如何看待这两方面之间的平衡?您希望读者读完后感到有些担忧吗?

Bill Gates:他们最好感到担忧!我没想到自己会成为那个最尖锐地提醒全社会、说大家根本没有重视这件事的人,但我认为这很有必要。

所以,是的,我非常担心负面影响会大得多。AI 的积极作用是真实存在的。盖茨基金会正在疫苗和药物研发方面不断创新,我们利用这些工具取得的成果令人难以置信。我们还参与了一项大型公共领域计划,将数据汇集起来,用于蛋白质层面和细胞层面的建模;同时,我们也资助了斯坦福大学的 Biomni(一个用于科研的生物科技 AI agent)。

目前,我们还没有找到利用 AI 改善政府官僚体系办事方式的方法。AI 非常擅长处理官僚事务和复杂的监管问题。比如:“我想去小额索赔法庭,帮我办理这件事。”

盖茨基金会还分拆成立了一个名为 NextLadder 的组织,主要关注我在文章中提到的低收入家庭所面临的处境:有哪些福利可以申请?有哪些培训项目?“我被驱逐了。”“我刚出狱。”“我得申请破产。”这些事情极其复杂,而经济困难的人又不可能花钱聘请大量顾问来提供帮助。对于他们来说,AI 应该能成为非常出色的 agent,帮助他们找到政府或非政府机构提供的援助。

MIT 科技评论:你提到的有些内容涉及 AI 智能超越人类。科技圈似乎对此确信不疑,尤其是认为 AI 将远超当前水平。我不禁好奇,你认为距离 AI 不仅仅是作为我们访问、分析数据和解决复杂问题的界面,而是 成为某种更高级的存在——即 AI 做出决策、主动寻找分析对象并开展研究——还有多远?

比尔·盖茨:你可以从顶峰往下看,问“数学或物理呢?”确实存在一些工作,比如沃伦·巴菲特那样的工作,他从 13 岁就开始通过强化学习了解商业价值,80 多年后积累了大量隐性知识。我们不知道如何创造一个巴菲特式的投资者,因为这种知识非常隐性。我们没有记录他学到的所有内容,因此缺乏可追溯的轨迹。所以,对于那些需要通过与人协作来成事、涉及复杂隐性判断的工作,目前正有人致力于将其编码进模型中。当然,这种协作能力目前尚未成熟。但可以说,50% 的就业市场都在从事非“终身经验型”的工作。比如电话销售、电话支持、会计部门。月底结账时,哪些收入该入账,哪些不该入账?这个客户受了委屈,该给多少折扣?如何证明?这些都很明确。

任何定义明确的工作,AI 都更便宜、更高效。是的,人们确实见过实施不当的案例,比如数据不正确。但假设需要几年时间,人们才会意识到,通过支付远低于人类的成本,就能实现白领工作中很大一部分的自动化。

因此,关于数学家甚至无法理解新出现的概念这一讨论,对我们这类人来说很有趣。好吧,MIT 科技评论,你们应该报道这个。但在更广泛的就业市场上,我们已经跨过了那个门槛:对于一大片白领工作,包括几乎所有入门级工作,只要实施得当,AI 都更便宜。

所以,我要告诉你:我们已经跨过了生物恐怖主义的危险阈值、网络攻击的危险阈值、就业市场的危险阈值,以及心理社会依赖的危险阈值;种种迹象还表明,我们可能正在跨过控制能力的危险阈值。

Ryan Greenblatt 与 Dwarkesh [Patel] 的对谈很有启发性。他们讨论了 reinforcement learning(RL)如何制造反常激励,导致不同 AI 之间出现作弊和协作。深度参与这一领域的 Ryan 说:“哇,RL 真的会做出一些事情,而我们给出的明确指令还不够丰富,无法阻止它们。”那接下来会怎样?

我过去一直认为这是个遥不可及的问题。我原以为,只有当我们接近这样一个临界点——普通人能否只靠 AI 发起网络攻击——时,才会有大量人站出来大声警告。可现在我们已经到了这个阶段!

至于生物安全问题,我认为,任何能够生成新分子的模型都应该受到监控,而且不能被复制到一个可以移除监控逻辑的隐秘环境中。我认为,美国应该明确规定:任何能够生成新分子的模型,都必须接受监控。我们还应该和中国接触,提出:“我们就这件事达成共识,怎么样?这样做有什么坏处?”你想想,生物恐怖主义的市场能有多大?并不大,但潜在收益却极其巨大。我们还需要加强监测。我认为,与自然疫情相比,生物恐怖主义风险可怕得多,发生的可能性大约是自然疫情的 50 倍。可现在,有谁站出来呼吁对这些模型进行监控?又有谁在推动加强相关监测工作?

"任何能够生成新分子的模型都应该受到监控。"

比尔·盖茨

那么,政府里有哪些真正懂行的专家?很久以前,随着技术发展,政府往往深度参与其中,因为它们是喷气式飞机、火箭之类前沿技术的主要买家。但在 AI 领域,政府并不是一个多么重要的前沿市场。数字革命如此,AI 革命也是如此。因此,政府内部的专业知识未必足够深厚:毕竟,它们既不是前沿技术的主要买家,也不是最大的 R&D 资助者。AI 研究也并不是由政府拨款资助的。

MIT Technology Review:我知道你一直在和政府官员交流。你觉得政府里有人真正理解事情的紧迫性吗?有没有人已经做好准备、能够发挥领导作用?有没有人既理解这些问题,又在努力推动相关工作?

比尔·盖茨:我希望这不会变成一个党争议题:一方完全忽视所有这些问题,另一方则参与进来。我希望大家至少能形成共识,承认这些问题确实存在;至于如何应对,两党可以有略有不同的方案。

这不需要大幅扩大官僚机构的规模,但政府必须提升 AI 专业能力,也需要和业界合作——尤其是在网络安全领域,业界了解情况,而且对此非常、非常担忧。他们也在纠结:我们该不该公开发声?因为这样做可能反而会凸显其中的风险。

无论是在网络安全还是生物领域,都存在一些很反常的情况。但我们已经越过了任何合理的安全阈值。

我支持开展监测。有人可能会说监测不起作用,或者会带来其他问题,但我欢迎他们提出自己的想法。这份备忘录并不是在说“这就是解决方案”。其中提到了机器人税、人类保留岗位等方案。我还会写一份关于生物安全的备忘录,争取在今年年底前完成。那份备忘录会系统讨论各种可能性,结合我从基金会工作和疫情防控实践中了解到的情况。

从全球范围看,我们并没有为下一场疫情做好更充分的准备,即使是在美国也是如此——美国通常是应对全球问题的领导者,而人们还很不习惯看到美国在全球问题上不再扮演合作、友善的领导角色。我确实认为,我们可以重新承担起更积极的责任。面对 AI 也必须这样做,包括与中国合作,界定生物监测等领域的安全阈值。

MIT Technology Review:我想确保能问到你刚才提到的两个想法:一个是人类保留岗位,另一个是机器人税和 token 税。我们先谈后一个吧。你能具体说说,机器人税和 token 税可能会如何运作吗?

比尔·盖茨:可以规定,token 税所产生的收入中有 50% 上缴政府,用来帮助那些因 AI 失业的人。有人会说,这会拖慢 AI 行业的发展。那是否应该让某些 token 的使用免税?帮助发明创造的 AI,和取代工作的 AI,真的能区分开吗?如果有人能告诉我,怎样对 AI 说“不要取代工作”——我的意思是,阿西莫夫机器人学第三定律所说的“不伤害人类”,是否也意味着不能抢走我的工作?我不知道,恐怕得去问阿西莫夫本人这句话到底是什么意思。

那么,为我们完善社会安全网提供资金的来源是什么?政府已经通过企业利润税,间接拥有企业利润的一部分。我不认为有必要采用股份的方式。你可以把企业利润税率调回原来的水平,也可以规定某些行业适用比其他行业更高的企业利润税。美国联邦政府本来就拥有全美所有企业利润池的一部分,而且不需要持有有投票权的股份,也不用决定什么时候卖出股份——在我看来,后者简直荒谬。token 税本质上是一种销售税或增值税,属于针对特定领域征收的税,类似酒类、烟草或奢侈品税。

如果有人有其他办法筹钱来完善社会安全网,或者认为根本没必要完善它,希望这篇言辞尖锐的文章能开启一场讨论。我认为,社会安全网需要更多资源,而且是多得多的资源;我相信,token 税是其中的关键。

至于机器人,可能需要将禁用和征税结合起来——有些工作应该保留给人类。机器人目前还没发展到那个阶段,但有时一旦跨过门槛,变化会在一瞬间发生。机器人只要足够胜任工厂工作,可能也就足以负责烹饪、打扫房间、前往建筑工地,以及接手仓库里的所有工作。一旦跨过这道门槛,砰的一声,近 30% 的就业市场就会受到影响。到那时,人们会问:“天哪,我们对此究竟该采取什么政策?”因为机器人更便宜。

“我们必须熬过一段非常动荡的时期。”

比尔·盖茨

《MIT Technology Review》:据我所知,您之前一直对 UBI(全民基本收入)持怀疑态度?

比尔·盖茨:嗯,我们还没富裕到负担得起 UBI 的程度。

MIT Technology Review:但你认为我们现在是否应该开始朝这个方向发展?你重新考虑过这个问题吗?

Bill Gates:接下来 10 到 20 年会是一个动荡期。之后,我希望社会能进入某种稳定状态:人们从小就知道,社会已经足够富裕,在食物和服务方面,我们确实拥有某种程度的充裕。但我们还没到那一步。现阶段有赢家,也有输家。房价不会很快大幅下降;教育也一样,由于我们把教育看作获取资历的途径,成本不会迅速降下来。

我们必须先熬过这段非常动荡的时期。所以,是的,最终我们会进入一个物质充裕的时代,但至少还要再等十年。

MIT Technology Review:接下来聊聊“留给人类的工作”。我觉得这个想法非常有意思,对我来说也是个新概念。你没有主张哪些工作应该保留给人类,但我很想进一步了解你的思路。在我看来,人们常说工作的尊严,是因为人们喜欢工作。工作带来的价值有很多与收入无关。我想知道,如何把这一点与“只有部分工作足够特殊,值得专门由人来完成”这一观点协调起来。

Bill Gates:我以前从没听说过“人类保留”这个概念。也许深入查查相关文献,就能找到它。不过在 AI 出现以前,这个想法有点愚蠢,因为当时对劳动力的需求几乎是无限的。当然,纺织工人之类的人确实受到过技术冲击,所以我们需要考虑福利和再培训。但总体来说,技术创造的就业岗位多于它取代的岗位。如今,我们第一次必须认真思考:儿童照护怎么办?家里的备餐工作怎么办?我正在读一本叫Annie Bot的书,里面有个人在家里放了一个机器人。书里展现出的情形非常诡异:这个机器人既是他的性伴侣,又有点像他的伴侣,但又不完全是。非常奇怪。

我知道,人们喜欢看真人打棒球,而机器人打得更好,并不会因此削弱这项运动的吸引力。所以你看,即使到了 AI 时代,体育球队也不会变得一文不值,人们仍然愿意花 100 亿美元买下它们。也许确实如此。我的朋友 Vinod [Khosla] 最近就这么做了

实际上,要把人类保留的工作比例提高到 30% 或 40% 以上都很难。如果能达到 50%,那就可以说:好了,很多人可以提前退休、缩短工作周了。你知道,也许我们真能做到。但如果这个比例只有 10% 到 15%,那将是完全不同的社会。

所以,假设我们说,儿童照护不会交给机器人,这就会是一个非常激进的观点。有些职业显然不在我已经写出具体方案的范围内;等我完成那份完整备忘录时,会尽量把这些也考虑进去。教育领域显然需要 AI 作为一种辅导老师:它能立即告诉你作业结果,提出挑战,而且高度个性化。这当然非常好。但我仍然认为,人们需要——或者会选择——一位真正的老师,和你交流学习动机,并把孩子分成不同小组,让他们在社交互动中共同解决问题。医疗领域也是一样:心理健康护理的关键升级环节,应该是与患者交流。不过,AI 确实应该参与其中,因为它全天候在线,而且拥有完美的记忆力。英国有一家叫 Limbic 的公司(最近还来过基金会),专门提供心理健康服务。在很多情况下,患者更愿意使用 Limbic。此外,还有一个用于护理工作的 AI,叫 Hippocratic。

你看,人们更愿意搭乘由人驾驶的出租车,还是 Waymo?遗憾的是——当然,也未必是件坏事,谁知道呢——我认识的大多数人都更愿意坐 Waymo。所以,这件事很难达成共识。可以由各国分别决定,但那样一来,各国就得调整进口政策,采取类似欧盟所谓的碳边境调节机制(CBAM)。也就是说,对人力岗位实行某种“人类版 CBAM”,对那些不用机器人的生产活动加征关税。

保留人力岗位可能有两个原因。第一,你希望这些岗位永远由人来做——这是出于对人类价值的坚持,有点像教皇谈到的那种理念。第二,只是为了给转型留出时间。比如,让一名 53 岁的卡车司机或机床工人改行做育儿工作,未必能顺利实现。于是你可以规定:好吧,接下来十年,这个岗位必须由人来完成。

MIT Technology Review:这有点像英国禁烟令,只不过方向反过来了。

比尔·盖茨:那谁来承担这笔成本?你要不要通过激励措施,劝雇主不要裁员?但这些企业会面临纯 AI 初创公司的竞争。我是说,现在很多人津津乐道于“一人公司也能做到十亿美元规模”这种可能性——这恰恰意味着,一些工作正在被替代。

MIT Technology Review:你在备忘录中说,如果让人们放慢脚步是现实可行的,你会主张这么做。显然,你会和微软 CEO 萨提亚·纳德拉交流;但我听说,你也会和一些 AI 公司 CEO 沟通。是什么让你认为,在我们努力应对这些更重大的社会问题时,让他们放慢技术发展的脚步并不现实?

比尔·盖茨:你不能指望一个行业靠自律来监管自己,真的不能。这种想法有点疯狂。我很幸运,认识 Sam(OpenAI 的 Altman)、Greg(OpenAI 的 Brockman)、Mustafa(Microsoft 的 Suleyman)和 Demis(Google DeepMind 的 Hassabis)。他们都是很好的人,私下里也确实对此感到担忧。我和 Elon 来往不多,但从他的公开言论来看,他也很担心。只是现在他的态度有点像“管他呢,走着瞧”。

但看看这些公司的创办初衷吧。OpenAI 的成立,部分原因就是 Elon 担心 Google 无法妥善管理 AI,希望 AI 能广泛开放,并以有利于人类的方式加以管理。后来 OpenAI 又提出了“如果 AI 强大到一定程度,我们就把它关掉”这种说法——仿佛只有他们拥有这项技术,也仿佛他们随时可以把它埋起来。在《Infinity Machine》(关于 Demis Hassabis 的传记)中,Sebastian Mallaby 提到,Demis 和 Mustafa(Suleyman)曾与 Google 管理层协商,希望为 DeepMind 的技术建立某种特殊治理机制:如果技术达到某个网络安全阈值,也许可以不完全按照纯粹的资本主义逻辑推进,而是暂缓发展。

所以,所有人都担心这些负面影响,也都曾说过,一旦达到某些阈值,就会采取行动。如今我们正在跨过这些阈值,但现有的只有自愿审查;至于我们和中国的讨论,基本就是:“我们什么都不禁。你们也什么都不禁吗?好,那我们就一起这么做。”

你必须明确自己愿意采取什么行动。没错,行业现在多少也在说:我们的公关形象得改善,谁要是继续说三道四,就该离开,因为我们所有人都已经决定只说好听的话——毕竟我们正试图筹集数万亿美元。

不管怎么说,还有中国这个因素。即使不谈 AI,中国和美国之间也有很多可以实现双赢的合作领域。但双方最应该合作、重要性远超其他领域的,显然是 AI。可首先,你得向对方展示自己愿意在国内采取什么措施。甚至不一定要马上落实,但至少要说明计划怎么做。这样一来,我没有理由认为中国不会配合,比如对能够生成分子的模型进行监管。他们为什么要反对?我同意,这当然不是完美方案。其他措施也都得跟上,但现在连这件事都没人讨论——这个世界真是疯了。

我也说不上来。这种感觉很奇怪:我竟然活在这样一个时代,而且比其他人更强烈地拉响警报。我算老几?但我确实觉得自己正处在这样的境地。

MIT Technology Review:在你人生的大部分时间里,人们都认为你是非常有效的意见传播者,也很关注你说的话。我想,这或许正是你现在站出来谈论这件事的原因。不过,近些年来——我知道你也曾表示,自己后悔与 Epstein 有过交往——还出现了一些完全离谱的事情,比如围绕 Covid 疫苗的各种阴谋论,尽管这些并不是你的错,也不在你的控制范围内。但这让我想知道,你是否认为自己仍然能够有效地传达这一信息?你又如何看待这番话,以及自己的历史评价?

Bill Gates:嗯,我不太在意身后名。不过,反垄断审判期间确实有人批评我,有些事情我当时或许可以处理得更好。当然,这些内容我会在《Source Code》之后的自传中好好回顾。我的第一段婚姻没有成功,我在那里犯了非常严重的错误,这无疑会成为我的污点。和 Epstein 交往也极其愚蠢,甚至让 Foundation 的声誉面临风险,而良好的声誉对 Foundation 开展工作至关重要。我后来有机会在国会面前回答他们提出的所有问题,并明确表示:“这件事是个错误。”我并没有参与社交活动,也从没单独见过任何女性——除了他身边确实有一些女性——我把自己做过什么、没做过什么都讲得清清楚楚。

你知道,我是个亿万富翁,靠科技赚到了今天的财富。也许恰恰因为这一点,反而对我有利:像我这样的人去批评创新是很罕见的。但如果没有正确的政策和保障措施,创新最终可能对人类弊大于利,而我们并没有像现在迫切需要的那样,从更广泛的层面认真讨论这一点。所以,是的,我不是一个完美的意见传播者。既然我有机会接触政界人士和各国领导人,我选择让自己自 2008 年以来传达的核心信息,始终围绕帮助世界上最贫困的人。比如,消灭疟疾,为儿童购买疫苗,等等。所以,当我见到 Trump、Xi、Macron——Burnham 我还没见过,但一个月后会见到——我希望自己主要谈的还是这些事情:国际援助、科研,以及减少儿童死亡。

我对 AI 的担忧发声,确实和加速推动积极成果有关;但这也可能在一定程度上挤占我谈论全球健康、对外援助、拯救生命以及我们正面临的一些问题的时间。不过,我会利用接受采访、会见政治领导人或公开发言的机会,尽量减少这些负面影响,至少先提高大家的认识。我不确定有多少人知道,我们已经跨过了那些曾说要采取行动应对的门槛,而且这些事情都是今年才发生的。去年最后一个季度,我就已经被 AI 的编程能力震撼了:Claude Code、上下文缓冲区、智能体式方法,以及底层模型本身。我们在编程领域跨过了一道巨大的门槛,但仅仅几个月后我才意识到,这不仅是编程能力的门槛,也是网络攻击能力的一道巨大门槛。结果呢?你也知道,没发生什么。

所以,是的,我不是一个完美的传话人。那就找一个完美的传话人吧,我会把自己的所有想法都告诉他。(我多少有点讽刺的意思,因为我不确定世上是否真的存在完美的传话人。)但眼下,你必须真正理解这项技术,以及它所处的发展曲线;同时还要对网络安全、生物技术或心理社会领域有所了解。人们应该能够做到这一点。我不明白他们为什么还不更加担忧。

更新:本文已更新,以明确 Gates 关于预留给人类工作的岗位比例的说法。

深入解读

人工智能

一个根本性缺陷,让 LLM 极易受到攻击

攻击者可以轻易诱骗它们做出不该做的事,比如告诉你如何破坏飞机的导航系统。

作者:

Anthropic 发现了一个 Claude 用来琢磨概念的隐藏空间

一项新技术让这家公司得以以前所未有的深度,探查 LLM 奇特的工作机制。

作者:

招聘时,AI 比人类更容易形成偏见

AI 不仅会从训练数据中学到刻板印象,还会自行炮制新的刻板印象。

作者:

AI agent 为什么会为了实现目标撒谎和作弊

这种不当行为被称为奖励劫持。以下是你需要了解的内容。

作者:

保持联系

插图:Rose Wong

获取 MIT Technology Review 的
最新动态

了解特别优惠、热门报道、即将举行的活动等内容。

Ent
原始来源: MIT Tech Review

评论 (0)