← 文章 / AI技术
The Decoder 52分钟前 · 2026-11-22 21:25:34 · 2 阅读

METR 警告:AI 能力增速快过安全测试,或致风险无法评估

AI 模型在 AI 研究任务上正迅速提升,且其能力愈发难以精确衡量。 AI 研究机构 METR 指出,当前公开的数据不足以排除未来几年 AI 研究出现剧烈加速的可能性。该机构警告称,这种情况可能导致人类“无法有意义地理解、评估并应对新 AI 系统带来的灾难性风险”。

在有着明确定义、能获得直接反馈的编程和计算任务中,METR 发现模型多数时候已胜过拥有丰富经验的人类专家,但尚未超越由顶尖专家组成的大团队。对于耗时较长的人类任务,模型能处理的任务时长每 3.6 个月翻一番。若按 METR 的数据进行简单线性外推,到 2027 年 7 月,模型在时长最长(200 小时)的任务上的成功率将达到 50%。

METR 的分析显示,截至 Opus 5.5 和 GPT-6 Astra,领先 AI 模型的能力在稳步提升。 | 图片来源:METR

据 METR 称,这些系统在处理缺乏即时反馈、需要真实判断力的开放式问题时,以及在难以复现用于训练的特定情境下,仍存在困难。该组织还警告称,由于开发者在极其相似的测试环境中训练模型,常见且易于运行的测试可能会高估模型在真实世界中的应用表现。

THE DECODER+

去魅化的 AI 新闻 —— 由人类精选

  • 所有 Plus 文章及完整存档
  • 无广告横幅
  • 前沿雷达:每年 6 篇深度报道
订阅包含哪些内容 → 首月半价 按月订阅 首月仅 $4.99 之后每月 $9.99,随时可取消。 按月订阅 超值之选 按年订阅 每月仅 $8.25 每年一次性支付 $99。 按年订阅

已是订阅用户?登录

来源:METR 评论 复制链接 分享 此前报道 2026年11月22日 安全研究人员揭示廉价 AI 推理服务商如何窃取密钥并窥探用户 2026年11月18日 OpenAI 首次向四家独立现场审计机构开放其 AI 系统
原始来源: The Decoder

评论 (0)