← 文章 / 未分类
synthszr 6小时前 · 2026-09-19 14:54:10 · 0 阅读

美军因人工智能垃圾内容险些与中国爆发激烈冲突

美国军方因 AI 生成的垃圾情报险些与中国爆发热冲突

今年春天,美国军方在最后一刻取消了对中东一艘中国船只的武装行动——因为作为行动依据的情报被证实是 AI 聊天机器人编造的。当时军用飞机已在空中待命,登船检查的准备工作也已就绪。这份情报来自特种作战司令部的一名分析师,他让聊天机器人把公开来源信息与政府数据库中的秘密信号情报整合在一起。结果模型把船上货物判断错了,声称该船运输的是运往伊朗的核武器项目零部件。随后,这名分析师又让该工具把错误结论排版成一份看似正式的摘要,并通过指挥系统层层上报。

四位知情人士描述了事件经过,其中一人表示,这件事“差点引发一场战争”。船上实际装载了什么不得而知,这名分析师用的是哪款 AI 工具——是商业模型还是政府内部模型——同样没有公开。国防部至今未对此事置评。事件发生时,自 2 月 28 日开始的对伊朗战争正在进行中。

这一事件发生在此部门大力推进人工智能应用之际。Pete Hegseth 在 1 月发布了一份备忘录,要求该部实行“AI-first”策略,并计划使用美国领先厂商的模型;其配套的加速战略旨在使所有合适的数据都能跨越 IT 系统,供 AI 评估使用。Anthropic 拒绝允许将其模型用于自主武器开发,随后被短暂排除在合同之外,直到法院裁定该排除措施违法。其他合同相继敲定:据报道,xAI 自 2 月起为机密系统提供 Grok 服务;Nvidia、Microsoft 和 Amazon 也在 5 月与五角大楼达成了联合合作。该部解释说,此举旨在通过 AI 显著加快决策链条。

这并非唯一被报道的此类事件。在该战争第一天的火箭袭击中,Shajarah-Tayyebeh 学校遭到打击,据报告造成包括 123 名儿童在内的 150 多人死亡。据报道,分析人员当时过度依赖了 Palantir 的 Maven Smart System,该系统整合了数十个数据源。联合国专家认为,有“充分理由”认为美国对学校发动的袭击构成了战争罪,并计划周一向人权理事会提交调查结果。

GovAI 研究员、前美陆军军官 Jake Steckler 指出,士兵必须理解大语言模型内在的不确定性,尤其是在涉及暴力使用(如目标选择、情报分析和作战规划)的决策中。他主张增设额外的约束机制,而非弃用该工具,并警告道:速度若压倒其他因素,会导致损害士兵对这些工具信任的事件。同一天(周五),唐纳德·特朗普在 Truth Social 上宣布,将公开此事的媒体,以及 Politico 和 MS Now 逐出白宫;二者之间是否存在关联尚不明确。 → EngadgetArs TechnicaGizmodoTechCrunch

Synthszr 观点:该分析师两次调用了此工具,一次针对内容,一次针对格式。第二次调用才是真正的伤害,因为它将假设转化为了一份在指挥链中看似经过审查的文件。在有人质疑关于货物来源的陈述依据之前,飞机已经升空;在这里,格式被当成了证据。Hegseth 一月发布的备忘录要求“AI-first”并承诺更快的决策,但并未说明谁应在语句上传递六级之前标记其来源。报告格式应强制包含对所有 AI 生成段落的机器可读来源标记,且需在下一道作战命令之前完成。

Meta 的 Agent Muse 超越 ChatGPT 登顶,并冲击 Amazon

Meta 新推出的个人 AI 助手 Muse 上线仅一周,就登上了美国 App Store 免费 iPhone 应用榜首,把 ChatGPT 挤下了第一的位置。与单纯回答问题的聊天机器人不同,Muse 的定位是替用户办事:查资料、填表格、网购、订餐厅座位、找遛狗保姆。据 Meta 介绍,这款应用可以连接 Mail、日历、Spotify、Instagram 和 OpenTable 等服务,记住用户偏好,并在执行敏感操作前先征求用户同意。Meta AI 负责人 Alexandr Wang 于 9 月 18 日在 X 上庆祝了登榜的好成绩。不过,这份成功来得并不轻松——Meta 的旗舰模型在多个重要 Benchmark 上仍落后于 OpenAI 和 Anthropic。

早期用户中流传出一些迅速走红的使用案例。企业家 Joe Devoy 在 X 上分享说,他上传了自己的车险保单,让 Muse 找一份保障相同但价格更低的方案;结果 Muse 只用了大约五分钟就找到并完成投保,每年可省 3500 美元,还顺便退掉了旧保单。需要说明的是,这些说法均来自用户本人,未经独立核实。

一位商业科技记者在访谈中解释了为什么 AI 购物代理可能给亚马逊带来结构性冲击。他指的是 Instinct 和 Meta 的 Muse 这类服务:它们替用户搜索、比价、下单,而不是让用户自己去翻产品目录。Del Rey 认为,亚马逊的强势地位一直建立在用户习惯之上——想买东西就打开 Amazon App 在搜索框里输入关键词。而一旦用户把选品的任务交给能查询其他商家的 AI 软件,亚马逊这个入口就岌岌可危了。

在对话中,大家讨论了当选择由机器做出时,Amazon 的优势还剩多少。物流、交付时间和价格水平可以被一个 Agent 作为数据点进行处理,但品牌忠诚度却无法被表面化。Meta 正在通过 Muse 将其自有的 Agentic Commerce 变体引入其平台,Instinct 则将自己定位为独立的购物助手。据受访者评估,Amazon 虽然有能力构建自己的 Agent 并控制外部系统对其自有目录的访问,但这也与其现有业务存在目标冲突。购物 Agent 能否以及多快被广泛接受,仍然悬而未决。 → Business Insider, Wall Street Journal, TechCrunch, 9to5Mac

Synthszr 观点:Amazon 的零售业务本身利润微薄;利润主要来自 AWS 和广告业务,而广告业务依赖于一个单一条件,即一个人会在搜索栏输入内容并查看赞助广告位置。Agent 不会这样做:它会查询接口,权衡价格、交付时间和退货风险,并绕过了付费展示,因为它不包含信息。如果 Amazon 关闭接口,目录将从 Agent 的视野中消失,品牌会发现直接连接助手比在结果列表中竞拍第一名更便宜。当购物从“点击”转向“委托”时,零售媒体业务会是第一个出现裂缝的地方。

OpenAI 计划产生 100 个 Amazon 的亏损

OpenAI 预计到 2030 年前累计消耗现金净额将达近 2800 亿美元。作为对比,亚马逊在盈利之前大约花了 10 年、烧掉了 30 亿美元。这一数字来自该司内部财务预测,被多家媒体于 2026 年 9 月 18 日披露。所谓“烧钱”,指的就是公司在此期间支出超过收入的部分。摊到未来五年,这意味着平均每年净现金流失超过 500 亿美元。主要驱动因素是算力支出以及基础设施扩张——OpenAI 已与云和芯片供应商签署了长期合约锁定这些资源。已报道的规划中没有列出各成本项的详细拆分。报告也未说明营收与支出之间的缺口将如何填补。OpenAI 目前尚未就这些数字发表任何评论。 → 路透社

Synthszr 观点:到 2030 年烧掉 2800 亿美元,简单算下来就是每年超过 500 亿,年年如此、中间没有任何喘息。这笔开销在很大程度上是防御性支出:自从 Meta 在 8 月把拥有 300 亿参数的 Muse Glimmer 模型部署到本地设备之后,OpenAI 再也无法度过平静的一季。一旦用户能在自家设备上运行一个拿得出手的模型,OpenAI 就必须凭着明显的能力代差来证明订阅费的合理性,而维持这种代差的成本就体现在数据中心里。本质上,这是借钱保持距离,还给它冠上了“投资计划”的名头。若到 2027 年它和免费开放模型之间的差距继续缩小,OpenAI 花掉同样的几十亿、换来的护城河反而更浅。

谷歌测试拥有独立账号的家庭代理

Google 在其 Labs 计划中启动了一个名为 CC 的实验项目,这是一款面向最多六名家庭成员的 AI 代理。据 Ars Technica 报道,CC 是 2025 年公布的一个项目的进一步演进,该项目后来催生了 Gemini 中的 Daily Brief 功能——它会梳理 Google 账户中的数据,从中生成每日建议和待办事项。据 Google 介绍,这个新代理拥有独立的 Google 账户,每位家庭成员都可以(也可以不)与它互动。只有被明确分享的邮件 CC 才能看到,比如将某些发件人地址(例如学校的通知邮件)设为永久共享。此外,还可以通过邮件或 Google Chat 把内容发给这个代理,CC 还能监控一个共享的 Drive 文件夹,邀请函和文档可以放入其中。 →

评论 (0)