AMD Helion AI Agent 机架:32,768 核心与 74 Petaflops 算力挑战传统数据中心
AMD 正在研发一套面向 AI Agent 的机架级计算系统,针对个人、企业和技术计算等不同负载提供多种配置。
这款产品名为 Helion Agentic AI Rack,最高可支持 32,768 个 Zen 6 x86 CPU 核心、16 个 Instinct MI350P 加速器,以及 74 petaflops 的 FP4 算力。
该平台还支持 102 Tbps 的网络带宽,并采用模块化硬件设计,以满足不同 Agent 计算场景的需求。
Latest Videos FromTechRadar在此观看完整视频:围绕三类 AI Agent 打造的机架
AMD 将 Agent 负载分为三类:个人助理、企业应用和技术计算,各自的算力需求不同。
个人 Agent 需要高密度、高能效的服务器;企业应用要在 Agent 容量和性能之间取得平衡;技术计算负载则优先追求处理速度。
AMD 允许运营商根据自身负载情况,定制 CPU 核心密度、处理性能和功耗。
超大规模配置采用纯 CPU 基础设施,企业版则在一体化机架内混合部署 CPU 和图形加速器。
针对个人 Agent,系统采用 400W 功耗的 256 核 Venice 处理器,优先保证处理密度和能效。
企业负载使用 600W 的 256 核 Venice 处理器,技术计算则使用 96 核高频版 Venice 处理器。
企业配置将 Agent 执行、推理和通用计算拆分到不同的服务器节点上。
CPU 沙箱节点负责 Agent 执行,Instinct MI350P 加速器支撑推理,通用服务器则承载数据库、存储和技术计算任务。
AMD 还内置了一个 token 路由器,用于将 Agent 的模型请求分发到前沿模型或开源模型。
该机架支持可编程网络和开源软件生态,硬件遵循 Open Compute Project 规范的 ORv3 44OU 标准。
为什么传统数据中心可能需要大改
传统数据中心为常规云业务或旧式企业计算而建,并未针对那些集成了多达 32,768 个 Zen 6 CPU 核心以及高配置 GPU 的机柜进行优化。
因此,基于现有服务器架构搭建的机房可能缺乏处理此类配置所需的供电、散热和网络基础设施组合。
工作负载的多样性带来了另一重挑战,因为个人智能体、企业应用和科学计算对处理器特性的需求各不相同。
AMD 提出的机柜方案将高密度 256 核处理器与 96 核高频系统混合使用,这就要求基础设施能够适配不同类型的服务器及其运行需求。
这给数据中心带来了规划难题:它们必须为不同的服务器配置分配机架空间、电力和冷却资源,而非部署同构系统。
若现有基础设施无法支撑所选的高核数与高频服务器组合,运营方可能就需要对其进行改造。
网络方面还需额外考量,该机柜支持最高 102 Tbps 的带宽,并集成了可定制的 Token 路由器。
现有机房可能需要部署兼容的网络设备和软件,以支持如此高的吞吐量,并将模型请求路由至不同的 AI 系统。
Helion Agentic AI 机柜预计将于 2026 年 11 月可用,但 AMD 尚未公布完整的机房升级成本或冷却要求。