AMD Zen 6,正式发布,下一代架构曝光!

在最初那些年,

AI

数据中心的建设几乎围绕

GPU

展开。从大模型训练到推理,

GPU

成为整个基础设施中最受关注的计算芯片,而

CPU

更多承担数据准备、任务调度和系统管理等工作。在这种分工之下,服务器

CPU

一度显得不那么重要。

但随着AI从大模型训练、推理逐步走向Agentic AI,情况正在发生变化。一个Agent不再只是接收问题、生成答案,而是需要不断查询数据库、调用API、检索上下文、执行代码、使用外部工具,并在不同任务之间进行协调。大量工作并不直接发生在GPU上,却需要CPU持续参与。

AMD认为,这将重新改变数据中心的计算需求。

在日前于美国拉斯维加斯举办的AMD In Depth活动上,AMD将Agentic AI视为服务器CPU市场下一轮增长的重要驱动力,并预计数据中心CPU市场未来将以超过50%的复合年增长率增长,到2030年市场规模有望达到约2200亿美元。AMD引用的数据预测还显示,到2030年,投入生产环境的活跃Agent数量将达到25亿个,较当前增长近80倍。

AMD展示的计算架构变化也很直观:在以聊天机器人为主的阶段,CPU与GPU的配置比例大约为1:4;进入Agentic AI阶段后,这一比例可能向1:1靠近,并且仍有继续增长的空间。换句话说,AI数据中心不再只是需要更多GPU,也需要更多CPU来支撑Agent运行。

面对这种转变,AMD正在通过打造全新的CPU,来迎接这个即将巨变的时代。本次披露的Zen 6架构以及第六代EPYC处理器Venice,正是围绕这一变化展开的产品布局。

AMD Zen 6,两个版本

如文章开头所说,在AMD看来,Agentic AI并不是一个单一的计算任务。而在不同的环节,也都可能产生不同的计算需求。其中既有CPU密集型任务,也涉及内存、I/O、安全和加速计算。这也解释了AMD为什么反复强调CPU在Agentic AI基础设施中的作用——GPU负责模型推理和加速计算,但Agent要真正完成任务,还需要CPU负责调度、运行环境管理、数据访问和工具调用。尤其当Agent数量不断增加时,CPU需要处理的并发任务也会随之增加。

于是,针对不同的需求,AMD此次带来了Zen 6和Zen 6c两种核心设计。

据介绍,这两种核心设计并不是简单地在核心数量和频率之间做取舍,而是为了覆盖不同的计算需求。在AMD看来,Agent Sandbox需要尽可能多的核心和线程,以便同时运行更多Agent;GPU Host节点则更看重高频和低延迟,需要CPU及时向GPU提供数据,避免昂贵的加速器因为等待数据而闲置。

基于上述见解,AMD 将Zen 6定位为主要面向对单核性能、频率和响应延迟更加敏感的工作负载的架构。在介绍中,AMD将其定位为“Optimized for lowest latency”。与上一代Zen 5相比,Zen 6的CCX核心数量从8个增加到12个,单个CCD最多集成12个核心,L3缓存总量从32MB增加到48MB,仍保持每核心4MB L3缓存。频率方面,AMD给出的最高频率从Zen 5的5.0GHz提升至5.3GHz。与此同时,Zen 6还带来了较大幅度的IPC提升,以及电源效率和SMT效率方面的改进。

得益于这个设计,AMD Zen 6更适合对高频率和低延迟有较高要求的场景,例如GPU Host节点。CPU需要及时完成任务调度和数据准备,并向GPU提供数据,避免GPU因等待CPU而出现计算资源闲置。

至于Zen 6C,则主要是面向云计算和大规模并行计算场景,AMD将其定位为“Optimized for maximum socket performance”。如图所示,相比上一代Zen 5C,Zen 6C将单个CCX的核心数量从16个提升至32个,核心数量翻倍;L3缓存总量则从32MB增加到128MB,达到上一代的4倍。按照AMD披露的数据,Zen 6C每核心拥有4MB L3缓存,而Zen 5C为2MB。频率方面,Zen 6C最高频率从Zen 5C的3.7GHz提升至4.1GHz。AMD还强调了大核心IPC性能提升,以及电源效率和SMT效率的改进。

AMD表示,Zen 6C的优势在于能够在单颗处理器中集成更多核心,从而提高单路服务器的并行处理能力。对于Agent Sandbox、云计算和大规模并发任务而言,这意味着一台服务器能够承载更多工作负载,减少服务器数量及相应的部署成本。

在分享中,AMD展示了Zen 6C架构相较Zen 5的IPC性能提升。如下图,AMD采用固定频率测试,以16个核心为基准,对比Zen 5采用两个CCD承载16核、Zen 6C采用单个CCD承载16核的情况。在企业级和云服务器工作负载中,Zen 6C的几何平均IPC提升约20%。在AI工作负载中,同样采用固定频率、16核的对比方式,Zen 6C相较Zen 5的几何平均IPC提升约31%。

综合AI和服务器工作负载,AMD给出的Zen 6C几何平均IPC提升幅度约为27%。这组数据体现了AMD对Zen 6C的一个重要定位:在提高核心密度的同时,并没有牺牲单核性能表现,而是在不同类型的服务器工作负载中实现了明显的IPC提升。


全新EPYC,开启新时代

伴随着Zen 6的亮相,AMD也深度揭秘使用台积电2nm工艺打造的第六代EPYC处理器(代号:Venice)。

具体到设计方面,一如既往,AMD在Venice上采用Chiplet设计,但整个SoC最多由8个计算芯粒(CCD)和2个I/O芯粒(IOD)组成。与上一代平台相比,AMD进一步调整了芯粒之间的连接方式和I/O布局,以适应核心数量增加后对数据传输、内存带宽和外部连接能力提出的更高要求。其中,CCD负责计算,IOD则负责Fabric、内存控制器、PHY、I/O控制及安全等功能。

首先看CCD,据介绍,这代产品使用台积电的2nm工艺打造。如上所述,在这代产品上,AMD实现了自 Zen 3 以来的首次升级——标准的 Zen 6 CCD 现在最多可扩展至 12 个核心,而 Zen 6c 则拥有 32 个核心。相比之下,Zen 5 和 Zen 5c 的 CCD 核心数上限分别为 8 个和 16 个。此外,AMD 还为 Zen 6c 的 CCD 将每个核心的共享 L3 缓存容量翻了一番,由于其核心数量翻了一番,因此与 Zen 5c 相比,L3 缓存容量实际上增加了四倍。

来到使用6nm工艺打造的I/O Die,在Venice上,AMD采用双IOD分离式设计,每个IOD集成8个DDR5内存通道,两个IOD合计提供16个通道,并支持最高12.8GT/s的MRDIMM,单路处理器理论内存带宽最高达到1.6TB/s。每个IOD还配备48条64G SerDes和8条16G SerDes,两个IOD合计提供96条64G SerDes和16条16G SerDes。AMD表示,采用双IOD布局主要是为了应对更高的内存通道数量、更大的带宽以及更复杂的I/O需求,同时改善QoS和数据流量分配。

芯粒之间的互连也是Venice此次升级的重点。AMD增强了CCD到IOD的数据通路,提高数据响应和写入密集型流量的处理能力,同时增加端口数量,以提升带宽和数据共享能力。此外,Venice采用Elevated Fanout Bridges(EFB)实现Die-to-Die通信。AMD称,这种方式能够降低芯粒间数据传输的单位能耗,并进一步降低延迟,为处理器核心释放更多功率空间。平台同时采用第五代Infinity Fabric,并支持更快的Fabric P-state切换,以改善能效表现。

除了在架构上创新以外,AMD Venice系列还有一个重大的转变,那就是不再沿用单一平台策略,而是分别推出采用不同物理接口的SP7和SP8两大平台,并进一步布局9006X(Venice-X)和9006 LP(Verano)两个细分产品系列,以应对不同的需求。

其中,在嵌入式 9006 系列 SP7 CPU上,最高提供256核、512线程,并推出64核至256核的多种SKU,以满足不同应用对性能、功耗和频率的需求。内存方面,该系列配备16个DDR5内存通道,支持最高8000MT/s的RDIMM和最高12800MT/s的MRDIMM。I/O方面,最多提供96条PCIe Gen 6通道,单通道速率达到64GT/s,同时支持CXL 3.1,为高速存储、网络设备、加速器及内存扩展设备提供连接能力。


AMD公布的数据显示,与上一代EPYC嵌入式9005系列相比,9006系列整体吞吐量最高提升1.8倍,I/O带宽最高提升1.5倍,内存带宽最高提升2.7倍。应用方面,AMD重点瞄准半导体自动测试设备(ATE)、企业存储和网络防火墙。在半导体测试领域,处理器可承担测试系统的控制与编排任务,支持更多测试并行运行;在网络安全领域,可用于400G/800G防火墙的控制平面,相关吞吐量最高提升1.3倍;在企业存储领域,则可加速NVMe设备管理以及压缩、缓存和RAID等数据处理任务,ISA-L相关测试性能最高提升1.5倍。

考虑到嵌入式设备通常需要长期部署,AMD为EPYC嵌入式9006系列提供七年产品供货周期,并持续提供固件更新和软件支持。安全方面,该系列集成AMD信任根(ART)、AMD安全处理器(ASP)和Caliptra等安全机制,覆盖安全启动、运行时保护和设备身份验证,同时支持用于固件签名的后量子密码技术。

全面出击,披露新路线图

其实在两天的分享里,AMD披露了很多芯片方面信息,这绝不是上述内容所能够概述的。除此以外,公司还在系统以及软件方面做了全方位布局,以更好地服务客户。例如,在AMD看来,Agentic AI基础设施并不存在一种适用于所有客户的标准机架方案,不同规模的部署、现有数据中心条件以及工作负载特点,决定了客户对CPU、GPU配置和散热方式有不同需求。

为此,AMD通过Helion提供了三种不同的Agentic Rack配置,分别面向超大规模数据中心和企业级市场。

第一种是面向大型云服务商和超大规模数据中心的Agentic Rack,采用CPU与GPU分离部署的方式,其中CPU机架采用直接液冷设计,以提高机架功率密度和计算部署密度。第二种则面向希望利用现有基础设施扩展Agentic AI能力的企业客户,采用独立的CPU机架和风冷设计,虽然部署密度不及液冷方案,但能够更容易地融入现有风冷数据中心环境。第三种是All-in-One方案,将CPU和GPU集成在同一机架内,同样采用风冷设计,适合希望在本地部署AI推理、同时需要CPU与GPU紧密协同的企业客户。

这三种方案反映出AMD对Agentic AI基础设施的理解:随着AI Agent工作负载不断增加,数据中心需要的不只是更多GPU,也需要大量CPU承担任务调度、工具调用、沙箱执行和工作流管理等工作。但不同客户的部署条件并不相同,因此AMD并未将Helion限定为一种固定的机架设计,而是提供可根据客户需求调整的开放式参考架构。

来到软件方面,AMD的投入也不遑多让。他们就在这次大会上,就针对DRAM在AI时代面临的供应和成本问题,分享了AMD是如何凭借收购MEXT获得的软件技术,为终端客户赋能。

据介绍,整个方案的核心是通过软件将Flash纳入内存管理体系,把访问频率较低的“冷数据”迁移到Flash中,将DRAM留给活跃数据使用,从而减少对高成本DRAM的依赖。为避免Flash访问速度较慢影响应用性能,AMD MEXT的这个方案利用AI引擎分析内存访问模式,预测数据需求,并提前将即将使用的数据从Flash调回DRAM。

AMD透露,MEXT的解决方案可根据不同工作负载减少20%至75%的DRAM用量,有效内存容量最高可扩展至原来的3倍,延迟影响低于4%。由于Flash成本最高可比DRAM低约30倍,这一方案有望显著降低数据中心的内存配置成本。

AMD进一步指出,在145台服务器的初期部署中,采用MEXT进行内存扩容,相比全部使用DRAM的方案,预计可节省约83%的成本,避免约490万美元的DRAM支出。换而言之,对AI服务器而言,MEXT提供了一种新的内存扩容思路:不再单纯依靠增加DRAM满足容量需求,而是通过软件调度,让DRAM与Flash协同工作。

众所周知,自2018年推出第一代产品以来,AMD在EPYC方面的影响力日渐增强。从Mercury Research在八月份发布的一份报告可以看到,第二季度,AMD 在服务器处理器市场中的占比达到 34.5%,而一年前这一比例为 27.3%。

虽然成绩显著,但AMD并没有因此而放慢步伐。如下面的路线图所示,AMD展现了他们在Agent CPU新时代,再进一步的决心。基于其过去多年的积累,我们也坚信AMD能做到。