新闻 & 分析

AMD vs Nvidia:Instinct MI300揭幕,AI领域的新红绿争霸

8 December 2023 By Neo Yuan

股票

热门话题

AMD的MI300终于来了,准备硬刚英伟达的H100芯片。让大家期待已久的两强争霸终于在AI时代开启,20年前的红绿争霸可谓是打的如火如荼,双方大战几百回合,互有胜负,也都把彼此层逼上过绝路。但是因为H100等芯片的出现,彻底引爆了AI浪潮,看上去开始逐渐的拉开竞争者AMD一条街。当然,AMD的“苏妈”肯定坐不住了,直接宣布2024年会发布MI300芯片。战斗,即将开始,就有种军用科技(Militech)大战荒版(Arasaka)的既视感。

(Source:Cyberpunk 2077)

在周三,在加利福尼亚州圣何塞的一场名为“推进人工智能”的活动中,AMD发布了Instinct MI300X和Instinct MI300A两款产品。这些产品标志着世界上首个数据中心级的APU(加速处理单元)的问世,目的是为了抓住日益增长的生成式人工智能和高性能计算领域的机遇。MI300系列产品是AMD运用前沿的生产技术,结合了创新的“3.5D”封装技术,打造出的多芯片组合。这些产品据称在执行各类人工智能任务时,其性能超越了竞争对手英伟达。尽管AMD尚未公布这些采用新型硅材料制成产品的定价,但它们已经开始向广泛的OEM合作伙伴批量发货。

(Source:AMD)

Instinct MI300是AMD推出的一款革命性设计的数据中心级APU,它集成了13个不同的芯片组,其中包括多个采用3D堆栈技术的组件。这款APU结合了24个Zen 4 CPU核心、一个基于CDNA 3架构的图形引擎,以及总共八堆的HBM3内存,创造出一个极具实力的芯片。它拥有惊人的1530亿晶体管数量,是AMD生产线上最大的芯片之一。

在性能方面,AMD宣称其Instinct MI300X GPU在AI推理任务上的性能比Nvidia的H100 GPU高出1.6倍,并在训练任务上提供类似的性能。这使得Instinct MI300X成为一个高性能的替代选项,与英伟达的GPU产品竞争。更为引人注目的是,这款加速器拥有的HBM3内存容量是英伟达GPU的两倍多,达到每片192GB,使得MI300X平台可以在系统中支持的大型语言模型(LLM)数量是英伟达H100 HGX的两倍,同时运行更大的模型。

(Source:AMD)

另一个型号,AMD Instinct MI300A,基于与MI300X相同的设计理念,但在其设计中混合了CPU核心,并减少了一些GPU核心。AMD声称,这款芯片在特定工作负载上的性能可达英伟达H100 GPU的4倍,并且其性能每瓦特是两倍。

在设计方面,MI300X展示了AMD在基于芯片组的设计方法上的最高成就。它将八个12Hi堆栈的HBM3内存与八个3D堆栈的5nm CDNA 3 GPU芯片组(称为XCD)结合起来,这些芯片组位于四个底层的6nm I/O芯片之上,并通过AMD成熟的混合键合技术相连。

(Source:AMD)

长期以来,行业一直期待出现一款能与Nvidia竞争的产品,以创造市场竞争。MI300X在技术规格上实现了这一目标。尽管在现实世界中,针对AI应用的性能可能会稍显不足,但如先前所述,这可能并不是关键问题。重要的是市场对GPU的需求日益增长,而AMD通过提供新的选项,将增加市场供应,以满足目前相当巨大的需求。

AMD的成功在很大程度上归功于其芯片的软件支持,在之前的产品系列中,基本上每更新一次驱动,性能就会有不俗的上升。这一点在AI领域尤为重要,因为软件端能够充分激发AI芯片的潜力,也可能导致其性能下降。AMD依靠其基于开源ROCm的AI软件堆栈和生态系统,这大大促进了用户从Nvidia的CUDA平台向AMD架构的转移和代码优化。在最近的活动中,社区成员特别强调了这种开源方法是AMD与竞争对手的关键区别。

AMD与Hugging Face的合作使得超过62,000个AI模型能够在MI300上“即插即用”。虽然目前还没有具体的基准测试来展示这些模型在MI300上的表现(比如针对GPU和无线通信织物的优化情况),但在一个倾向于“即插即用”解决方案的市场中,这可能并不是主要关注点。OpenAI也宣布将在其标准Triton发行版中支持MI300。

AMD新发布的ROCm V6软件进一步强化了这一优势,它包含了Flash Attention、减少到8位的数值精度和集体通信等新特性。ROCm V6不仅支持MI300,还将扩展到Ryzen客户端平台。

结合MI300的ROCm 6能够提供高达8倍的性能提升。此外,AMD还发布了适用于Ryzen PC的AI软件,这款软件能够使用ONNX量化并部署预训练模型。AMD还宣布了一款新的Ryzen 8040芯片,该芯片预计将在明年发布,增强对即将到来的AI应用的支持。这些举措共同展现了AMD在AI硬件和软件领域的深度整合和创新。

(Source:AMD)

对AMD最近的各种官宣,无论是吃瓜群众,还是消费者,投资者或者合作伙伴都抱有很高的期待。尽管大家期望看到MLPerf的测试结果来进一步证明其新产品的性能,但从市场来看,似乎并不太关注这些具体数据。客户和合作伙伴们已经开始排队购买AMD的新GPU,并且积极参与构建所需的开源生态系统,这表明了市场对AMD新产品的兴趣和支持。

对于新的AMD AI芯片的发布,也变相造成了英伟达股价的一些压力,周三英伟达股价有些许下跌,目前为455。而AMD股价也在近期未能破位125有一些回调。不过还是很期待AI端能给AMD无论是公司发展,还是股价提供更多动力。

(Source:Tradingview)

然而,对于AMD声称其MI300X是世界上最快的AI平台的说法,大家还是有一些怀疑的。要实现与Nvidia平台相同级别的软件和模型优化,需要一个活跃的社区的共同努力,并且这个过程可能需要数年时间来完成。简单来说,虽然AMD的硬件可能具有潜力,但要充分发挥这种潜力,还需时间和人力物力,社区等等的支持。总的来说,AMD的最新动向展示了其在AI领域的雄心及其逐渐增强的市场地位,但在达到行业领先地位方面,仍还有很长的路要走。

免责声明:GO Markets分析师或外部发言人提供的信息基于其独立分析或个人经验。所表达的观点或交易风格仅代表其个人;并不代表GO Markets的观点或立场。

联系方式:

墨尔本 03 8658 0603

悉尼 02 9188 0418

中国地区(中文) 400 120 8537

中国地区(英文) +248 4 671 903

作者:

Neo Yuan | GO Markets 助理分析师

免责声明:文章来自 GO Markets 分析师和参与者,基于他们的独立分析或个人经验。表达的观点、意见或交易风格仅代表作者个人,不代表 GO Markets 立场。建议,(如有),具有“普遍”性,并非基于您的个人目标、财务状况或需求。在根据建议采取行动之前,请考虑该建议(如有)对您的目标、财务状况和需求的适用程度。如果建议与购买特定金融产品有关,您应该在做出任何决定之前了解并考虑该产品的产品披露声明 (PDS) 和金融服务指南 (FSG)。