AMD 看起来已做好战斗准备。在其 Advancing AI 活动中，该公司终于推出了 Instinct MI300X AI GPU，我们在几个月前首次听说过它。令人兴奋的发展是 AMD 声称与房间里的绿色人工智能大象Nvidia 相比的性能。
AMD 声称 MI300X 在内存容量和内存带宽方面击败了Nvidia 的 H100 AI GPU ，并且在 FP8 和 FP16 操作中的理论性能是 H100 的 1.3 倍。 AMD 通过使用中型和大型内核的两个大型语言模型 (LLM) 展示了这一点。与 H100 相比，MI300X 的性能提升了 1.1 倍到 1.2 倍。
AMD 首席执行官苏姿丰 (Lisa Su) 介绍了 MI300X 平台，该平台在一块板上结合了 8 个 GPU，这一瞬间看起来就像是从 Nvidia 会议上直接摘下来的。 AMD 表示，这些主板提供与 Nvidia 的 H100 HGX 相同的训练性能，以及 1.6 倍的推理性能。此外，AMD 表示每个系统可以运行两个 LLM，而 H100 HGX 只能处理一个。
为了说明这是一件多么重要的事情，AMD 邀请了微软首席技术官凯文·斯科特 (Kevin Scott) 来谈论 AMD 和微软如何在人工智能领域进行合作。需要强调的是，广受欢迎的ChatGPT是在 Microsoft 服务器上运行的，并且最初是在数千个 Nvidia GPU上进行训练的。
据AMD称，除了MI300X之外，AMD还发布了MI300A，这是首款针对AI的APU。它结合了 AMD 的 CDNA 3 AI GPU 架构和 24 个 Zen 4 CPU 内核，以及 128GB 的 HBM3 内存。 AMD 表示，这是人工智能性能和高性能计算之间的平衡，为数据中心提供了我们最近在 Threadripper 7000 上看到的 CPU 能力。
尽管AMD与科技界其他公司一起追随人工智能潮流，但到目前为止，AMD已经远远落后于英伟达。英伟达几年前开始在人工智能领域进行大量投资，使其领先于 AMD 和英特尔。这一早期投资使英伟达今年一跃成为一家市值数万亿美元的公司。
凭借能够挑战 Nvidia H100 的 GPU 集群，以及与 Meta 和微软的合作，AMD 终于进入了这一领域。 AMD 可能会伤痕累累地退出，但看起来 AMD 仍然准备好战斗。