快科技 12 月 13 日音讯，早在四年前，AMD 就曾设定目的，到 2025 年 EPYC 系列就业器处理器和 Instinct 系列 AI 芯片的能效，较 2020 年提高 30 倍。如今开云体育，MI300X AI 芯片基本上驱散目的，时辰提了早一年。

据 THW 报说念，AMD 两个 64 中枢 EPYC 9575F CPU、八个 Instinct MI300X AI 芯片及 2304GB DDR5 内存的就业器，Llama3.1-70B（vLLM 0.6.1.post2、TP8）测试推感性能，用一组复杂绸缪细目系统动力成果，并与 2020 年的旧机器比较，

罢休自大，新灵活力成果是旧机的 28.3 倍。

不外，AMD 并未自大 2020 年的旧机是何规格。但粗拙率是 EPYC 7002 系列，Zen 2 架构，每个 CPU 最多 64 个中枢，以及 CDNA 1 架构 Instinct MI100 AI 芯片。

AMD 暗示，除了强力硬件纠正，更高性能成果是架构进步，加上软件优化都集，是卓越式证明。

本年 10 月份的 Advancing AI 2024 大会上，AMD 负责发布了新款 AI 芯片—— GPU 加快卡" Instinct MI325X "。它在大获收效的 MI300X 基础上再进一步，主若是增强了 HBM 内存部分。

MI325X 配备了多达 256GB HBM3E 内存，比较于 MI300X 又增多了 64GB。

MI325X 也撑捏八块并行构成一个平台，这就有多达 2TB HBM3E、48TB/s 带宽，总的性能高达 FP16 10.4 PFlops ( 每秒 1.04 亿亿次 ) 、FP8 20.8 PFlops ( 每秒 2.08 亿亿次 ) 。

对比 NVIDIA H200，无论单卡依然八卡平台，不同大模子推理的性能都不错最初 20-40％。

历练性能方面，单卡可最初 H200 10％，八卡平台则是捏平。

MI325X 加快卡和平台将在四季度内投产，而谐和伙伴的整机系统、基础架构搞定决策，将从来岁第一季度起趋附推出。

开云体育