据英特尔公司称，其最新的数据中心 CPU 采用 2.5-D EMIB 技术，在一对芯片上集成了多达 64 个内核，是目前市场上最适合人工智能的 CPU。

　　第五代至强可扩展 CPU代号为 "Emerald Rapids "，是一款巨型数据中心处理器，它将一对 32 核 CPU 芯片绑定在一起。它的 L3 高速缓存（320 MB）是上一代产品的 3 倍，DDR5 内存控制器的速度高达 5600 MT/s。为了获得更快的 I/O 带宽，它支持 PCIe Gen 5 和 CXL 1.1 连接。

　　英特尔最新的硬件并没有像 2023 年初推出的当前“Sapphire Rapids”CPU 那样实现巨大的技术飞跃。而且它缺乏“Granite Rapids”（代号为 Granite Rapids）的流程和封装创新。其未来的高性能 Xeon 将于 2024 年底推出。

　　尽管如此，这家半导体巨头仍在使用 Sapphire Rapids 作为其新型双芯片数据中心 CPU 的模板，同时迎来从 CPU 到 SoC 的改进。

　　全新 Xeon CPU 基于 Sapphire Rapids 中使用的 Intel 7 处理节点的更完善的配方。尽管如此，与数据中心中许多最广泛的工作负载相比，它的通用性能平均提高了约 21%。

　　英特尔还在升级直接连接到核心的加速器，以运行特定的任务，从高性能计算到网络、存储和安全，比 CPU 本身更快、更高效。其中包括一类名为 AMX 的针对 AI 的指令。

　　英特尔公司副总裁兼至强处理器总经理 Lisa Spelman 在位于俄勒冈州波特兰郊外的英特尔办公室向记者和分析师举行的预简报中表示：“至强是最适合人工智能的 CPU。” “虽然人工智能很重要，但我们并没有忽视这一点，我们将继续投资，在每个客户工作负载中提供领先的绩效。”

　　其 Xeon CPU 中的主要 AI 加速器称为高级矩阵扩展 (AMX)。该加速器专为矩阵乘法而设计，矩阵乘法是一种广泛应用于人工智能推理（包括大型语言模型 (LLM)）的运算类型。 AMX 是对 Intel AVX-512 的补充。

　　这些加速器并不是神经处理单元 (NPU) 意义上的独立核心，英特尔正在将其插入 PC 的“Meteor”Lake 芯片中。它们是 CPU 中存在的指令。

　　英特尔表示，下一代 CPU 可以更仔细地将电源引导至内部的 AMX 和 AVX-512 加速器，从而减少使用这些指令时可能发生的性能损失。因此，在执行人工智能工作负载时，它会从 CPU 中挤出更快的时钟频率。英特尔表示，更好的供电能力加上整个 CPU 的架构改进，在某些情况下人工智能推理速度可提高 42%。