英特尔准备好了！CPU和GPU支持微软Phi-3模型

darthracer · 2024-7-13 08:41

小型语言模型（small language model，SLM）比起大型语言模型有望提供更低成本、更具效率的处理能力，未来适用于笔记本和手机等设备。英特尔日前宣布，整个CPU和GPU产品组合支持微软开发的Phi-3模型。

英特尔成为首批产品阵容支持小型语言模型的硬件制造商之一，包括Gaudi AI加速器、Xeon CPU、Core Ultra CPU、Arc GPU经过优化，以支持Phi-3系列。

微软发布的Phi-3系列，如按照参数大小包括Phi-3-mini（38亿参数）、Phi-3-vision（42亿参数）、Phi-3-small（70亿参数）、Phi-3-medium（140亿参数）。

英特尔以所有Phi-3型号展示其产品性能，例如从英特尔第六代Xeon CPU（代号Granite Rapids）开始，对Phi-3-medium 4K和128K变体进行基准测试，与第五代Xeon CPU（代号Emerald Rapids）同类产品相比性能提高二倍。

转向Core Ultra CPU平台时，Phi-3将催化边缘AI流程，并提供个性化和回应能力等多项优势。为此，英特尔使用Intel Core Ultra 7 165H和Arc A770测试Phi-3-mini，基准测试确实显示令人印象深刻的性能。

“我们与AI软件生态系的领导者（例如微软）积极合作，是将AI带到无所不在的关键。我们很荣幸能够与微软密切合作，确保英特尔硬件（涵盖数据中心、边缘端和用户端）支持多款新的Phi-3模型”，英特尔副总裁暨数据中心和人工智能软件部宏观经济理Pallavi Mahajan表示。