英特尔准备好了!CPU和GPU支持微软Phi-3模型
小型语言模型(small language model,SLM)比起大型语言模型有望提供更低成本、更具效率的处理能力,未来适用于笔记本和手机等设备。英特尔日前宣布,整个CPU和GPU产品组合支持微软开发的Phi-3模型。
英特尔成为首批产品阵容支持小型语言模型的硬件制造商之一,包括Gaudi AI加速器、Xeon CPU、Core Ultra CPU、Arc GPU经过优化,以支持Phi-3系列。
微软发布的Phi-3系列,如按照参数大小包括Phi-3-mini(38亿参数)、Phi-3-vision(42亿参数)、Phi-3-small(70亿参数)、Phi-3-medium(140亿参数)。
英特尔以所有Phi-3型号展示其产品性能,例如从英特尔第六代Xeon CPU(代号Granite Rapids)开始,对Phi-3-medium 4K和128K变体进行基准测试,与第五代Xeon CPU(代号Emerald Rapids)同类产品相比性能提高二倍。
转向Core Ultra CPU平台时,Phi-3将催化边缘AI流程,并提供个性化和回应能力等多项优势。为此,英特尔使用Intel Core Ultra 7 165H和Arc A770测试Phi-3-mini,基准测试确实显示令人印象深刻的性能。
“我们与AI软件生态系的领导者(例如微软)积极合作,是将AI带到无所不在的关键。我们很荣幸能够与微软密切合作,确保英特尔硬件(涵盖数据中心、边缘端和用户端)支持多款新的Phi-3模型”,英特尔副总裁暨数据中心和人工智能软件部宏观经济理Pallavi Mahajan表示。
页:
[1]