人工智能下放边缘运算，英特尔发展新时代芯片架构应对

英特尔业务暨营销业务群商用业务总监郑智成表示，在当前人工智能市场需求激增的情况下，接下来人工智能市场仍旧会有大量的商机出现。然而，与过去不同的是，过去会比较着重在云计算的数据中心需求中，未来则会是在生成式人工智能应用普及的情况下，边缘运算的人工智能需求与发展成为市场关切重点，这其中还包含了软件与服务。

郑智成在“AI应用拓新局，半导体技术新挑战”的研讨会中，在主题“人工智能芯片架构解析”的主题中表示，接下去的几年其中，边缘运算的人工智能会有很高速的增长。尤其，前面的主要都是在于云计算的基础建设部分，接下去更快的增长是在软件跟服务。其中，应用软件的发展与服务会是快速增长，这其实就是系统集成商的生意机会。因为有这么多的企业与政府需求，市场必需要开始去做导入，那这是新的领域。所以，对于很多这个系统集成公司来讲，这是个很好的这个机会。

而对于这样的边缘运算人工智能需求，英特尔也提出了新人工智能芯片架构产品来进一步应对。通过这样构建的芯片架构。可以将人工智能应用将会下放全新的尝试其中，那就是AI PC的部分。过去大规模人工智能的训练几乎不可能在边缘处理的状态，在Meta开源了Llama之后，许多企业都开始将应用架构在Llama之上。而由于Llama的参数量约在70亿个上下，这数字约16GB大小，就可以下放到边缘运算机制中，这就打开了相关边缘人工智能运算的契机。

郑智成举例指出，目前将人工智能芯片用在AI PC可以降低视频会议的周边噪音干扰。也就是当用户在进行视频会议工作之际，可以通过边缘运算人工智能的协助，降低周边的噪音进入到麦克风中传出去，使得视频会议进行更加流畅顺利。这样的作业谈起来可能简单，但是要让芯片算力能在长时间的视频会议中执行，而且还有低功耗的特点，这会是一个挑战。另外，如果视频会议的对象是通过手语沟通，以当前的人工智能应用来说，还是可以通过即时识别来了解对方表达的意思，达到双向无碍沟通的情况。这些相关的应用，英特尔在2024年也将会有100个供应商的300个相似应用创建，让英特尔新的人工智能芯片发挥功用。

就芯片架构内容来说，郑智成表示，以英特尔新一代Meteor Lake处理器来说，其具备人工智能功能首先必须芯片中有NPU的功能。这个NPU是集成在整个处理器中，其与CPU、GPU、I/O、SoC等封装在一个芯片内，不是单独存在。另外，就是把NPU概念下放到边缘的物联网应用上，使物联网也能在作业时有人工智能的功能。例如，奥迪在汽车生产时，以IoT产品来检查焊接点。相较于从前都要用人工去检查这些焊接点，每天有五百万个这个焊接点要检查，这需要耗多少人力。但是现在当然全部都是用计算机的人工智能检查，百分之百全检不是抽检。所以，这个奥迪的这个车子在焊接点检查将会的非常安全。

郑智成强调，为什么英特尔要强调新一代人工智能芯片有NPU的价值。举例来说，在通过机器学习让人工智能了解照片内的猫之后，当用户跟计算机说画一只猫，它就能够画出一只猫来。而这样的应用，在过去必需要用CPU来执行，不仅时间很长，功耗也会很大。来到后来，用GPU执行，速度提升了，但是功耗仍很大。如今，通过NPU来执行，速度与公耗都能够提升，还可以进一步应用落实到边缘运算其中，这就是新一代处理器在人工智能发展上的价值。