新用户登入 登录

萌子岛

  • 7
  • 0

采台积电5纳米制程,Meta下一代自研AI芯片性能提升3倍

1023粉丝
darthracer Elysion~楽的次元2024-5-17 23:28 显示全部楼层 |阅读模式
<


1.jpg


Meta去年公开首款自研芯片MTIA(Meta Training and Inference Accelerator)成果,第一代MTIA(MTIA v1)即采台积电7纳米制程,下一代MTIA同样委由台积电生产。

在英特尔、Google发布最新AI芯片之后,Meta 10日也公开自研芯片开发成果。MTIA v1后继产品官方称为下一代MTIA(Next Gen MTIA),它执行的模型用于处理与AI推荐系统相关的工作。与台积电7纳米制程构建的MTIA v1相比,下一代MTIA采用5纳米制程。

下一代MTIA配备更多处理核心,拥有更多on-chip memory(256MB对比MTIA v1 128MB)和off-chip LPDDR5(128GB对比MTIA v1 64GB),并以更高的平均时脉速度运行,从800MHz上升到1.35GHz,同时功耗增加(90W对比MTIA v1 25W)。

Meta指出,下一代MTIA目前已投入16个数据中心区域使用。Meta评估的四个关键模型中,下一代MTIA性能比MTIA v1提升3倍,“由于我们控制整个堆栈,所以与商用GPU相比,可以完成更高的运算效率”,Meta博客文章写道。

Meta也透露,目前还没有使用下一代MTIA训练生成式AI,尽管该公司声称有多项项目正在进行。此外,Meta承认下一代MTIA不会取代目前用于训练模型的GPU,而是补充计算资源。

2.jpg

英特尔最新发布Gaudi 3,声称能源效率比NVIDIA H100芯片高40%,推论速度快50%。Google正向Google Cloud客户推出用于训练AI模型的TPU v5p,并发布首款为数据中心设计的Arm架构AxionCPU。亚马逊拥有多款自研AI芯片,微软去年也已AI芯片Azure Maia 100和云计算处理器Azure Cobalt 100参战。

Meta近年不遗余力加强AI技术开发,自行研发定制化芯片以满足运算需求。该公司一直是NVIDIA H100 GPU的大客户,今年底前Meta运算基础设施预计采购达到35万颗H100。同时MTIA系列芯片开发也将加速进行,希望在AI军备竞赛赶上竞争对手。

您需要登录后才可以回帖 登录 | 新用户登入

小黑屋|萌子岛

GMT+8, 2025-2-7 21:46 , Processed in 0.329923 second(s), 30 queries , Gzip On, MemCache On.

Copyright 2020  atollmoe©.a2.1.0 All rights reserved. 9+

Copyright 2009  supported by zhixuan© oeo© oko© All rights reserved.Thank you!

快速回复 返回顶部 返回列表