Llama 3模型开发中，扎克伯格：Meta AI蓝图需要更多NVIDIA GPU

darthracer · 2024-2-9 12:43

扎克伯格18日通过Reels短影音分享Meta AI蓝图，计划构建大规模的运算基础设施，到2024年底，运算基础设施将包含35万个NVIDIA H100 GPU。

如果加上NVIDIA A100以及其他AI芯片，到2024年底Meta GPU库存量将达将近60万个，值得一提的是，AMD去年12月发布Instinct MI300X AI芯片时，就曾透露包括Meta、OpenAI、微软等公司将采用。Meta也有自研AI芯片计划，但最快2025年才会投入运算行列。

扎克伯格未透露Meta已经采购多少GPU，由于NVIDIA H100是2022年底才上市，且供应量有限，外部研究推测Meta的H100到货量在2023年达到15万个，这个数字也与微软到货量持平。券商Raymond James的分析师估算，H100价格落在25,000美元至30,000美元之间，在eBay上拍卖价格甚至超过40,000美元。如果Meta以价格范围底标进行采购，也得付出将近90亿美元。

扎克伯格还透露，Meta正在训练大型语言模型Llama 3，由基础AI研究团队（Fundamental AI Research，FAIR）和GenAI研究团队紧密合作开发。Llama 3将具有产生程序代码的能力，与Google Gemini一样，另一重点将是更先进的推理和规划能力。

扎克伯格上传Reels后不久，Meta首席AI科学家杨立昆（Yann LeCun）也谈道“为了加速进展，FAIR现在是AI产品部门GenAI的姐妹组织。”

扎克伯格分享Meta AI蓝图。

为了进行AGI（Artificial General Intelligence，通用人工智能）研究，Meta急需AI芯片创建运算基础，扎克伯格强调这是Meta长期愿景。AGI是一种媲美人类智能水准的未来AI形式，包括OpenAI、Google DeepMind等也大力投入研发。

杨立昆上个月在一场座谈活动分享GPU对AI发展重要性，“你认为AGI已经流行时，就必须采购更多GPU”。同场活动提及NVIDIA和首席执行官黄仁勋（Jensen Huang），由于AI热潮下NVIDIA获益匪浅，“这是一场AI战争，而Jensen正在提供武器”，杨立昆谈道。

从Meta第三季财报显示，2024资本支出将在940亿美元至990亿美元之间，一部分将用来扩张运算基础设施。“就投资重点而言，AI成为我们2024年最大投资领域，无论是在工程还是计算资源上”，扎克伯格通过财报电话会议表示。

扎克伯格公开了他谋划已久的AI蓝图，如今AI人才和计算资源的竞争从未如此激烈，各家科技公司都在争夺少数的研究人员和工程师，更愿意砸钱添购AI芯片，只希望在全球AI竞赛不落人后。

Llama 3模型开发中，扎克伯格：Meta AI蓝图需要更多NVIDIA GPU

浏览过的版块