新用户登入 登录

萌子岛

  • 1
  • 0

戴尔推生成式AI开放生态系统,支持AMD新加速器

1023粉丝
darthracer Elysion~楽的次元2024-1-23 09:11 显示全部楼层 |阅读模式
<
1.jpg

生成式AI是近十年最受瞩目的创新加速器,78%的IT决策者表示期待生成式AI在企业中发挥潜力,将其视为提高生产力、简化流程及节省成本的方式。戴尔科技集团表示,善用此技术对于身处数字时代的企业来说非常重要,有助于在竞争激烈的环境中占有一席之地。

戴尔携手AMD扩大Dell生成式AI解决方案产品组合,持续加速推动高端工作负载,为企业提供更丰富的选择,并推进生成式AI进程。此新技术展现了开放生态系统和硅多样性的关键角色,为客户提供简单、可信任的定制化解决方案,将AI导入数据中;然而,应对激增的数据量及善用数据,为如今AI领域的核心问题。

戴尔指出,Dell PowerEdge XE9680为公司至今增长速度最快的解决方案,支持即将推出的AMD Instinct MI300X加速器,提供客户更多AI性能相关选择。其搭载AMD Instinct MI300X,通过高性能解锁企业数据价值,并运用定制化大语言模型(LLM)于产业中脱颖而出。搭载8个MI300X GPU,每个GPU皆配备192GB的5.3 TB/s高带宽内存(HBM3),每个服务器都有一致的HBM3容量达1.5 TB,以及超过21 petaflops的FP16算力峰值,让生成式AI被企业普及使用,协助训练更大的模型、减少数据中心占地面积、降低总体拥有成本,并获得竞争优势。

戴尔并指出,Dell PowerEdge XE9680不仅性能强大,其安全与简易性更为同级中最出色。借由Dell Open Manage Enterprise软件简化和加速生成式AI基础架构的部署,并通过CloudIQ软件达到智能自动化,其更集成网络恢复功能和一系列Zero Trust提升安全性。

Dell PowerEdge XE9680是借由以8个AMD Instinct MI300X加速器运行的AMD Instinct Infinity平台,实现近线性的规模扩展与低延迟分布式的生成式AI训练及推论。借由横跨PowerEdge服务器集群的全局内存互联(xGMI),并通过以太网络为基础的AI结构连接MI300X GPU,使用经戴尔验证的GPU结构和Dell PowerSwitch Z9664F-ON。

此外,戴尔也宣布生成式AI解决方案的进一步计划,全新Dell Validated Design for Generative AI with AMD协助企业更易部署可信任的生成式AI。此款Dell Validated Design for Generative AI with AMD ROCm的AI架构将于2024年上市,拓展Dell生成式AI解决方案生态系,并将加入开源大语言模型。AMD ROCm可作为AMD Instinct加速器的开源驱动程序堆栈、开发工具组及API。通过Dell Validated Designs for Generative AI将能更简单地定制可信任的生成式AI平台,消弭集成、性能和规模等考量因素的不确定性。

身为超级以太网联盟(UEC)一员,戴尔致力提倡基于标准的网络。戴尔表示,公司拥有独特优势,可在生成式AI解决方案(运算、结构和存储)中运用开放式方法充分发挥潜力。
您需要登录后才可以回帖 登录 | 新用户登入

小黑屋|萌子岛

GMT+8, 2025-1-31 20:01 , Processed in 0.388474 second(s), 30 queries , Gzip On, MemCache On.

Copyright 2020  atollmoe©.a2.1.0 All rights reserved. 9+

Copyright 2009  supported by zhixuan© oeo© oko© All rights reserved.Thank you!

快速回复 返回顶部 返回列表