戴尔推生成式AI开放生态系统，支持AMD新加速器

darthracer · 2024-1-23 09:11

生成式AI是近十年最受瞩目的创新加速器，78%的IT决策者表示期待生成式AI在企业中发挥潜力，将其视为提高生产力、简化流程及节省成本的方式。戴尔科技集团表示，善用此技术对于身处数字时代的企业来说非常重要，有助于在竞争激烈的环境中占有一席之地。

戴尔携手AMD扩大Dell生成式AI解决方案产品组合，持续加速推动高端工作负载，为企业提供更丰富的选择，并推进生成式AI进程。此新技术展现了开放生态系统和硅多样性的关键角色，为客户提供简单、可信任的定制化解决方案，将AI导入数据中；然而，应对激增的数据量及善用数据，为如今AI领域的核心问题。

戴尔指出，Dell PowerEdge XE9680为公司至今增长速度最快的解决方案，支持即将推出的AMD Instinct MI300X加速器，提供客户更多AI性能相关选择。其搭载AMD Instinct MI300X，通过高性能解锁企业数据价值，并运用定制化大语言模型（LLM）于产业中脱颖而出。搭载8个MI300X GPU，每个GPU皆配备192GB的5.3 TB/s高带宽内存（HBM3），每个服务器都有一致的HBM3容量达1.5 TB，以及超过21 petaflops的FP16算力峰值，让生成式AI被企业普及使用，协助训练更大的模型、减少数据中心占地面积、降低总体拥有成本，并获得竞争优势。

戴尔并指出，Dell PowerEdge XE9680不仅性能强大，其安全与简易性更为同级中最出色。借由Dell Open Manage Enterprise软件简化和加速生成式AI基础架构的部署，并通过CloudIQ软件达到智能自动化，其更集成网络恢复功能和一系列Zero Trust提升安全性。

Dell PowerEdge XE9680是借由以8个AMD Instinct MI300X加速器运行的AMD Instinct Infinity平台，实现近线性的规模扩展与低延迟分布式的生成式AI训练及推论。借由横跨PowerEdge服务器集群的全局内存互联（xGMI），并通过以太网络为基础的AI结构连接MI300X GPU，使用经戴尔验证的GPU结构和Dell PowerSwitch Z9664F-ON。

此外，戴尔也宣布生成式AI解决方案的进一步计划，全新Dell Validated Design for Generative AI with AMD协助企业更易部署可信任的生成式AI。此款Dell Validated Design for Generative AI with AMD ROCm的AI架构将于2024年上市，拓展Dell生成式AI解决方案生态系，并将加入开源大语言模型。AMD ROCm可作为AMD Instinct加速器的开源驱动程序堆栈、开发工具组及API。通过Dell Validated Designs for Generative AI将能更简单地定制可信任的生成式AI平台，消弭集成、性能和规模等考量因素的不确定性。

身为超级以太网联盟（UEC）一员，戴尔致力提倡基于标准的网络。戴尔表示，公司拥有独特优势，可在生成式AI解决方案（运算、结构和存储）中运用开放式方法充分发挥潜力。

戴尔推生成式AI开放生态系统，支持AMD新加速器

浏览过的版块