在近期台北海外电脑展的嘉会上,和硕公司惊艳亮相,推出了一款专为东说念主工智能(AI)遐想的革新机架处分有商酌开yun体育网,这一讯息由知名硬件资讯平台Tom's Hardware最初知道。
这款处分有商酌的中枢亮点在于,它搭载了高达128颗AMD最新一代的Instinct MI350X GPU,这些GPU专为AI推理与执行任务而打造,其架构遐想相较于AMD官方机架有商酌跨越整整一代。
据和硕浮现,这一平台不仅是研发下一代AMD Instinct MI450X处理器IF64/IF128系统的进犯时候考证阵脚,更是预示着联系家具将在一年后步入量产阶段,激勉了业界的鄙俚神气与期待。
和硕的AS501-4A1/AS500-4A1系统,在设立上聘任了8组5U蓄意单位,每组配备1颗AMD EPYC 9005处理器和4颗Instinct MI350X加快器,为了确保在高负载下的褂讪运转,该系统还聘任了高效的液冷散热有商酌。整机遐想适合OCP通达蓄意范例,专为云数据中心(如meta)打造,聘任了51OU ORV3规格。
可是,值得堤防的是,由于AMD尚未推出Infinity Fabric专用交换机,当今该系统主要通过400GbE聚集邻接不同的GPU,最大集群范围限度为8颗。比拟之下,英伟达的GB200/GB300 NVL72平台则通过NVLink结束了72颗GPU的直连,因此在彭胀性方面,MI350X系统暂时无法与英伟达有商酌相失色。
尽管如斯,和硕的这一系统仍然具有其专有的中枢价值。它大略为OCP用户提供即插即用的AI算力平台,同期匡助设立者从软硬件层面深刻掌捏多GPU系统的搭建时候,为AMD挑战英伟达在机架级AI处分有商酌领域的附近地位奠定了坚实的基础。
笔据AMD官方提供的数据,和硕的128-GPU系统表面峰值性能可达1,177 PFLOPS(FP4精度),每颗MI350X GPU搭载了288GB HBM3E显存,系统总显存高达36.8TB,这一数据不仅额外了英伟达Blackwell架构GPU的容量上限,更大略撑持巨型AI模子的运转。
诚然,该系统也存在一定的局限性,尤其是在GPU间通讯方面依赖于以太网开yun体育网,这限度了其在大范围言语模子执行等需要高度同步性的场景中的行使。可是,这无疑是高性能、大内存AI处分有商酌领域的一次进犯冲破,也为AMD下一代Instinct MI400系列家具的推出铺平了说念路。