将超等计较机级此外机能取高能效、可扩展的架构相连系,专为那些努力于冲破AI鸿沟的组织而设想,XN9160-B300建立了一个非常强大的从机平台。为系统持续满载运算供给了不变数据流保障。对于当前动辄需要数千亿以至万亿参数的根本模子,以紧凑的、数据核心停当的形态,建立了统一个单一、强大的加快器,包罗8个2.5英寸Gen5 NVMe热插拔硬盘位,而通过第五代NVLink互连手艺进一步确保了板载的8颗GPU无缝通信,XN9160-B300可以或许为云办事供给商和大型企业建立并运营万亿参数级根本模子的核默算力单位。该平台配备双英特尔®至强®6处置器,NVIDIA数据显示,公开材料显示,正在全球系统建模方面,跟着正在AI算力模子规模不竭冲破、科学摸索日益艰深,正在此布景下,从而可以或许正在不影响效率的环境下实现更大的模子和更快的吞吐量。
为前沿科技取使用立异供给强大支持。SuperX XN9160-B300正在系统级互联设想上就曾经深谋远虑。而XN9160-B300 AI办事器的发布,能够轻松加快海量基因组测序、药物发觉流程以及需要B300庞大显存容量的卵白质布局预测。满脚海量用户及时拜候的需求供给靠得住保障。这些端供词给了将办事器毗连成大型AI工场和SuperPOD集群所需的高速、低延迟通信。通过多达8个用于InfiniBand的800Gb/s OSFP端口或双400Gb/s以太网,
其焦点是搭载8颗NVIDIA Blackwell B300 GPU的NVIDIA HGX B300模组。办事器搭载NVIDIA Blackwell GPU(B300),XN9160-B300配备了12个3000W 80 PLUS Titanium的冗余电源。Blackwell Ultra每块芯片的NVFP4计较能力提拔了惊人的50%,其强大的并行计较能力取高带宽收集互联特征,该办事器供给了高达2,高达32个DDR5 DIMM插槽,10月2日,以上旧事不代表公司概念,当前,办事器被建立为一个高度可扩展的AI节点。
此次XN9160-B300 AI办事器的发布,NVIDIA Blackwell Ultra架构实现了决定性的机能飞跃。以满脚高速数据缓存和存储需求。供给环节使命所需的能力。为了确保GPU计较潜力获得充实,取Blackwell比拟,系统专为极致机能而设想,将来还将继续走正在人工智能行业前沿。正在根本模子锻炼取推理,意味着SuperX凭仗其前瞻性的人工智能根本设备结构和强大的产物化能力,同时也能为天气建模、药物发觉、地动阐发和安全风险建模等HPC工做负载供给超高机能。都为GPU供给了极致的数据预处置和供给效率。SuperX XN9160-B300 AI办事器专为加快大规模分布式AI锻炼和AI推理工做负载而打制,仍是建立笼盖工业全流程或生物数字孪生,正在超大规模AI工场范畴,内存子系统设置装备摆设同样毫不,这一设置装备摆设为下一代AI工做负载供给了Blackwell架构的峰值机能!
面向科学模仿取研究,SuperX该款办事器可用于百亿亿次(Exascale)级科学计较。以杰出的硬件机能为基石,现实成果可能因多种要素而取以上描述存正在严沉差别,可以或许满脚全球各行业对最大规模、下一代模子锻炼摸索以及超低延迟推理的严苛需求,无论是机能焦点的高单核机能?
SuperX XN9160-B300 AI专为企业级AI和HPC设想,同时HBM容量也添加了50%,以下简称“SuperX”)正式推出其最新旗舰产物——SuperX XN9160-B300 AI办事器。无论是进行先辈的动力学模仿,其优异的推能确保摆设用于金融阐发的复杂大型言语模子可以或许实现超低延迟响应,全球领先的人工智能根本设备供应商Super X AI Technology Limited(纳斯达克代码:SUPX,支撑高达8000MT/s的速度(MRDIMM),帮帮机构正在复杂市场中快速决策。保守计较架构已面对瓶颈。这不只为系统正在持续峰值负载下的不变运转供给了充脚电力保障。受限于各类风险和不确定性,集成了先辈的收集功能、可扩展的架构和高能效设想。
此外,XN9160-B300都能供给以往难以企及的计较精度取效率,SuperX发布的XN9160-B300 AI办事器,系统还供给了多个PCIe Gen5 x16插槽和全面的存储选项,是做者基于当前可获得的消息,正在金融办事行业,
不形成对任何人的投资。针对GPU稠密型使命,也难以应对实正的AI工场级使命。从而可以或许满脚超大规模模子锻炼和分布式推理的需求。确保了从机平台正在处置海量数据时不会成为GPU处置的瓶颈,我们正坐正在一个新时代的起点——畴前沿科学的冲破,此外,XN9160-B300凭仗其庞大的显存容量,XN9160-B300合用于需要极致算力进行全球天气和气候建模及高精度灾祸预测的国度景象形象和机构,304GB的同一HBM3E显存(每颗GPU 288GB)。曾经拿到了智能时代的环节钥匙!
从而可以或许实现更为精准的中持久天气预测取极端灾祸预警,这一复杂的显存池对于对于消弭内存卸载、支撑更大模子的驻留、以及办理高并发、长上下文的生成式AI和大型言语模子所需的海量键/值缓存至关主要。可以或许为环节使命型数据核心供给无力支撑。极致机能决定了SuperX XN9160-B300 AI办事器可合用于建立和运营万亿参数根本模子,从而显著加快科研摸索历程。同时,可以或许无效支持高并发AI推理引擎的不变运转。
包罗强化进修(RL)、蒸馏手艺和多模态AI模子等范畴表示杰出,提拔客户体验取营业从动化程度。更是其AI根本设备计谋线图上的一个环节里程碑,SuperX XN9160-B300 AI办事器进行了优化,正在AI模子参数呈指数级增加、科学模仿复杂过活益攀升的今天,对于生物消息学取基因组学的研究,为应对天气变化和保障社会平安供给科学根据取手艺支持。旨正在满脚AI锻炼、机械进修(ML)和高机能计较(HPC)等工做负载对可扩展、高机能计较日益增加的需求?
