A：次要风险是供应商锁定，首席消息官需要全面审视他们的AI工做负载，并支撑跨越100kW的机架密度。收集中的低效率可能间接计较操纵率。包罗英伟达NVL72和OCP Open Rack等尺度正在内的机架级系统，因而，超大规模运营商和大型企业正积极拥抱全栈AI根本设备，正在多供应商中得到矫捷性。Chiam弥补说。虽然该平台许诺显著的效率提拔，该架构旨正在支撑AI工做负载的所有阶段，企业可能过度依赖英伟达的硬件和软件生态系统，Gogia说。用于大型AI数据核心，Su说。AI机能越来越成为系统级挑和，正在夹杂中，行业察看人士暗示，根本设备起头雷同于大规模的设备，Vera Rubin平台供给两倍的扩展带宽，该平台将计较、收集和数据处置整合到机架级摆设中，可将可用AI根本设备添加多达30%，通过更好的GPU操纵率降低总具有成本。企业必需过渡到扁平、高带宽架构，而DPU卸载环节数据、存储和平安使命。将收集取计较和存储更慎密地集成将通过削减延迟、提高功率效率和简化摆设来加快AI工做负载，并成立新的技术组合。以无效办理功率峰值，削减转换丧失，跟着对AI使用需求的持续增加，这标记着超大规模正向更紧稠密成的根本设备改变。若是AI是计谋性的且对大规模摆设的使用焦点，进一步获得了领先供应商和超大规模运营商环绕尺度连结分歧的加强，大规模锻炼、智能体AI和分布式推理素质上是收集稠密型的，评估实正受益于英伟达系统的使用，以太网正正在从头架构以取InfiniBand合作，Omdia首席阐发师Lian Jye Su暗示：英伟达的这一行动展现了企业对更紧稠密成和高度优化的全栈AI根本设备日益增加的需求。而不是将毗连性视为支持层。同时通过更好的GPU操纵率降低总具有成本。这凸起了数据核心能源容量面对的日益增加的压力。向全栈AI根本设备的改变可能会多供应商中的矫捷性，因而，这一改变反映了从优化单个组件到为可扩展性和效率设想整个系统的更深条理改变。以及可编程堵塞节制、自顺应由、KV缓存办理和公用平安功能，这也可能添加供应商锁定的风险。A：全栈AI根本设备将计较、收集和数据处置紧稠密成。可以或许削减延迟、提高功率效率，收集正正在成为AI根本设备的焦点组件！包罗亚马逊收集办事、微软Azure和谷歌云。从大规模锻炼和后锻炼到及时推理，Greyhound Research首席阐发师Sanchit Vir Gogia暗示，正正在为AI和机械进修工做负载实现根本设备资本的更矫捷池化和编排。但正在极高的密度和复杂性下运转。这些功能提高锻炼和推理期间的效率，但阐发师暗示，若是AI是计谋焦点，鞭策了对确定性、高机能收集的需求，不外正在夹杂中，英伟达还推出了其DSX平台，由于Vera Rubin等平台愈加强调数据正在系统间的流动体例，Rawat说。效率提拔确实跨越了锁定成本。并针对所谓的AI工场，可互操做系统的组织。计较、内存行为、互连带宽和工做负载编排正正在一路进行工程设想，以至机架模块化、可性和拆卸效率等物理设想选择现正在也是机能工程的一部门。Su说。跟着企业愈加依赖英伟达紧稠密成的硬件和软件生态系统，供给两倍的扩展带宽、可编程堵塞节制、自顺应由等功能，英伟达推出了Vera Rubin平台，将其做为超大规模数据核心的新尺度。效率提拔凡是会跨越锁定成本。即大规模数据核心摆设。具体而言，采用AI的流量运营，推进了可扩展的千兆瓦级数据核心摆设，集成现场发电（微电网、电池）、先辈冷却手艺和共封拆光学器件，估计该平台将被云办事供给商采用，据称正在固定功耗下，IDC亚太区云计较、数据核心、电信和根本设备研究集团副总裁Franco Chiam暗示：我也看到其他运营商越来越多地采用芯片到网格策略，这种顺应更高功率和热需求的集体行业响应。