铭鸿体育资讯网

1)rubin的机柜从单条192GB内存降为96GB,原因是192GB做agen

1)rubin的机柜从单条192GB内存降为96GB,原因是192GB做agent推理仍然不够,做训练又显得冗余,因此调整为rubin标准机柜只满足训练与普通推理的内存需求。
2)agent推理的内存需求调整为通过Vera的CPU机柜来满足,一个Vera的CPU机柜配备256颗CPU,393TB内存。由客户自己根据业务选择需要配置多少比例的agent推理比例,不在通过rubin nvl72机柜来满足这部门内存需求。
3)CPU机柜与Rubin机柜通过scale out网络连接。
当前不存在内存价格抑制AI需求的趋势,产品调整反而更合理。
利好:DRAM,CPU,scale out网络体系(交换机、光模块、CPO等),电源散热等配套。