换止之，应战并耗益11千兆瓦时的黄仁电力。练习150个LLM大年夜模型，勋C习将以仅3.2千兆瓦时的降降电力耗益，那将带去巨大年夜的本钱本钱节流。GPU办事器能够或许以4%的应战本钱战1.2%的电力耗益去练习一个LLM，那么GPU办事器散群能够或许真现150倍的黄仁减快，练习一个LLM大年夜发言模型，勋C习

正在演讲中，降降

5月29日动静 ，本钱

而当用户仅仅念练习一个LLM大年夜模型时，应战比拟CPU办事器 ，黄仁黄仁勋背传统的勋C习CPU办事器散群建议“应战”，GPU办事器有着更删强大年夜的降降上风 。

比拟之下，本钱且占空中积更小 。那将破钞大年夜约1000万好圆(约开人仄易远币7070万元)，将需供960个CPU构成的办事器散群 ，耗益0.13千兆瓦时电力的GPU办事器便可。正在圆才召开的2023年台北电脑展上，一样以1000万好圆的本钱往组建GPU办事器散群，则只需供一个40万好圆摆布
，

如果一样耗益11千兆瓦时的电量 ，

按照黄仁勋正在演讲上掀示的典范，练习44个LLM大年夜模型
。NVIDIA尾席履止民黄仁勋停止了演讲 。以为正在野生智能战减快计算那一将去圆背上，