Только одна стойка ускорителей Nvidia Kyber Ultra NVL576 будет потреблять 600 кВт мощности

Wait 5 sec.

Где взять сколько энергии? Уже сейчас развитие рынка ИИ упирается в том числе в электроэнергию, а буквально со следующего года эта проблема может стать непреодолимым препятствием на пути развития отрасли. Дело в том, что всего одна стойка Kyber Ultra NVL576 будет потреблять 600 кВт мощности. Kyber Ultra NVL576 — это стойка с 576 ускорителями Rubin Ultra. Соответствующее решение компания анонсировала в прошлом месяце, рассказав, что объединены ядра ускорителей будут посредством технологии Customer Performance Optic (CPO). До этого самой большой из анонсированных стоек была Kyber Ultra NVL144 со 144 ускорителями. Источник изображения: Grok Imagine // https://x.ai/grok/use-cases/image-generation Согласно официальным характеристикам, Rubin Ultra NVL576 обеспечит производительность 15 exaFLOPS в области вычислений с плавающей запятой 4-го порядка (вывод данных) и 5 exaFLOPS в области вычислений с плавающей запятой 8-го порядка (обучение данных). Это в 14 раз больше, чем у Blackwell GB300 NVL72. Однако это чудовище потребует 600 кВт мощности, что эквивалентно потреблению примерно 500 среднестатистических американских домов. Для сравнения, стойка с ускорителями Blackwell требовала около 120 кВт, а стойка поколения Hopper потребляла лишь 40 кВт. Источник изображения: Nvidia через WCCF Tech // https://wccftech.com/nvidia-kyber-rubin-ultra-nvl576-600kw-power-consumption-data-center-bottleneck/ И проблема тут уже не только в общем энергопотреблении ЦОД с такими стойками. Дело в том, что переоборудование существующих объектов для прямой подачи 600 кВт электроэнергии в отдельные стойки практически невозможно. Таким образом, соответствующие объекты придётся строить с нуля, что потребует ещё больших вложений.