По данным компании, в агентных задачах Vera может до двух раз опережать ведущие x86-процессоры; Nvidia считает, что развитие ИИ-агентов меняет требования к серверным процессорам: после многих лет гонки за количеством ядер отрасли снова нужна высокая производительность каждого из них. В интервью Wccftech команда разработчиков рассказала, что процессоры эпохи облачных вычислений оптимизировали прежде всего под пропускную способность и плотность размещения ядер, нередко жертвуя быстродействием в однопоточных задачах. Но ИИ-агенты постоянно переключаются между GPU-вычислениями и последовательными операциями на CPU, поэтому медленная обработка очередного шага может простаивать дорогостоящий ускоритель. Ответ Nvidia на эту проблему — процессор Vera, который компания разрабатывает для инфраструктуры ИИ и агентных вычислений. В отличие от многих конкурирующих решений с компоновкой из нескольких кристаллов, Vera использует один монолитный вычислительный кристалл, чтобы ядра могли обмениваться данными без дополнительных задержек при переходе между чиплетами. Среди заявленных характеристик — память LPDDR5X с высокой пропускной способностью и 3,4 ТБ/с двунаправленной пропускной способности обмена между половинами кристалла (bisection bandwidth). По словам Nvidia, последний показатель примерно втрое выше, чем у ведущих x86-процессоров. Источник изображения: Nvidia Vera team Компания заявляет, что Vera обеспечивает производительность в 1,5 раза выше, чем предыдущий процессор Nvidia Grace. В агентных задачах, включая выполнение сценариев Python и компиляцию кода, разработчики обещают до двукратного преимущества перед ведущими x86-процессорами, а среднее преимущество по геометрическому среднему в выбранном наборе таких задач составляет 1,6 раза. Nvidia также использует собственную схему пространственной многопоточности, разделяющую работу потоков на вычислительную и операции ввода-вывода. По словам команды, тестирование показало, что этот подход способен обеспечить прирост производительности на 20%, а не снижать её из-за дополнительных накладных расходов. Ещё одно изменение — Vera позиционируется не только как процессор-хост для серверов с GPU, но и как самостоятельное решение для стоек, заполненных CPU. Такие системы могут выполнять вызовы инструментов ИИ-агентов и задачи обучения с подкреплением, не занимая ресурсы графических ускорителей. Nvidia не подтверждает прогноз о соотношении 80 CPU на один GPU, который обсуждают в отрасли, но признаёт, что растущее количество агентных задач увеличивает потребность в процессорных ресурсах. Некоторые поставщики инфраструктуры уже обслуживают сотни тысяч изолированных программных сред для одного клиента. Разработчики подчёркивают, что монолитная компоновка — не универсальный отказ от чиплетов: архитектуру будут выбирать в зависимости от задач и требований рынка. Главный тезис Nvidia в том, что в инфраструктуре агентного ИИ важны не только число ядер и общая пропускная способность, но и скорость выполнения последовательных операций, доступ к памяти и обмен данными между ядрами. Именно эти характеристики, по мнению компании, должны помочь Vera поддерживать высокую загрузку GPU в системах, где ИИ-агенты выполняют множество небольших взаимосвязанных задач.