Xiaomi показала компактный AI-компьютер на собственных чипах

Wait 5 sec.

Компьютер хотят использовать для инференса крупных моделей и ИИ-агентов без обращения к облачной инфраструктуре.В основе платформы — собственные чипы Xring O3, O100 и D100. При этом O100 предназначен именно для AI-задач: по данным Reuters, это 6-нм NPU, который Xiaomi разрабатывает для работы с собственной моделью MiMo на пользовательских устройствах. O3 — 3-нм мобильный SoC, а D100 предназначен для систем автономного вождения. Заявлено, что прототип способен одновременно работать со связкой моделей 120B и 3B, переключаясь между ними в зависимости от сложности задачи. Это позволяет использовать небольшую модель для быстрых операций, а более крупную — когда требуется дополнительное качество рассуждений.По концепции устройство действительно близко к NVIDIA DGX Spark — компактному AI-компьютеру с 128 ГБ унифицированной памяти, рассчитанному на локальный инференс моделей размером до 200 млрд параметров. При этом Xiaomi пока раскрыла значительно меньше технических характеристик самого AI-компьютера, чем NVIDIA для DGX Spark. Поэтому пока рано называть его прямым конкурентом по производительности, а уж тем более «убийцей NVIDIA». Читать далее