Удорожание и дефицит полупроводниковой памяти внесли серьезные коррективы в архитектурное планирование крупнейших облачных провайдеров. На недавнем саммите Нихил Черян, старший директор по инфраструктуре цепочек поставок Google, заявил, что основным узким местом ИИ-инфраструктуры окончательно стала память (как неожиданно). Если ранее производительность системы упиралась преимущественно в вычислительную мощность чипов, то сегодня подсистемы памяти формируют порядка 75% стоимости комплектующих современного AI-сервера.Чтобы снизить капитальные затраты и обойти логистические ограничения, Google развернула внутреннюю систему «вторичной переработки» вычислительных узлов. Компания извлекает модули оперативной памяти стандарта DDR4 из списанных серверов предыдущих поколений и повторно интегрирует их в актуальную ИИ-инфраструктуру. Читать далее