Новые TPU восьмого поколения от Google. Обучение и инференс теперь отдельно?

Wait 5 sec.

На конференции Google Cloud Next были представлены новые Tensor Processor Unit (TPU) восьмого поколения. В этом поколении чипы анонсированы в двух различных архитектурах TPU — 8t и 8i.По сути, это дополнительное подтверждение, что подход «один GPU под все задачи» — устаревает. В этом поколении Google глубоко разносит обучение и инференс по разным архитектурам — вплоть до разной топологии сети. Что это значит для рынка, обсудим под катом. Читать далее