Aleph Alpha ha pubblicato Kolibri-1 con 78 miliardi di parametri, pesi aperti e contesto fino a 1.048.576 token. L'architettura MoE ne attiva 3,46 miliardi per token, ma il produttore ha consigliato finestre più corte per i compiti complessi