Kimi K3 gira in casa senza GPU, sulla memoria Optane che Intel ha abbandonato

Wait 5 sec.

Un utente di r/homelab ha caricato Kimi K3, modello da 2,8 trilioni di parametri, su un Xeon senza GPU, usando moduli Optane PMem al posto della DRAM. Il risultato è lento, 1,50 token al secondo, ma il modello gira per intero in locale.