Qwen3.8-27B gira su un portatile da 12GB: la memoria arriva da altri tre dispositivi

Wait 5 sec.

L'esperimento è di un utente Reddit: quattro macchine sulla stessa rete locale, dal mini PC con RTX 3060 fino a uno smartphone Android da 1GB, per arrivare ai 17GB che il modello quantizzato a 4 bit pretende. Funziona, a meno di due token al secondo