Microsoft Research presenta BitNet 1.58: La rivoluzione a 1-bit

L'Era degli LLM a 1-bit

Quasi contemporaneamente all'annuncio di Google, Microsoft Research ha pubblicato il suo lavoro su BitNet 1.58. Il concetto è tanto semplice quanto rivoluzionario: invece di utilizzare parametri in virgola mobile (a 16-bit o 8-bit), BitNet utilizza solo tre stati per i suoi pesi: -1, 0 e 1 (circa 1.58 bit per parametro).

Perché è importante?

Sostituendo la maggior parte delle operazioni di moltiplicazione con semplici addizioni, BitNet 1.58 riduce drasticamente il consumo di memoria e di energia, pur mantenendo prestazioni paragonabili ai modelli classici delle stesse dimensioni.

Edge AI e Gaming

Questa architettura apre la strada all'esecuzione di potenti modelli linguistici direttamente sui dispositivi di largo consumo (smartphone, console). Nel contesto del Vibe Hosting e di Novoid, l'arrivo di modelli come BitNet potrebbe consentire il dispiegamento di IA locali ad altissime prestazioni senza richiedere cluster GPU proibitivi.