IBM rilascia Granite 4.1: il modello da 8 miliardi che batte i competitor da 32

IBM ha appena messo online Granite 4.1, una nuova famiglia di modelli linguistici open-source pensati per le aziende. La notizia che ha catturato l'attenzione della comunità tech è una sola: il modello da 8 miliardi di parametri eguaglia o supera il precedente Granite 4.0 da 32 miliardi (con 9 miliardi attivi in architettura MoE). Non è un miglioramento marginale. È il risultato di due anni di lavoro sulla qualità dei dati e sul processo di addestramento, e significa che potrai far girare modelli potenti su hardware ordinario, senza spendere una fortuna in infrastruttura cloud.

Chi

IBM è una delle aziende storiche dell'informatica mondiale, con una divisione di ricerca (IBM Research) che lavora su AI e machine learning. Granite è la loro linea di modelli open-source rilasciati sotto licenza Apache 2.0, pensati specificamente per use case aziendali dove servono tool calling, instruction following e integrazione in workflow complessi.

Cosa è successo

IBM ha rilasciato la collezione Granite 4.1, che include modelli di tre dimensioni: 3B, 8B e 30B parametri. Tutti sono stati addestrati su circa 15 trilioni di token usando una pipeline multi-stage che ha dato priorità alla qualità dei dati piuttosto che alla quantità pura.

I numeri che saltano agli occhi:

• ArenaHard (benchmark dove GPT-4 giudica la qualità su 500 prompt reali): il Granite 4.1 8B segna 69.0, il precedente Granite 4.0-H-Small da 32B MoE segna meno.
• BFCL V3 (tool calling, il compito di usare funzioni esterne): 8B a 68.3 vs 32B MoE a 64.7.
• GSM8K (ragionamento matematico): 92.5 per l'8B.
• AlpacaEval, MMLU-Pro, BBH, EvalPlus, MBPP: stessa tendenza in tutti i benchmark.

L'architettura è densa (non usa Mixture of Experts), il che la rende più semplice da fine-tunare per compiti specifici. I modelli supportano fino a 512K token di contesto, sono stati raffinati con supervised fine-tuning su 4.1 milioni di campioni curati manualmente, e poi sottoposti a reinforcement learning (GRPO con DAPO loss) per migliorare matematica, coding, instruction following e chat generale.

Tutti i modelli sono disponibili su Hugging Face e su GitHub.

Perché è importante

Questo rilascio tocca tre aspetti concreti della vita di chi usa AI:

1. Efficienza economica. Se il tuo modello da 8B fa quello che prima facevi con 32B, riduci i costi di hosting, il consumo energetico, e la latenza. Per un'azienda che gira migliaia di inference al giorno, è una differenza misurabile in migliaia di euro al mese.

2. Esecuzione locale. Un modello da 8B gira su hardware consumer (GPU come NVIDIA RTX 4090, o anche su CPU con quantizzazione). Significa privacy garantita, niente dati mandati a server esterni, niente latenza di rete. Gli utenti di Hacker News che lo hanno testato ieri confermano: "Runs on commodity hardware quickly" e "surprisingly really fast".

3. Precedente tecnico. IBM ha dimostrato che non serve solo scalare il numero di parametri. Tra Granite 4.0 e 4.1, il numero di parametri dell'8B è rimasto lo stesso (8 miliardi), ma la qualità dei dati, il pipeline di training, e il reinforcement learning hanno fatto la differenza. Questo spinge tutta l'industria a investire di più in data engineering e meno in scala bruta.

4. Competizione open-source. Modelli come Qwen 3.6 (35B) e Gemma 4 (26B) sono ancora forti in certi compiti (Qwen è più "smart" in generale, Gemma è più preciso in estrazione dati strutturati), ma Granite 4.1 8B offre un'alternativa credibile con una licenza permissiva (Apache 2.0) e dati di training recenti, che i competitor spesso non hanno.

Cosa aspettarsi

Nel breve termine:

• Adozione da parte di developer che vogliono modelli locali per autocomplete, tool calling, e task di automazione. La comunità su Hacker News e Reddit già lo sta testando.
• Comparazioni dettagliate con Qwen 3.6, Gemma 4, e Llama 3.2 su benchmark specifici (coding, math, agentic workflows).
• Fine-tuning pubblici su dataset verticali (legale, medico, finanza).

Nel medio termine:

• IBM probabilmente rilascerà versioni quantizzate (4-bit, 8-bit) per ridurre ulteriormente i requisiti di memoria.
• Integrazione in framework open-source (LangChain, LlamaIndex, Ollama) per semplificare il deploy.
• Reazioni dei competitor: Anthropic, Meta, e Mistral potrebbero accelerare i rilasci di modelli piccoli efficienti per non perdere il segmento "local + open-source".

Domande aperte:

• Come si comporta Granite 4.1 8B su compiti di ragionamento complesso (multi-hop reasoning, pianificazione) rispetto a Qwen 3.6 35B?
• Quanto costa addestrare un modello così? IBM non ha pubblicato i numeri di compute, quindi è difficile capire se è replicabile da startup.
• La semplificazione dell'architettura (densa vs MoE) significa davvero meno flessibilità, o è un trade-off accettabile per la maggior parte dei use case?

Per chi sviluppa AI in azienda o vuole sperimentare localmente, Granite 4.1 è il momento di provare. Non è una rivoluzione, è un passo solido verso modelli più efficienti e accessibili.