AI on-premise per PMI italiane: come usare modelli AI locali senza inviare dati al cloud

I modelli AI on-premise permettono a una PMI di eseguire intelligenza artificiale direttamente sui propri server o PC, senza condividere dati con provider cloud statunitensi. Nel 2026, modelli come Mistral 7B, Llama 3.1 8B e Phi-4 girano su hardware consumer da 3.000-6.000€ con una qualità sufficiente per la maggior parte dei casi d'uso aziendali. Non è una soluzione per tutti, ma per chi gestisce dati riservati — contratti, dati fiscali, segreti industriali — è l'unica alternativa seria.

Secondo un report Economyup del 2026, il 47% dei lavoratori italiani usa strumenti AI senza una policy aziendale. Le PMI spesso non sanno nemmeno quali dati escono dai loro uffici ogni volta che un dipendente incolla un contratto su ChatGPT. L'AI on-premise risolve questo problema alla radice.

Perché l'AI locale è diventata praticabile nel 2026

Fino a due anni fa, eseguire un modello AI in locale richiedeva hardware da datacenter e competenze da data scientist. Oggi la situazione è cambiata in modo sostanziale.

I modelli open-weight — cioè con pesi scaricabili liberamente — hanno raggiunto una qualità che un paio di anni fa era riservata ai modelli cloud di punta. Mistral (azienda francese, rilevante anche per il GDPR europeo) produce modelli da 7 e 24 miliardi di parametri che gestiscono bene l'italiano. Meta ha rilasciato Llama 3.1 con licenza commerciale libera fino a 700 milioni di utenti attivi mensili, abbondantemente sopra la soglia di qualsiasi PMI. Microsoft ha reso disponibile Phi-4, ottimizzato per girare su hardware limitato mantenendo buona qualità su compiti di ragionamento. Alibaba ha rilasciato Qwen 2.5, multilingua e con buon supporto all'italiano.

Il secondo cambiamento è l'hardware. Una GPU consumer da gioco come la RTX 4070 (12 GB di VRAM, circa 600€) è sufficiente per eseguire un modello da 7-8 miliardi di parametri in modo fluido. Una workstation con RTX 4090 (24 GB di VRAM, circa 1.800€) copre modelli fino a 14 miliardi di parametri con buone prestazioni.

Il terzo cambiamento è il software di deployment. Strumenti gratuiti come Ollama, LM Studio e Open WebUI hanno eliminato la complessità tecnica: si installa il software, si scarica il modello, si avvia l'interfaccia. Zero programmazione richiesta.

I modelli più adatti per una PMI italiana

Non tutti i modelli open-weight sono uguali per chi deve lavorare in italiano. Ecco quelli che offrono il miglior equilibrio tra qualità, requisiti hardware e licenza commerciale.

Modello	Parametri	VRAM minima	Qualità italiano	Licenza commerciale	Caso d'uso ideale PMI
Mistral 7B	7B	6 GB	Buona	Sì, Apache 2.0	Documenti, FAQ interne, email
Llama 3.1 8B	8B	6 GB	Buona	Sì (fino a 700M MAU)	Assistente generico, sintesi
Phi-4	14B	10 GB	Discreta	Sì, MIT	Ragionamento, analisi dati
Qwen 2.5 7B	7B	6 GB	Buona	Apache 2.0	Multilingua, testi tecnici
Mistral Small 3.2	24B	16 GB	Ottima	Sì	Compiti complessi, contratti

La regola pratica: se la RAM o la VRAM disponibile è inferiore ai requisiti indicati, il modello gira comunque sulla CPU, ma la velocità scende a 3-8 token al secondo — accettabile per un uso personale, lento per un team che lavora in parallelo.

Strumenti di deployment: cosa serve davvero

Per una PMI senza un IT interno, esistono tre strumenti che non richiedono programmazione.

Ollama è un'applicazione da riga di comando gratuita che scarica e avvia modelli con un singolo comando. È la scelta più diffusa tra sviluppatori e aziende tecniche. Funziona su Mac, Windows e Linux.

LM Studio offre un'interfaccia grafica completa: si sceglie il modello da un catalogo, lo si scarica con un click e si avvia una chat. È la scelta ideale per chi non vuole usare il terminale. Gratuito per uso aziendale.

Open WebUI è l'interfaccia web da installare sul proprio server per darla a tutto il team. Si collega a Ollama sul backend e offre un'esperienza simile a ChatGPT — gestione delle conversazioni, upload di documenti, accessi per utenti diversi. Gratuito e open source.

La combinazione raccomandata per una PMI che vuole dare l'AI a tutti i dipendenti: Ollama + Open WebUI su un PC dedicato in azienda, accessibile dalla rete locale.

Costi hardware per diversi scenari

Il costo dipende da cosa si vuole fare e quante persone useranno il sistema in contemporanea.

Scenario base (1-3 utenti, documenti semplici): PC con processore moderno e 32 GB di RAM, senza GPU dedicata. Costo: 1.000-1.800€. I modelli da 7B girano sulla CPU a circa 5 token/secondo. Lento ma funzionale per uso non intensivo.

Scenario intermedio (team fino a 10 persone, uso quotidiano): Workstation con GPU RTX 4070 Ti (16 GB VRAM, circa 800€) e 32-64 GB di RAM. Costo totale: 2.500-4.000€. Supporta modelli da 7-13B in modo fluido, con tempi di risposta di 1-2 secondi.

Scenario avanzato (team numeroso, modelli più capaci): Server con GPU RTX 4090 (24 GB VRAM, circa 1.800€) o due GPU collegate. Costo: 5.000-10.000€. Permette di girare modelli da 30-70B con buone prestazioni, avvicinandosi alla qualità dei modelli cloud top.

Da notare: questi sono costi una tantum, senza canone mensile per i token. Con un utilizzo intensivo, il payback rispetto a un abbonamento cloud può avvenire in 6-18 mesi.

Dove ha senso l'AI locale (e dove no)

L'AI on-premise non è la soluzione giusta per ogni caso d'uso. Serve capire quando è la scelta razionale.

Ha senso usare AI locale quando:

• Si elaborano documenti riservati: contratti, dati fiscali, dossier clienti, segreti industriali. Un consulente del lavoro che analizza le buste paga non può inviarle a server negli Stati Uniti.
• Si vuole un assistente AI sui propri dati aziendali (manuali, cataloghi prodotti, procedure) senza che escano dall'azienda.
• Il volume di utilizzo è alto e il costo per token del cloud diventerebbe significativo.
• Si vuole indipendenza da un vendor: nessun rischio di aumenti di prezzo, nessuna dipendenza da disponibilità del servizio esterno.

Un esempio concreto: uno studio di commercialisti con 15 dipendenti e 300 clienti PMI ha implementato un assistente AI locale su Ollama con modello Mistral 7B. L'assistente risponde alle domande dei dipendenti sulla normativa fiscale italiana, analizza le bozze di dichiarazioni e segnala anomalie. I dati dei clienti non escono mai dall'ufficio. Costo totale dell'hardware: 3.800€. L'alternativa con un LLM cloud avrebbe richiesto una revisione completa dei contratti con i clienti per il consenso al trattamento dei dati.

Per i servizi di AI infrastructure che richiedono integrazione con processi aziendali complessi, la scelta tra cloud e on-premise va valutata caso per caso in base alla sensibilità dei dati e al volume di utilizzo previsto.

Non ha senso usare AI locale quando:

• Si fanno compiti creativi complessi, ricerche web o attività che richiedono aggiornamento continuo delle informazioni.
• Il team non ha nessuna persona che possa gestire l'installazione e i rari aggiornamenti necessari (non serve un sistemista, ma serve qualcuno disposto a seguire una guida di 30 minuti).
• Il volume di utilizzo è basso: per chi usa l'AI 30 minuti al giorno, il costo hardware non si ripaga.

Il lato critico: cosa l'AI locale non fa

Essere chiari sui limiti è importante quanto spiegare i vantaggi.

Qualità inferiore ai modelli cloud top. Un Mistral 7B locale è buono, ma non è Claude Opus 5 o GPT-4o. Per compiti che richiedono ragionamento complesso su documenti lunghi, la differenza si sente. I modelli locali da 7-8B commettono più errori su testi tecnici complessi e tendono a essere meno precisi nelle traduzioni sfumate.

Nessun aggiornamento automatico. I modelli cloud vengono migliorati continuamente dai provider. Un modello locale rimane quello che era al momento del download, salvo che si scelga di aggiornarlo manualmente.

Manutenzione. Hardware che si guasta, aggiornamenti del sistema operativo, gestione degli accessi: non è zero lavoro. Non serve un sistemista dedicato, ma serve qualcuno che si occupi di fare aggiornamenti periodici e di risolvere i problemi.

Nessuna ricerca web. I modelli locali non si connettono a internet per default. Per avere un assistente che risponde su eventi recenti serve una configurazione aggiuntiva (RAG + web search), più complessa da gestire.

GDPR e AI locale: la logica della privacy by design

Il GDPR non impone di usare AI locale, ma l'AI locale semplifica enormemente la compliance. Quando i dati non escono dall'azienda, non si applica il trasferimento verso paesi terzi (art. 44-49 GDPR), non serve il DPA con il provider AI, e il controllo sul trattamento rimane totalmente in capo all'azienda.

Con l'AI Act entrato in vigore nell'agosto 2026, le aziende che usano strumenti AI per elaborare dati personali devono essere in grado di dimostrare dove i dati vengono trattati e con quali garanzie. Con un'installazione on-premise, questa dimostrazione è banale: i dati restano sul server in ufficio.

Attenzione: l'AI locale non risolve automaticamente tutti i problemi GDPR. Se si usa l'AI locale per analizzare dati di dipendenti (come i people analytics), le garanzie previste dallo Statuto dei Lavoratori si applicano indipendentemente da dove gira il modello.

FAQ

L'AI on-premise è davvero alla portata di una PMI senza un IT interno? Sì, con gli strumenti attuali. Installare Ollama e LM Studio richiede circa 30-60 minuti seguendo una guida passo passo, senza conoscenze di programmazione. La parte più tecnica è la scelta e configurazione dell'hardware, per la quale ha senso consultare un tecnico locale per 1-2 ore. Il punto critico non è la complessità tecnica, ma capire se il caso d'uso lo giustifica.

Quale modello scegliere per lavorare in italiano? Per la qualità dell'italiano, Mistral 7B e Mistral Small 3.2 sono i più solidi, essendo sviluppati da un'azienda europea con focus su lingue non anglofone. Llama 3.1 8B è una buona alternativa per usi generici. Se si lavora con testi tecnici complessi o si vuole una qualità più vicina ai modelli cloud, conviene puntare su Mistral Small 3.2 (24B) con una GPU da 16 GB di VRAM.

I modelli locali possono leggere i miei documenti aziendali? Sì, ma richiede una configurazione aggiuntiva chiamata RAG (Retrieval-Augmented Generation). Strumenti come Open WebUI la supportano nativamente con un po' di configurazione. Il modello non "impara" i tuoi documenti — li cerca ogni volta che risponde a una domanda. È una differenza importante: i dati rimangono statici e controllabili.

Quanto costa realmente rispetto a un abbonamento cloud? Dipende dal volume. Con 5 utenti che usano l'AI 1-2 ore al giorno, un abbonamento equivalente (ChatGPT Team o Claude Pro) costa circa 400-500€/mese per il team. L'investimento hardware per un setup adeguato (2.500-4.000€) si ripaga in 6-10 mesi. Per un uso più leggero o sporadico, il cloud rimane più economico.

L'AI locale è sicura da eventuali attacchi informatici? Non per definizione. Un server mal configurato sulla rete aziendale può essere un vettore di attacco come qualsiasi altro dispositivo. La sicurezza dell'AI locale dipende dalla configurazione della rete, dalla gestione degli accessi e dall'aggiornamento del sistema operativo. L'assenza di trasmissione dati a server esterni riduce una categoria di rischio, ma non elimina gli altri.