"Mi spieghi cos'è 'sta cosa del RAG?"
Me l'ha chiesto un avvocato la settimana scorsa, durante una demo. Aveva letto l'acronimo da qualche parte e voleva capire se era l'ennesima buzzword del marketing tech o qualcosa di concreto.
È una domanda legittima. Il mondo dell'AI è pieno di sigle incomprensibili: LLM, RAG, NLP, embeddings, vector database... Sembra fatto apposta per escludere chi non è del settore.
Oggi provo a spiegare questi concetti in modo semplice. Perché dietro le sigle c'è una rivoluzione concreta nel modo in cui possiamo interagire con i documenti.
LLM: il cervello che capisce il linguaggio
Partiamo dalle basi. LLM sta per "Large Language Model" — modello linguistico di grandi dimensioni. ChatGPT è un LLM. Claude è un LLM. Sono quei sistemi di AI che "capiscono" e "producono" testo in linguaggio naturale.
Come funzionano? In modo molto semplificato: sono stati addestrati su quantità enormi di testo (libri, siti web, documenti) e hanno "imparato" i pattern del linguaggio. Non capiscono davvero come un umano — ma sono straordinariamente bravi a prevedere quale parola viene dopo, e questo li rende capaci di produrre testo coerente e rispondere a domande.
Il problema degli LLM? Sanno solo quello che hanno imparato durante l'addestramento. Se gli chiedi di un contratto specifico della tua azienda, non ne sanno nulla. È come chiedere a un esperto di diritto generale di commentare una clausola che non ha mai visto.
Il problema: l'AI non conosce i tuoi documenti
Ecco il punto critico per le applicazioni aziendali.
Un LLM generico come ChatGPT è impressionante, ma non sa nulla dei tuoi contratti, delle tue procedure, della tua corrispondenza. Puoi copiare e incollare testo nel prompt, certo. Ma è scomodo, limitato, e — aspetto importante — stai mandando documenti riservati a server esterni.
Come nota Harvard Business Review nell'analisi sull'EU AI Act, la natura confidenziale dei dati enterprise è una barriera significativa all'adozione degli LLM nelle aziende. Non puoi semplicemente caricare i tuoi documenti su ChatGPT e sperare per il meglio.
Serve un modo per far "conoscere" all'AI i tuoi documenti specifici, mantenendo il controllo sui dati.
RAG: dare memoria all'AI
Ed ecco che entra in gioco il RAG — Retrieval-Augmented Generation, ovvero "generazione aumentata dal recupero".
L'idea è geniale nella sua semplicità: invece di addestrare l'AI sui tuoi documenti (costoso, complesso, potenzialmente rischioso), gli dai accesso a un "archivio" dei tuoi documenti da cui può pescare informazioni al momento del bisogno.
Quando fai una domanda, succede questo:
- •Il sistema cerca nei tuoi documenti i passaggi più rilevanti
- •Questi passaggi vengono passati all'LLM insieme alla tua domanda
- •L'LLM genera una risposta basandosi su quei contenuti specifici
È come la differenza tra chiedere a un esperto di rispondere a memoria, e chiedergli di rispondere dopo avergli dato i documenti rilevanti da consultare. Il secondo approccio dà risposte molto più accurate e pertinenti.
Vectara nel loro report sulle previsioni RAG enterprise spiega bene perché il RAG è diventato lo standard per le applicazioni enterprise: permette di mantenere i dati sensibili nel tuo ambiente, senza doverli inviare a servizi esterni per l'addestramento.
Vector Database: dove stanno i "significati"
Ok, ma come fa il sistema a trovare i documenti "rilevanti" quando fai una domanda? Qui entra in gioco il concetto di vector database.
Immagina di rappresentare ogni frase, ogni paragrafo dei tuoi documenti come un punto in uno spazio multidimensionale. Frasi con significati simili saranno punti vicini; frasi con significati diversi saranno punti lontani.
Questa rappresentazione si chiama "embedding" — tradurre il testo in numeri (vettori) che catturano il significato.
Quando fai una domanda, anche quella viene trasformata in un vettore. Poi il sistema cerca nel database i vettori più "vicini" — cioè i passaggi con significato più simile alla tua domanda.
È per questo che la ricerca semantica funziona: non cerca parole, cerca significati. "Rescissione anticipata" e "risoluzione prima della scadenza" saranno vettori vicini, anche se le parole sono completamente diverse.
Perché tutto questo ti interessa?
Se sei arrivato fin qui, probabilmente ti stai chiedendo: "Ok, interessante, ma cosa me ne faccio?"
Ecco il punto pratico.
Queste tecnologie — LLM, RAG, vector database — permettono di fare cose che fino a pochi anni fa erano impossibili:
Cercare per concetti, non per parole. "Trova tutti i contratti con clausole di esclusiva" funziona anche se ogni contratto usa terminologia diversa.
Fare domande in linguaggio naturale. "Qual è la durata media dei contratti con fornitori IT firmati nel 2024?" — e ottenere una risposta, con i riferimenti ai documenti specifici.
Avere un "esperto" dei tuoi documenti. Un sistema che ha "letto" tutto il tuo archivio e può rispondere a domande su qualsiasi argomento contenuto.
Generare riassunti e analisi. "Riassumi i punti principali di questo contratto" o "Evidenzia le differenze tra queste due versioni".
Il punto critico: dove girano questi sistemi?
Ecco dove le cose si fanno interessanti — e delicate.
Molti servizi di AI documentale funzionano così: carichi i tuoi documenti sui loro server cloud, loro li processano, tu accedi ai risultati.
Per certi tipi di documenti, questo è ok. Per altri — contratti riservati, dati sanitari, informazioni finanziarie, pratiche legali — è un problema serio. Stai essenzialmente consegnando il tuo patrimonio informativo a un terzo.
Come sottolinea l'European Data Protection Supervisor nella sua analisi sul RAG, il GDPR richiede che tu sappia esattamente dove sono i tuoi dati, chi ci accede, e che tu possa garantire diritti come la cancellazione. Con i servizi cloud, questo diventa complicato.
La buona notizia? Esistono soluzioni che fanno girare tutto questo — LLM, RAG, vector database — sulla tua infrastruttura, senza che i dati escano mai dalla tua rete.
LLM locali: la rivoluzione silenziosa
Una delle evoluzioni più interessanti degli ultimi due anni è l'arrivo di LLM che possono girare su hardware locale.
Non parlo di server enormi da milioni di euro. Parlo di dispositivi compatti, a volte grandi quanto un libro, che possono eseguire modelli di linguaggio sufficientemente potenti per applicazioni aziendali.
Modelli come Llama, Mistral, o Nemotron (quello che usiamo in DocZoom) possono girare su GPU consumer o su hardware dedicato accessibile. Non sono potenti quanto i modelli più grandi di OpenAI o Anthropic, ma per le applicazioni di document intelligence sono più che sufficienti.
E il vantaggio è enorme: i tuoi documenti non lasciano mai la tua rete. Zero dipendenza da servizi esterni. Zero rischi di data breach. Zero complicazioni GDPR.
In pratica, cosa significa?
Lascia che ti faccia un esempio concreto di come funziona un sistema RAG per i documenti.
Immagina di avere 10.000 contratti nel tuo archivio. Il sistema:
- •Legge ogni contratto e lo "indicizza" — crea gli embeddings, li salva nel vector database
- •Quando chiedi "quali contratti prevedono rinnovo automatico?", trasforma la domanda in un vettore
- •Trova i passaggi più rilevanti nei contratti (quelli che parlano di rinnovo, durata, scadenza...)
- •Passa questi passaggi all'LLM locale insieme alla tua domanda
- •L'LLM genera una risposta: "Ho trovato 847 contratti con clausola di rinnovo automatico. Ecco i principali..." con riferimenti specifici
Tutto questo succede in secondi, sulla tua infrastruttura, senza che nulla esca dalla tua rete.
Confrontalo con il processo tradizionale: aprire ogni contratto, cercare manualmente, compilare un elenco... Settimane di lavoro vs secondi.
Il mio consiglio
Se stai valutando soluzioni di AI per i documenti, non farti abbagliare dalle sigle e dal marketing. Concentrati su tre domande concrete:
Dove girano i modelli? Se la risposta è "nel cloud", chiedi specifiche su dove sono i server, chi ci accede, cosa succede ai tuoi dati. Se la risposta è "sulla tua infrastruttura", hai già risolto metà dei problemi.
Come funziona la ricerca? È solo ricerca per parole chiave o è ricerca semantica? Puoi fare domande in linguaggio naturale? Il sistema cita le fonti delle risposte?
Qual è il modello di costo? Paghi per query? Per documento? Per utente? O hai un costo fisso prevedibile? I costi variabili possono esplodere rapidamente.
Le tecnologie RAG, LLM e vector database non sono buzzword. Sono strumenti concreti che stanno cambiando il modo in cui le aziende gestiscono la conoscenza documentale. La chiave è implementarle nel modo giusto — che per la maggior parte delle organizzazioni significa on-premises, sotto il proprio controllo.
Se vuoi passare dalla teoria all'architettura, nella pagina Tecnologia trovi stack, componenti e logica operativa.
