Alluci-
nazione
Hallucination · Il lato oscuro della fluidità AI
Un'allucinazione AI è quando un LLM genera un'affermazione plausibile ma falsa — una citazione inventata, un dato sbagliato espresso con piena sicurezza, un'API descritta in dettaglio che non esiste. Non è un bug da correggere: è la conseguenza diretta della natura probabilistica della generazione. Non si elimina — si gestisce con grounding e verifica.
Perché succede: la natura del modello
Un LLM genera testo predicendo il token più probabile dato il contesto. Non "sa" le cose come un database — non recupera fatti verificati. Genera la risposta che sembra più coerente con il contesto dato e tutto ciò che ha visto durante l'addestramento.
Questo meccanismo produce un paradosso: più il modello è fluente e coerente, più le sue invenzioni sembrano credibili. Un modello meno capace dà risposte chiaramente sbagliate che si riconoscono subito. Un modello avanzato costruisce narrazioni false perfettamente articolate.
Tipi di allucinazione più comuni
- Factual hallucination: afferma dati errati — date, cifre, statistiche inventate
- Citation hallucination: cita libri, articoli, URL inesistenti con titolo e autore precisi
- Code hallucination: descrive librerie, API o parametri che non esistono
- Entity hallucination: attribuisce affermazioni a persone che non le hanno mai dette
- Reasoning hallucination: produce calcoli o deduzioni logicamente scorretti presentati come certi
⚠ Segnali di allerta
- Estrema specificità senza citare la fonte (date precise, cifre esatte)
- Affermazioni su eventi recenti o di nicchia — l'addestramento ha un cutoff
- URL o link specifici — quasi sempre inventati
- Citazioni di ricerche con titolo, autore e anno esatti
- Coerenza narrativa perfetta su argomenti dove la realtà è complessa e contradditoria
Come mitigare le allucinazioni
La mitigazione si fa in profondità, non in superficie:
- RAG + grounding: il modello risponde solo usando i tuoi documenti reali, con citazione della fonte
- Chain-of-thought: chiedere al modello di ragionare passo per passo riduce gli errori logici
- Temperature bassa: output più deterministici, meno "creativi"
- Prompt di verifica: dopo una risposta, chiedere "sei sicuro? indica le fonti per ogni affermazione"
- Verifica umana obbligatoria: per output professionali ad alto rischio (legale, medico, finanziario) non eliminare mai il controllo umano
// Come lo usa AI Coach Italia
Nel Brain Training Program insegniamo un protocollo anti-allucinazione sistematico: ogni agente che costruiamo ha grounding obbligatorio sulle fonti del Second Brain, con citation prompt che forzano la tracciabilità. Per output critici (offerte commerciali, comunicazioni legali, dati da presentare a clienti) il workflow include un step di verifica esplicita — l'AI suggerisce, l'umano approva.
Scopri il Brain Training Program →Domande frequenti sulle allucinazioni AI
Cos'è un'allucinazione nell'AI?
Un'allucinazione AI è quando un LLM genera informazioni plausibili ma false — una citazione inventata, un dato sbagliato presentato con sicurezza. Non è un bug ma una caratteristica strutturale: i modelli generano testo probabilisticamente, non recuperano fatti verificati da un database.
Come capisco se l'AI sta allucinando?
Segnali di allerta: estrema specificità senza fonte (date, cifre), affermazioni su eventi recenti o di nicchia, URL o link specifici, citazioni con titolo e autore precisi. Regola pratica: qualsiasi affermazione factual che userai in un documento professionale va verificata su una fonte primaria — non fidarti solo del modello.
Le allucinazioni si eliminano mai del tutto?
ChatGPT e Claude allucinano allo stesso modo?
Tutti i modelli allucinano, ma con frequenza diversa. I modelli più recenti allucinano meno. Claude tende a essere più conservativo e ad ammettere incertezza. La differenza vera non è quale modello usi — è se hai un sistema di grounding che ancora le risposte a fonti verificabili.