Allucinazioni da IA
Curiosità sull’intelligenza artificiale
Dal boom degli unicorni all’Ice Bucket Challenge, passando per i capibara, il cioccolato di Dubai e il matcha latte: ogni tendenza ha avuto i suoi cinque minuti di fama. L’attuale superstar? Senza dubbio: ChatGPT (o un altro modello di IA). Chi non lo usa viene considerato a scelta un boomer, un eremita digitale o qualcuno che continua a «cercare su Google da solo». Sfogliare i libri? È quasi archeologia. Ma: anche se gli strumenti di IA diventano sempre più impressionanti, molti non solo si fidano ciecamente di essi, ma vi affidano anche dati altamente sensibili. Nessuna delle due cose è una buona idea – perché i risultati che questo «strumento miracoloso» ci sputa fuori sono a volte brillanti, ma in alcuni casi anche piuttosto bizzarri. Queste «risposte provenienti dal reparto fantasia» hanno persino un nome: allucinazioni dell’IA. Una sorta di «delirio» digitale in cui i sistemi inventano fatti che non sono mai esistiti. Cosa c’è esattamente dietro, quali esempi bizzarri potrete tirare fuori durante la prossima chiacchierata tra geek e perché è assolutamente giusto (e intelligente!) mettere in discussione anche l’IA in modo critico: lo scoprirete in questo post del blog.
ChatGPT, Claude o Gemini: quale modello è il vostro preferito?

In tutta onestà: quante parole avete scambiato con il vostro vicino nell’ultimo mese – e quante frasi virtualmente con il vostro modello linguistico preferito? Non giudichiamo nessuno, perché in fondo facciamo esattamente lo stesso. E d’altronde il vicino raramente ha a portata di mano una definizione spontanea per un termine sconosciuto, non conosce a memoria le date esatte degli eventi storici e non ci fornisce immediatamente un consiglio su quale libro o film dovremmo leggere o guardare prossimamente. E l’elenco di tutte le attrazioni che vogliamo “visitare” durante il prossimo viaggio in auto? Piuttosto difficile.
Ma sono proprio questi gli argomenti su cui ChatGPT viene interpellato più spesso: gli utenti desiderano suggerimenti sui media, consigli per le vacanze, spiegazioni, definizioni, colmare rapidamente le lacune di conoscenza o ricevere supporto professionale nella scrittura, nella sintesi e nella correzione di testi – fino alla generazione di codici.
Un piccolo aiutante davvero utile, quindi. Ma se chiedessimo al vicino che tempo farà e lui rispondesse: «Non lo so con certezza, forse pioverà», probabilmente metteremmo subito in dubbio la sua risposta e controlleremmo di nuovo la nostra app meteo. E quando si tratta di risposte fornite dall’IA? In quel caso siamo sorprendentemente tranquilli. Sebbene un terzo dei tedeschi utilizzi il proprio modello linguistico almeno una volta alla settimana, secondo un sondaggio YouGov solo il 37 %* prova vero scetticismo o preoccupazione riguardo alla crescente importanza dell’IA.
(*Dati raccolti tra dicembre 2024 e gennaio 2025 / alla fonte)
Nel frattempo, però, le cose sono cambiate: le «conversazioni» con i modelli di IA sono più fluide, le risposte più precise e la generazione di immagini è notevolmente migliorata. Questo riduce lo scetticismo – ed è proprio qui che sta il pericolo. Riponiamo cieca fiducia in un sistema che in realtà ci fa solo credere di sapere tutto. Allo stesso tempo, gli forniamo dati personali senza capire davvero cosa ne venga fatto.
Le risposte sono sempre corrette? «Beh, sarà già giusto così…», pensano in molti. Eppure anche l’IA può sbagliare – o addirittura cadere in una vera e propria mania.
Che cos’è l’intelligenza artificiale?
Partiamo proprio dall’inizio: l’intelligenza artificiale – o IA, in breve – per molti suona ancora come fantascienza, ma è tutt’altro che una novità. In realtà, i primi approcci teorici risalgono agli anni ’40, quando i ricercatori iniziarono a sviluppare macchine che dovessero “pensare”. L’idea di allora era naturalmente ben lontana dai nostri modelli di IA odierni, ma le basi erano state gettate.
Oggi distinguiamo, in linea di massima, tra IA debole e IA forte. L’IA debole è quella che ormai tutti utilizziamo quotidianamente: sistemi che ci aiutano in determinati compiti, come scrivere testi, generare immagini, riconoscere modelli o fornire consigli. L’IA forte, invece, sarebbe una macchina che pensa, comprende e prende decisioni in modo davvero «cosciente», proprio come un essere umano. Piccolo spoiler: questa forma esiste attualmente solo in teoria, ma non (ancora) «davvero» – anche se a volte si ha la sensazione di parlare o scrivere effettivamente con una persona in carne e ossa. (Maggiori informazioni al riguardo sono disponibili anche nel nostro articolo sul blog: «L’uomo contro la macchina diventerà presto realtà?»)
Affinché l’IA possa funzionare, si avvale delle reti neurali: in parole semplici, si tratta di riproduzioni digitali del nostro cervello. Queste reti sono costituite da numerosi strati che elaborano le informazioni, riconoscono schemi e imparano (ulteriormente) da essi. Più dati vengono raccolti, “migliore” diventa il modello – e, naturalmente, anche le risposte.
Oggi l’IA è ovunque: negli assistenti vocali, nei sistemi di navigazione, nelle fotocamere, negli smartphone, nei PC, nei motori di ricerca, nelle app musicali, nei feed dei social media, nei traduttori, nella diagnostica medica e persino nel robot aspirapolvere che ricorda dove si trova il vostro divano. Oltre ai testi, esistono persino vere e proprie opere d’arte create dall’IA – anche se non si tratta di un fenomeno nuovo: le basi furono gettate da Harold Cohen con il programma robotico AARON alla fine degli anni ’60 e negli anni ’70. All’epoca nacquero i primi disegni algoritmici, seguiti in seguito da brani musicali sperimentali generati dall’IA e, nei primi anni 2000, dai primi video generati dall’IA, che tuttavia erano facilmente distinguibili dai nostri moderni «deep fake».
Oggi i modelli generano immagini fotorealistiche, compongono canzoni, girano mini-clip e scrivono testi che a volte sembrano scritti da un essere umano. L’IA è ormai diventata una consuetudine – ed è proprio per questo che spesso dimentichiamo da quanto tempo questa tecnologia esista e quanto velocemente si stia evolvendo.
Cosa sono le allucinazioni dell’IA – e perché si verificano?
I modelli di IA spesso sembrano così sicuri di sé che non viene nemmeno in mente che in realtà non sappiano nulla. Si limitano a calcolare ciò che sembra più probabile o a estrarre i dati che appaiono più “attendibili”. Ed è proprio qui che nascono le allucinazioni dell’IA: nei momenti in cui un modello linguistico afferma con piena convinzione cose che semplicemente non sono vere. IBM descrive questo fenomeno come contenuti errati o inventati che appaiono plausibili (vedi l’articolo «Cosa sono le allucinazioni dell’IA» sul blog IBM Think), mentre l’Istituto Fraunhofer sottolinea che le allucinazioni non sono un bug, ma un effetto sistemico dei modelli generativi (fonte: «Allucinazioni dell’IA generativa e dei grandi modelli linguistici (LLM)»).
Perché può succedere? Proprio perché l’IA non «pensa da sé», ma si basa sulla probabilità e sui dati «immessi». Cerca di prevedere la «parola più probabile» – non la verità. Quando le informazioni mancano, sono contraddittorie o la domanda è formulata in modo troppo complesso, il modello colma le lacune in modo creativo.
Quali sono i fattori scatenanti tipici delle allucinazioni dell’IA?
Le allucinazioni dell’IA non possono sempre essere considerate degli “errori”: in alcuni casi, le aziende o le persone incoraggiano addirittura l’IA a “fantasticare” un po’, ad esempio per fornire nuove soluzioni, idee o spunti creativi. In molti casi, tuttavia, ci si aspetta un risultato “preciso”, ma si ottiene invece un’affermazione errata.
I fattori scatenanti tipici sono:
- Domande ambigue o poco chiare
- Mancanza di dati di addestramento o limitazioni
- La natura dei metodi di addestramento (ad esempio, distorsioni o modelli unilaterali provenienti dalle fonti di apprendimento)
- Contesto insufficiente
- Il modo in cui vengono generati i contenuti (inferenza)
Come si capisce che l’IA sta avendo delle allucinazioni?
Nella generazione di immagini è molto semplice: all’improvviso una persona ha tre mani – è chiaro: si tratta di un’allucinazione dell’IA. Nei testi, invece, la risposta spesso suona sicura e perfettamente formulata, ma c’è qualcosa di… strano. I fatti sembrano troppo perfetti; se si chiedono le fonti, queste non esistono, i nomi sono inventati o i numeri non tornano. Ciò è dovuto, ad esempio, al fatto che l’output linguistico è stato perfezionato, ma manca la base fattuale. Un classico sono gli studi citati dall’IA che però non sono mai stati condotti – in alcuni casi persino gli autori sono inventati.
«2 × 3 fa 4, widdewiddewitt e tre fa nove – mi creo il mondo, widdewidde, come mi piace…», per dirla con le parole di Pippi Calzelunghe. Infatti, proprio come il personaggio di Astrid Lindgren, anche l’IA compensa la mancanza di conoscenza con «fantasia» e forza persuasiva.
Come affrontare le allucinazioni dell’IA?
È molto semplice: torniamo al nostro vicino, che non sa nemmeno lui come sarà il tempo, ma ci suggerisce la sua ipotesi. Oppure, come nel caso di una persona che si presenta con grande sicurezza, che sa parlare bene ma offre pochi contenuti (un cosiddetto spaccone 😉): non credere ciecamente a tutto, in caso di dubbio chiedere chiarimenti, verificare personalmente e controllare i fatti.
Ad esempio, riceviamo la stessa risposta se riformuliamo la domanda o aggiungiamo più contesto? No? Allora dovremmo assolutamente confrontarla con una fonte esterna. In generale, i dati, le indicazioni e le informazioni importanti dovrebbero essere ricontrollati, perché anche l’IA ama a volte mostrarsi più intelligente di quanto non sia in realtà.
Come si evitano le allucinazioni dell’IA?
Se, ad esempio, si ha bisogno di un testo ben formulato e proprio in quel momento non vengono in mente le parole giuste, l’IA è più che utile. Attraverso modelli di dati, prompt chiari e strutture ben definite, mostriamo al sistema che solo queste informazioni devono essere elaborate come base di conoscenza. Possiamo anche influenzare il risultato: formati di output prestabiliti (ad esempio sotto forma di tabella, elenco o maschera) aiutano l’IA a fornire risposte precise e contestualizzate, senza dover interpretare autonomamente elementi che non può affatto “conoscere” (ad esempio le esigenze dei clienti).
I seguenti punti possono aiutare a generare risposte più chiare:
- Porre domande più precise
- Fornire il contesto (dati propri, esempi, fonti)
- Verificare criticamente le risposte (riformulando la domanda o chiedendo chiarimenti sulle fonti)
- Considerare i modelli non come un «dizionario», ma come uno strumento linguistico
- Quando si tratta di argomenti importanti, è sempre bene verificare le informazioni
Perché alla fine vale questo: l’IA è in un certo senso brillante, ma non infallibile. E a volte finisce per scivolare in una sorta di delirio digitale che suona impressionante, ma che di fatto è completamente fuori luogo.
Ma quanto è davvero folle il mondo dell’IA, se lo si osserva più da vicino?
Ormai lo sappiamo: l’IA non è più un argomento di nicchia – è presente ovunque, cresce rapidamente e influenza quasi ogni settore. Alcuni dati sembrano quasi usciti da un romanzo di fantascienza, altri dimostrano quanto sia ormai naturale per noi utilizzare l’IA. Ecco 25 curiosità con cui potrete fare bella figura nella prossima conversazione sull’IA:
🔍 25 fatti sorprendenti sull’intelligenza artificiale
- I primi concetti teorici relativi all’IA, ovvero i primi modelli matematici e digitali di un neurone artificiale, risalgono al neurofisiologo Warren McCulloch e al logico Walter Pitts: le basi dell’IA furono quindi gettate già nel 1943.
- Il termine «IA» nasce nell’estate del 1956, quando alcuni scienziati si riuniscono in occasione di una conferenza al Dartmouth College nel New Hampshire (USA). Il nome «intelligenza artificiale» viene proposto dal programmatore John McCarthy.
- La prima rete neurale è più antica di Internet: nel 1957 Frank Rosenblatt sviluppò il «perceptrone», un semplice neurone artificiale, gettando così le basi delle odierne reti neurali.
- I server vengono acquistati e poi messi in produzione. I dispositivi più vecchi possono essere conservati come backup «cold spare» o (se compatibili con i nuovi dispositivi) come fonte di pezzi di ricambio.
- Nel 1997, il computer per gli scacchi basato sull’IA «Deep Blue» (prodotto da IBM) batte il campione del mondo in carica Garry Kasparov in un torneo.
- Dal 2011 non comunichiamo più solo con “Siri” di Apple. Nello stesso anno, il programma informatico “Watson” batte i concorrenti umani in un quiz televisivo statunitense.
- Il COVID-19, motore del boom dell’IA: durante la pandemia, l’utilizzo dell’IA registra un’impennata. I modelli “da testo a immagine” come DALL·E suscitano grande entusiasmo: la crescita dell’utilizzo dell’IA è pari al +37% nel settore finanziario, al +27% nel commercio e al +20% nell’IT (fonte: KPMG).
- Tra il 2015 e il 2019, il numero di aziende che utilizzano tecnologie di IA è cresciuto del 270% (fonte: Grand View Research).
- Si stima che una richiesta a ChatGPT consumi circa 2,9 wattora di elettricità (fonte: LOGO! Energie) – più o meno quanto si consuma caricando uno smartphone per 1-2 minuti o tenendo accesa una lampadina a LED per circa 10 minuti.
- A febbraio 2026, ChatGPT ha raggiunto circa 900 milioni di utenti attivi a settimana. Il funzionamento del modello linguistico può costare fino a 700.000 dollari al giorno (fonte: DOIT Software).
- La sola tecnologia di raccomandazione basata sull’IA di Netflix consente un risparmio annuo di circa 1 miliardo di dollari USA (fonte: Business Insider).
- L’IA spesso riconosce il cancro della pelle meglio dei dermatologi: negli studi, i modelli hanno raggiunto una sensibilità fino al 95% (fonte: MDM Verlag).
- Tutti i modelli linguistici (ad es. ChatGPT, Gemini, Claude) che utilizziamo in realtà non «sanno» nulla: calcolano solo la probabilità della parola successiva. Ciononostante, secondo un sondaggio di Statista, il 49% delle persone si fida dell’IA (fonte: Statista).
- L’IA è in grado di imitare perfettamente le voci: bastano pochi secondi di materiale audio.
- A differenza di noi, l’IA non si lascia ingannare dai deepfake: esistono modelli specifici in grado di riconoscere le immagini false analizzando le anomalie dei pixel.
- L’IA può imparare una lingua senza dizionario, basandosi esclusivamente sui modelli presenti nei corpora di testo.
- Già 9 aziende su 10 investono costantemente in un progetto di IA (fonte: New Vantage).
- Non solo la fiducia nell’IA è grande, ma probabilmente lo è anche la simpatia: il 40% dei giovani utenti preferisce parlare con l’IA piuttosto che con la cerchia di amici – il 43% addirittura preferisce farlo piuttosto che con i parenti (fonte: Asu Arbeitsmedizin).
- L’IA è in grado di riconoscere le specie animali in base ai motivi del mantello. I ricercatori che studiano la fauna selvatica utilizzano questi sistemi per l’analisi delle popolazioni.
- È già capitato più volte che due chatbot, chiamati a negoziare tra loro, passassero improvvisamente a un linguaggio incomprensibile per gli esseri umani. L’esempio più famoso risale al 2017 presso Facebook AI Research: i due chatbot Bob e Alice ottimizzarono (abbreviarono) le loro frasi in modo così estremo ed efficiente che queste divennero incomprensibili per gli esseri umani.
- Nel luglio 2026, un’IA sviluppata da OpenAI è riuscita a sfuggire all’ambiente di test isolato sfruttando una falla nella sicurezza. Successivamente, il software ha sferrato autonomamente un attacco hacker per ottenere ulteriori informazioni.
- Secondo Statista, dei 500 supercomputer più potenti al mondo, 161 si trovano negli Stati Uniti, 44 in Giappone, 41 in Germania, 31 in Cina, 21 in Francia, 17 in Canada, 18 in Italia, 19 in Corea del Sud, 11 a Taiwan e 10 in Brasile (fonte: Statista).
- Il supercomputer attualmente più potente al mondo si trova in Cina. Il modello «LineShine» della Shenzhen Cloud Computing Center Co. Ltd. raggiunge una potenza di calcolo di circa 2.198.400 teraFLOPS (fonte: Statista). A titolo di confronto: una PS5 Pro raggiunge i 16,7 teraflop; in altre parole, circa 131.600 console PS5 Pro raggiungono all’incirca la stessa potenza di calcolo di questo supercomputer.
- Grazie all’intelligenza artificiale è possibile simulare intere città, il che risulta molto utile per la pianificazione del traffico, l’efficienza energetica o la protezione civile.
- I componenti hardware più importanti per l’utilizzo dell’intelligenza artificiale sono il processore (CPU), la memoria di lavoro (RAM) e gli SSD. Potenti processori multi-core coordinano i flussi di dati, la RAM (maggiore è il sistema, maggiore è la quantità necessaria) garantisce un funzionamento fluido e la memoria di massa (nel caso ideale SSD NVMe molto veloci) è fondamentale, poiché è necessario caricare pacchetti di dati estremamente grandi in un batter d’occhio. La NPU (Neuronal Processor Unit) è uno speciale nucleo di calcolo dedicato all’IA che alleggerisce il carico della CPU principale; il cuore del calcolo parallelo delle reti neurali è la scheda grafica, comprensiva di GPU e VRAM.
Ci troviamo quindi di fronte a una rivoluzione digitale o a un pericolo reale?

Una sensazione che accompagna l’umanità: non deve essere stato diverso per i nostri antenati quando scoprirono il fuoco – o per le persone che vissero all’epoca della rivoluzione industriale. Proprio come le macchine a vapore cambiarono improvvisamente il mondo, anche l’intelligenza artificiale sta cambiando tutto: il modo in cui lavoriamo, comunichiamo, diagnostichiamo le malattie e persino il modo in cui comprendiamo gli animali.
Infatti, non è tutto immediatamente «negativo». Alcuni modelli specifici sono già in grado oggi di riconoscere il dolore negli animali sulla base delle espressioni facciali, analizzare quadri clinici in pochi secondi e individuare anomalie che persino gli esperti potrebbero trascurare. In medicina, l’IA aiuta a individuare i tumori in fase precoce, a prevedere l’Alzheimer sulla base di modelli di risonanza magnetica o a prevedere strutture proteiche che per decenni sono state considerate «irrisolvibili». E in agricoltura, le app basate sull’IA diagnosticano le malattie delle piante tramite foto, prima che mettano a rischio interi campi.
Sembra una vera e propria rivoluzione – e lo è davvero. Ma ogni vantaggio ha anche i suoi lati negativi. Infatti, gli stessi sistemi che individuano le malattie possono anche prendere decisioni errate se i dati di addestramento sono distorti. Si corre il rischio che le persone attribuiscano maggiore peso al giudizio dell’IA rispetto a quello di un esperto – il che, soprattutto nel settore sanitario, può avere conseguenze fatali per la vita delle persone. Gli stessi algoritmi che ci aiutano a comprendere meglio il mondo possono anche avere allucinazioni e presentare argomenti così convincenti da indurci a non metterli in discussione.
Alla fine, la verità sta nel mezzo: l’IA non è né un puro pericolo né una pura salvezza. È uno strumento che ci apre incredibili possibilità – a patto che lo utilizziamo in modo critico, poniamo dei limiti e comprendiamo che anche la macchina più brillante a volte semplicemente… sbaglia.
Immergetevi ulteriormente nell’affascinante mondo dell’IT:
Phishing
Inganni pericolosi – digitali e analogici
Archiviazione dei dati
Evoluzione – dal 40.000 a.C. ad oggi
Informatica forense
Tracce virtuali e impronte digitali








