La tua azienda usa l’AI? L’inciampo di Deloitte può essere un avvertimento per la tua corporate reputation

La tua azienda usa l’AI? L’inciampo di Deloitte può essere un avvertimento per la tua corporate reputation

 

L’Intelligenza Artificiale è un’alleata strategica per le aziende, ma cosa succede quando viene usata con troppa leggerezza? Un caso recente che coinvolge una ben nota società di consulenza offre alcune lezioni preziose sui rischi e sulla necessità di un controllo umano.

È notizia di qualche settimana fa che il colosso britannico di consulenza Deloitte, membro dell’élite delle Big Four, abbia commesso un errore grossolano proprio a causa dell’uso delle AI, causando perdite monetarie, figuracce e, soprattutto, un possibile danno reputazionale.

Ma cosa è successo?

A luglio 2025, Deloitte consegna al Governo australiano il report Targeted Compliance Framework Assurance Review, pubblicato ad agosto dal Dipartimento per l’Occupazione e le Relazioni sul Lavoro. Il documento, costato al Governo australiano quasi mezzo milione di AUD, esamina il sistema che automatizza le sanzioni nel welfare nazionale.

Fin qui, nulla di strano. Appena si legge il documento, però, qualcosa non torna. Nel report, infatti, qualcuno inizia a notare diverse anomalie, quasi allucinazioni, tra cui citazioni false e bibliografia inventata di sana pianta. 

A scoprire l’inganno è Chris Rudge, docente dell’Università di Sydney e collega di Lisa Burton Crawford, anche lei docente della facoltà di giurisprudenza nello stesso ateneo. Rudge nota che il report attribuisce una serie di ricerche fittizie a Crawford, usandole per avvalorare il contenuto del documento. Ricerche che non erano mai state scritte.

Solo a seguito della pubblicazione di una versione congiunta (Deloitte e Governo australiano) e aggiornata dello stesso report, leggiamo l’aggiunta di una sezione che dichiara – o meglio, rivela – l’uso di LLM (grandi modelli linguistici; in poche parole, sistemi di Intelligenza Artificiale) nella stesura del report stesso. 

Da questa vicenda possiamo trarre due lezioni fondamentali per chiunque faccia impresa, in grande o in piccolo.

1. L’AI è un co-pilota, non un pilota automatico. 

Per quanto avanzati, i modelli di AI non sono infallibili. Sono un supporto incredibile per molti task, ma quando i compiti si fanno complessi la supervisione e la “manodopera” umana si fanno imprescindibili. L’intervento di collaboratori esperti è l’unica difesa contro le “allucinazioni” [1] e gli errori grossolani che queste macchine possono produrre.

2. La corporate reputation è un asset fragile e costoso

L’errore di Deloitte non è solo una figuraccia, è una ferita autoinflitta alla propria credibilità. Ma il danno reputazionale ha rischiato di espandersi anche a terze parti. Un esempio? I ricercatori citati nel report. 

La professoressa Crawford, citata a sproposito, ha rischiato di veder macchiata la sua reputazione accademica senza alcuna colpa. "È preoccupante vedere ricerche attribuite a me in questo modo" [2] ha dichiarato. 

Per Deloitte, invece, la perdita non è solo immateriale. Oltre al danno d’immagine, con questo passo falso l’azienda si trova a dover risarcire il Governo australiano e, di fatto, a ripetere il lavoro, con un doppio dispendio di risorse.

Traendo le somme, questo caso non demonizza l’IA, ma ci fornisce degli spunti di riflessione fondamentali, da appendere alla porta dell’ufficio. La reputazione è un bene da salvaguardare, ma anche una responsabilità reale nei confronti nostri e altrui.

L’intelligenza artificiale è uno strumento straordinario per potenziare il nostro lavoro, non per sostituirlo. La vera sfida per le imprese è integrare queste tecnologie mantenendo saldi tre pilastri: supervisione umana, trasparenza e tutela della brand reputation.

-

[1] Per saperne di più, cfr. https://www.nytimes.com/2023/11/06/technology/chatbots-hallucination-rates.html

[2] Wired, Australia, Deloitte rimborserà il governo per un report pieno di citazioni inventate dall’AI, https://www.wired.it/article/australia-deloitte-rimborso-governo-report-ai-citazioni-inventate/