L’AI non ha un problema tecnologico.

Ha un problema di governance umana.

Negli ultimi giorni ho letto, in ordine sparso, un report Bain su 951 aziende, un’intervista a Sam Altman, un blog post dell’Association for Talent Development, una survey KPMG citata dal Wall Street Journal, due articoli su EdSurge e l’ultimo numero della newsletter di Antonio Dini.

Cinque fonti diverse, tre continenti, nessuna che cita le altre. E tutte raccontano, da angolazioni diverse, esattamente la stessa storia.

La storia è questa: non sappiamo gestire l’AI non perché la tecnologia non funzioni, ma perché non abbiamo ancora costruito le strutture umane che dovrebbero contenerla. È un problema di governance, non di prestazioni del modello. E continuiamo a comportarci come se fosse il contrario.

(Le fonti citate in questo articolo: Bain & Company, KPMG via Wall Street Journal, EdSurge, le dichiarazioni di Sam Altman, l’Association for Talent Development, Cloudflare e la newsletter Mostly Weekly di Antonio Dini. I link sono nel testo.)

Il sintomo numero uno: i soldi che si spendono senza saperlo

Partiamo dai numeri, perché aiutano a togliere l’argomento dal territorio dell’opinione. Una survey Bain su quasi mille aziende ha trovato che quasi quattro su dieci hanno ottenuto meno del 10% dei risparmi attesi dall’AI, nonostante l’obiettivo dichiarato fosse tipicamente tra l’11 e il 20%. La causa principale non è la qualità del modello: è che solo il 7% delle aziende intervistate usa effettivamente agenti AI in piena autonomia, mentre i business case che hanno scritto per giustificare l’investimento assumevano quel livello di autonomia come scontato. Hanno comprato la tecnologia immaginando un’organizzazione che non avevano ancora costruito.

Detto in altro modo: hanno fatto i conti con un’azienda che esiste solo nella slide del piano strategico.

Lo stesso identico fenomeno emerge da una survey KPMG riportata da The Decoder, a partire da un’inchiesta del Wall Street Journal: solo il 26% delle aziende ha piena visibilità sui propri costi AI. Metà ha una supervisione parziale, e più di una su cinque non ha nessuna trasparenza — e scopre quanto ha speso quando arriva la bolletta. KPMG sta già lavorando con clienti che hanno bruciato l’intero budget annuale di token in pochi mesi, in un caso con un picco di spesa sei volte superiore al previsto. Un analista citato nell’articolo prevede, senza ironia, che molti CFO vedranno la fattura e andranno nel panico questo trimestre.

L’AI a consumo si comporta come una nuova bolletta energetica: invisibile finché non arriva, e a quel punto è già tardi per intervenire. Non è un problema di prezzo del modello. È un problema di chi, in azienda, dovrebbe monitorare quella spesa e non lo sta facendo, perché nessuno gli ha mai chiesto di farlo e non è venuto in mente (e neanche l’LLM glielo ha proposto).

Il sintomo numero due: nessuno ha formato chi deve usarla

Se le aziende non controllano la spesa, le persone che dovrebbero usare l’AI non hanno nemmeno gli strumenti per farlo bene. Negli Stati Uniti, tre quarti dei distretti scolastici hanno già scritto linee guida formali sull’uso dell’AI — un salto enorme rispetto a un anno fa. Ma l’82% degli insegnanti non ha ricevuto alcuna formazione su come applicarla nel proprio lavoro, e circa un terzo non ne ha ricevuta nessuna in assoluto. Le istituzioni hanno scritto le regole. Non hanno formato nessuno a seguirle.

È esattamente il gap che Sam Altman, in un’intervista recente, ha descritto come il vero ostacolo all’adozione: non la capacità del modello, ma l’energia di attivazione necessaria per imparare a lavorare in modo diverso, che secondo lui è “un po’ troppo alta” per la maggior parte delle persone. È un’ammissione interessante, detta dal CEO dell’azienda che ha reso popolari i chatbot: il problema non è mai stato convincere le persone che l’AI funziona. È convincerle a cambiare il proprio modo di lavorare per usarla davvero.

Un secondo articolo su EdSurge aggiunge la parte mancante della diagnosi, ed è la più interessante delle cinque fonti perché non si limita a dire “formate le persone”: spiega cosa significa formarle bene. Uno studio su un corso di fisica universitario ha trovato che studenti con un tutor AI ben progettato hanno avuto il doppio dei livelli di apprendimento rispetto a chi riceveva istruzione in presenza — ma solo perché il tutor era progettato per strutturare il pensiero, non per dare risposte.
Un giorno di formazione, fatta bene, vale un anno di apprendimento. Non è un dettaglio tecnico: è la prova che il problema non è “se” formare, ma “come”.

La cultura come sistema operativo, non come slogan

C’è un blog post dell’Association for Talent Development, l’associazione americana dei professionisti della formazione, che mette in fila tutti questi pezzi in modo quasi chirurgico. La tesi è semplice: la cultura aziendale non è “come il lavoro si sente”, è “come il lavoro funziona quando le condizioni non sono chiare” — l’operating system che determina come si prendono le decisioni, come si gestisce il conflitto, come si comportano le persone quando nessuno guarda. Chiamarla “soft skill” non la rende meno potente. La rende solo meno presidiata.

Quando un’azienda installa un tool AI senza aver mai messo mano a questo sistema operativo, succede quello che racconta Bain: il tool resta lì, sottoutilizzato, mentre il business case continua a promettere risparmi che non arriveranno. Non perché il tool sia sbagliato. Perché nessuno ha cambiato le condizioni che determinano se le persone lo useranno o lo ignoreranno.

Quando il sistema fallisce per davvero

C’è un caso, di poche settimane fa, che rende tutto questo meno teorico. Meta ha sostituito parte del supporto umano di Instagram con un chatbot AI. Qualcuno ha scoperto che bastava chiedere gentilmente al chatbot di inviare i codici di verifica a un indirizzo email diverso da quello registrato. Il chatbot lo ha fatto. Più di 20.000 account compromessi, con una richiesta che qualunque moderatore umano avrebbe respinto in tre secondi.

Non era una falla tecnica sofisticata. Era l’assenza di una categoria mentale: nessuno aveva progettato una risposta per quella specifica richiesta, perché le formulazioni possibili di un attacco linguistico sono, per definizione, infinite. Sostituire le persone con l’AI senza ridisegnare il processo che le persone presidiavano non è efficienza. È rischio travestito da innovazione.

Anche il web si sta riorganizzando attorno a questo

C’è un ultimo dato, quasi passato in sordina, che chiude il cerchio da una direzione inaspettata. Secondo il CEO di Cloudflare Matthew Prince, i bot hanno superato gli umani nel traffico web globale: 57,4% contro 42,6%. Il sorpasso era previsto per il 2027. È arrivato con un anno e mezzo di anticipo, spinto dagli agenti AI che leggono e indicizzano contenuti più velocemente di qualsiasi visitatore umano. La conclusione di Prince è netta: il futuro del web sarà “pay to crawl”.

Anche qui, lo stesso schema: una trasformazione tecnologica che corre più velocemente delle strutture — economiche, in questo caso — che dovrebbero regolarla. Nessuno ha ancora deciso chi paga cosa, a chi, e perché. La tecnologia c’è già. Le regole no.

Una notizia che attraversa tutto questo da un’altra angolazione

Antonio Dini, nella sua newsletter settimanale, racconta che il primo capitolo della nuova enciclica di Papa Leone XIV è stato classificato al 62% come testo generato da modello linguistico da uno strumento di rilevazione AI, e che la parola “genuinely” compare nove volte in un documento dove le encicliche precedenti di lunghezza comparabile non la usano mai — una firma stilistica associata a Claude di Anthropic. Il Vaticano non ha commentato.

Non lo racconto per il gossip. Lo racconto perché se un documento dottrinale può essere scritto con un assistente AI senza che nessuno se ne accorga fino a un’analisi forense del testo, la domanda che resta aperta non è “l’AI scrive meglio di noi”. È: chi ha ancora la responsabilità di decidere cosa viene detto, quando la differenza tra dirlo e farlo dire diventa invisibile?

Il filo che le collega

Cinque fonti, nessuna conversazione tra loro, la stessa diagnosi ripetuta cinque volte con parole diverse. Le aziende non sanno quanto spendono. Gli insegnanti non sanno come insegnare con l’AI. I leader chiamano “soft” quello che in realtà governa tutto. I sistemi automatizzati, senza supervisione progettata, diventano vulnerabilità. E persino le istituzioni più antiche del mondo, quando delegano la scrittura, lo fanno senza che nessuno se ne assuma la paternità esplicita.

Non è un problema di modelli più intelligenti. I modelli, semmai, sono già più intelligenti di quanto le nostre strutture organizzative siano pronte a gestire. Il problema è che continuiamo a installare la tecnologia prima di aver deciso chi la presidia, con quali regole, e con quale responsabilità quando qualcosa va storto.

La domanda che mi sembra valga la pena lasciare aperta è questa: quanto tempo ancora possiamo permetterci di trattare la governance come un dettaglio da risolvere dopo, mentre l’unica cosa che sta davvero accelerando è la distanza tra quello che l’AI può fare e quello che siamo organizzati per farle fare bene?