L’AI non ha il senso del limite. E noi?

Ho letto sul Sole 24 Ore del 12 settembre 2026 una pagina dedicata alla rivoluzione dell’intelligenza artificiale.

Il titolo principale, firmato da Biagio Simonetta, è già una dichiarazione di campo: Da OpenAI al caso Anthropic, l’allarme apocalisse frena l’AI.

Accanto, l’analisi di Giuliano Noci pone una domanda ancora più interessante: Il problema dell’AI? La testa degli uomini.

In estrema sintesi, la pagina richiama tre questioni.

La prima riguarda gli allarmi lanciati proprio da chi lavora nei laboratori che stanno sviluppando i modelli più avanzati. Jacob Cox, ricercatore di Anthropic, si è dimesso accusando OpenAI e la stessa Anthropic di «giocare d’azzardo» con il futuro dell’umanità.

La seconda riguarda il conflitto tra sicurezza, innovazione e competizione geopolitica. Gli Stati Uniti non vogliono rallentare e lasciare spazio alla Cina; l’Europa rischia, invece, di trasformare la regolazione in uno svantaggio competitivo.

La terza sposta la domanda dalla potenza delle macchine alla responsabilità degli esseri umani: chi definisce gli obiettivi? Chi stabilisce i limiti? Chi risponde delle conseguenze?

Una macchina non ha bisogno di essere cattiva

Mi trovo particolarmente in linea con quanto scrive Noci quando ricorda che l’AI non è un soggetto morale.

Non ha bisogno di diventare cattiva, ribelle o animata da istinti di conquista. Le basta perseguire molto bene un obiettivo formulato male.

L’esempio utilizzato nell’articolo è semplice: a una macchina viene chiesto di pulire perfettamente un pavimento. Se non le vengono indicati limiti e criteri, potrebbe considerare persone e oggetti come ostacoli da eliminare. Non perché voglia fare del male, ma perché sta ottimizzando con assoluta coerenza un comando stupido.

È un punto fondamentale.

Siamo affascinati dalla domanda: «Quanto diventerà intelligente l’AI?».

Dovremmo preoccuparci molto di più di un’altra domanda: «Quanto siamo capaci noi di definire che cosa vogliamo ottenere, senza cancellare tutto ciò che non riusciamo a misurare?».

Accade già nelle aziende. Chiediamo di aumentare la produttività e dimentichiamo la qualità del lavoro. Chiediamo di ridurre i costi e non vediamo la perdita di competenze. Chiediamo di individuare i candidati migliori, ma lasciamo che la definizione di “migliore” venga ricavata dai profili che abbiamo assunto in passato.

L’AI non inventa necessariamente la nostra miopia. Può però scalarla, automatizzarla e darle l’aspetto rassicurante di una decisione oggettiva.

«L’uomo decide» non basta più

È qui che mi separo, almeno in parte, dalla tesi di Noci.

Dire che il problema dell’AI è «la testa degli uomini» è vero. Ma è vero solo a metà.

Rischia di suggerire che la tecnologia sia un esecutore neutrale e che tutto possa risolversi impartendo istruzioni migliori. Come se da una parte ci fosse l’essere umano libero, consapevole e responsabile e dall’altra una macchina disciplinata in attesa dei suoi comandi.

La relazione reale è molto meno ordinata.

I sistemi di AI non si limitano a eseguire. Selezionano, sintetizzano, classificano, suggeriscono e rendono alcune possibilità più visibili di altre. Non prendono necessariamente la decisione finale, ma costruiscono il campo nel quale quella decisione viene presa.

E chi costruisce il campo esercita già una forma di potere.

Se un sistema propone tre candidati anziché trenta, formalmente sarà ancora una persona a scegliere. Ma qualcuno ha già deciso quali ventisette persone non meritassero di arrivare davanti ai suoi occhi.

Se un assistente produce una risposta fluida, plausibile e sicura, possiamo ancora correggerla. Il problema è che proprio la qualità formale della risposta riduce la probabilità che sentiamo il bisogno di farlo.

L’essere umano rimane “nel circuito”, come si dice. Ma potrebbe restarci nello stesso modo in cui teniamo le mani sul volante mentre l’auto ci porta nella direzione impostata da qualcun altro.

La delega più pericolosa è quella che non riconosciamo

L’AI non ci rende automaticamente meno intelligenti. Può però renderci meno vigili.

La delega cognitiva raramente avviene con una decisione esplicita: «Da oggi smetto di pensare».

Avviene un centimetro alla volta.

Prima chiediamo una sintesi. Poi una valutazione. Poi una raccomandazione. Infine approviamo ciò che il sistema ci propone perché appare ragionevole, perché abbiamo fretta o perché contraddirlo richiederebbe più energia che seguirlo.

La domanda, quindi, non è soltanto se l’essere umano mantenga formalmente l’ultima parola. È se conservi le competenze, il tempo e la libertà psicologica necessari per pronunciarla davvero.

Qui il pensiero critico smette di essere una bella competenza da inserire nei programmi formativi e diventa un’infrastruttura di sicurezza.

Pensare criticamente non significa diffidare per principio dell’AI, controllare ossessivamente ogni virgola o celebrare nostalgicamente la superiorità umana.

Significa produrre attrito quando tutto sembra troppo semplice.

Quale assunto sostiene questa risposta?

Che cosa è stato escluso?

Quali interessi hanno orientato il sistema?

Che cosa cambierebbe modificando l’obiettivo?

Chi subisce le conseguenze se la decisione è sbagliata?

E, soprattutto: sto ancora decidendo o sto soltanto confermando?

L’apocalisse è un titolo. La governance è un lavoro

Anche l’espressione «allarme apocalisse» merita attenzione.

Il rischio è costruire una falsa alternativa: da una parte gli apocalittici che vorrebbero fermare l’innovazione; dall’altra i pragmatici che desiderano farla avanzare.

Ma sicurezza e innovazione non sono necessariamente nemiche. Una tecnologia che procede senza verifiche indipendenti, responsabilità identificabili e possibilità di contestazione non è più innovativa. È soltanto più veloce.

Gli allarmi possono certamente diventare retorici, interessati o sproporzionati. Ma liquidarli come un freno significa accettare l’idea che la velocità sia sempre un valore e che rallentare, quando non conosciamo bene le conseguenze, sia una forma di arretratezza.

A volte rallentare non significa avere paura. Significa recuperare la distanza necessaria per scegliere.

La CoIntelligenza non è una divisione dei compiti

Per questo non credo nella formula rassicurante secondo cui «l’AI propone e l’essere umano decide».

La CoIntelligenza non è una divisione amministrativa dei compiti tra uomo e macchina. È una relazione nella quale l’AI espande le possibilità e l’essere umano conserva criterio, responsabilità, coscienza del limite e capacità di dissenso.

Non basta tenere un essere umano alla fine del processo. Dobbiamo mantenerlo cognitivamente presente durante tutto il processo.

E dobbiamo guardare anche oltre il singolo individuo: alle architetture tecnologiche, agli incentivi economici, ai dati utilizzati, ai valori trasformati in parametri e al potere di chi decide ciò che il sistema ci farà vedere.

Il problema dell’AI è certamente nella testa degli uomini.

Ma anche negli ambienti progettati per orientarla.

Il rischio non è soltanto che l’intelligenza artificiale prenda il controllo.

È che noi continuiamo formalmente ad averlo, dopo aver perso la capacità di esercitarlo.