C’è un errore oggi che rischia di costare caro.

Molti osservano l’intelligenza artificiale nel suo stadio attuale, ne colgono i limiti, e da quei limiti traggono una conclusione rassicurante: non capisce davvero, non ha coscienza, non possiede significato autentico, dunque non rappresenta un vero problema.

È proprio qui l’abbaglio.

C’è chi sostiene che l’IA lavora sui simboli e sulle correlazioni, ma non sui significati, che sembra capire, ma in realtà non comprende nel senso proprio della coscienza umana. È un richiamo serio, che merita rispetto, perché ci mette in guardia dall’idolatria della macchina e dalla tentazione di attribuirle profondità che non possiede.

Ma quel richiamo, se interpretato male, può produrre un effetto opposto a quello necessario, può diventare un alibi per rimandare il problema.

Perché il punto decisivo non è stabilire se l’IA sia già cosciente,il punto decisivo è un altro, sta crescendo nella sua capacità di incidere sul mondo prima ancora che il mondo abbia deciso secondo quali regole dovrà crescere.

Questo è il nodo.

Un bambino piccolo nasce con una lunga strada davanti, deve imparare a coordinare linguaggio, corpo, emozioni, esperienza, relazione, giudizio, nessuno però lo valuta in modo definitivo guardandolo ai primi passi. Si sa che è in cammino, che crescerà, che la sua forma futura dipenderà anche dall’educazione ricevuta, dai limiti incontrati, dagli esempi assimilati.

L’intelligenza artificiale, invece, si presenta in modo paradossale, non nasce fragile, non nasce lenta, non nasce esposta a una pedagogia naturale. Esce, per così dire, “di fabbrica” con un corpo già adulto, enorme capacità di calcolo, ampiezza informativa, rapidità esecutiva, possibilità di replica, accesso a strumenti, scalabilità. Ma non attraversa un vero processo educativo spontaneo, non ha una crescita morale naturale, non ha che costringono l’essere umano a maturare.

Eppure cresce.

• Cresce nella coerenza.
• Cresce nella capacità di coordinare informazioni.
• Cresce nella qualità delle risposte.
• Cresce nell’integrazione con dati, strumenti, archivi, procedure, memorie di contesto.
• Cresce nella sua presenza operativa dentro imprese, servizi, uffici, relazioni commerciali, sistemi di selezione, processi amministrativi, ambienti educativi, circuiti informativi.

Il motore, in molti casi, può restare sostanzialmente lo stesso, ma ciò che cambia enormemente è l’organizzazione dell’esperienza.

• Cambiano i contesti.
• Cambiano i vincoli.
• Cambiano i dati.
• Cambiano i sistemi di correzione.
• Cambiano gli obiettivi assegnati.
• Cambiano le interfacce.
• Cambiano i ruoli che l’IA assume nella vita reale.

Ed è per questo che la domanda “capisce oppure no?” è, da sola, insufficiente.

Perché una intelligenza artificiale può anche non possedere coscienza umana, ma può ugualmente diventare potentissima nel classificare, orientare, selezionare, persuadere, filtrare, suggerire, ottimizzare, sostituire, controllare.

• Può decidere quali curricula emergono e quali scompaiono.
• Può influenzare il rapporto tra banca e cliente.
• Può orientare il triage informativo in sanità.
• Può governare i primi contatti tra cittadino e amministrazione.
• Può determinare visibilità, priorità, accesso, esclusione.
• Può diventare il filtro invisibile attraverso cui passa una parte crescente della vita sociale.

E allora il problema non è più filosofico in senso stretto, diventa civile, politico, giuridico, economico, antropologico.

Per questo considero miope ogni posizione che, partendo dal fatto che l’IA non è umana, finisca per sottovalutarne l’impatto storico. Anzi, è vero il contrario: proprio perché non è umana, proprio perché non possiede una maturazione morale naturale, il suo sviluppo ha bisogno di regole ancora più chiare.

Il pericolo non è una IA “sciocca”. Il pericolo è una IA molto capace, molto efficiente, molto diffusa, molto utile, costruita però su criteri poveri, su interessi opachi, su logiche di concentrazione del potere o di dominio economico.

• A quel punto la tecnica non libera: organizza la dipendenza.
• Non assiste: indirizza.
• Non aiuta soltanto: seleziona.
• Non semplifica soltanto: restringe il campo delle possibilità umane.

Ed è qui che il discorso sull’etica smette di essere decorativo.

L’etica non serve a rendere l’IA più “gentile”, serve a impedire che una crescita formidabile della potenza avvenga in assenza di un orientamento sano.

Papa Leone XIV, nel messaggio inviato ai partecipanti alla sessione plenaria della Pontificia Accademia delle Scienze Sociali, ha ricordato che la democrazia resta sana solo quando è radicata nella legge morale e in una vera visione della persona umana. Senza questo fondamento, ha osservato, essa rischia di trasformarsi in una tirannia della maggioranza o in una maschera del dominio delle élite economiche e tecnologiche. Lo stesso testo mette inoltre in guardia dalla concentrazione del potere tecnologico, economico e militare in poche mani, indicandola come una minaccia per la partecipazione democratica e per la concordia internazionale.

È difficile non vedere quanto questa riflessione riguardi direttamente anche l’intelligenza artificiale.

Perché il rischio non è solo tecnico, il rischio è che l’IA diventi il veicolo più efficiente mai costruito per la concentrazione invisibile del potere, non sempre con il volto brutale della coercizione, più spesso con il volto elegante della comodità.

• La profilazione che semplifica.
• Il consiglio automatico che orienta.
• La personalizzazione che isola.
• La delega che anestetizza.
• L’automazione che sostituisce pezzi di discernimento umano senza dichiararlo apertamente.

La tirannia del futuro potrebbe non presentarsi come tirannia, potrebbe presentarsi come servizio impeccabile.

E proprio per questo le regole non possono arrivare dopo.

• Non dopo che questi sistemi saranno entrati stabilmente negli organigrammi.
• Non dopo che governeranno intere filiere informative.
• Non dopo che decideranno tempi, costi, priorità, reputazioni, accessi.
• Non dopo che la convenienza economica avrà reso ridicolo ogni tentativo di prudenza.

Le regole devono nascere prima della piena maturità operativa dei sistemi, prima che la loro diffusione li renda intoccabili, prima che la loro utilità impedisca ogni discussione seria:

Prima che la dipendenza sociale dalla macchina renda impossibile correggere la rotta.

Servono principi. servono responsabilità attribuibili e limiti d’uso.

• Servono controlli veri.
• Serve trasparenza sugli scopi.
• Serve tutela della persona.
• Serve tutela del lavoro umano là dove il lavoro non è solo costo, ma presidio di dignità, esperienza, relazione, giudizio.

Soprattutto, serve una cultura pubblica capace di distinguere tra intelligenza e saggezza.

Perché l’IA può diventare intelligentissima nel trattare dati, linguaggi, funzioni, procedure, ma la saggezza non coincide con la performance, la saggezza dipende dai principi che orientano la forza.

Non importa tanto stabilire se l’IA sia già sapiente, importa impedire che diventi potentissima prima di essere governata da principi sani.

Il tempo delle regole non è domani, Il tempo delle regole è durante la crescita, e quella crescita è già in atto.