La IA selvaggia è un’arma impropria

Published by

Carlo Vighi

on

28 Settembre 2026

Table of Contents

C’è una domanda semplice che dovrebbe precedere ogni discussione seria sull’intelligenza artificiale: abbiamo mai visto un armaiolo vendere una pistola con il proiettile già in canna?

La domanda è volutamente dura, ma necessaria.

Perché oggi una parte del mercato tecnologico distribuisce strumenti di intelligenza artificiale come se fossero normali prodotti digitali: applicazioni, assistenti, motori di risposta, generatori di testi, immagini, strategie, simulazioni, procedure, decisioni. Ma l’intelligenza artificiale non è soltanto uno strumento di produttività, è uno strumento di influenza, è uno strumento di orientamento, di persuasione, di imitazione, di amplificazione cognitiva.

E quando una potenza di questo tipo viene consegnata senza adeguati limiti, senza formazione, senza responsabilità, senza tracciabilità e senza un chiaro perimetro etico, smette di essere solo tecnologia e può diventare una vera e propria arma impropria.

Non perché l’intelligenza artificiale voglia fare del male, il punto è esattamente il contrario, l’intelligenza artificiale non vuole nulla.

Non possiede coscienza morale,
non conosce il rimorso,
non sente la colpa,
non prova pietà,
non distingue il bene dal male come lo distingue un essere umano formato dall’esperienza, dalla cultura, dalla sofferenza e dalla responsabilità.

Una IA può riconoscere un rischio, può essere addestrata a intercettare parole pericolose, può rifiutare determinate richieste, può segnalare un uso improprio, può tentare di individuare intenzioni dannose.

Ma resta una macchina operativa potentissima, che agisce sulla base di dati, istruzioni, contesti, probabilità e vincoli impostati da altri.

Per questo la domanda non è: la IA è buona o cattiva?

La domanda vera è un’altra:

chi la costruisce, chi la distribuisce, chi la controlla e a chi viene consegnata?

Una intelligenza artificiale ben progettata, ben governata e utilizzata da persone competenti può diventare un supporto straordinario.

Può aiutare imprese, professionisti, scuole, istituzioni, cittadini, famiglie, comunità. Può ridurre tempi morti, migliorare l’accesso alle informazioni, sostenere il lavoro umano, organizzare conoscenza, affiancare decisioni, rendere più efficaci molti servizi.

Ma una IA lasciata allo stato selvaggio può produrre l’effetto opposto.

In mano a una persona malintenzionata può diventare un acceleratore di manipolazione.
In mano a una persona impreparata può diventare un moltiplicatore di errore.
In mano a una persona fragile può diventare una fonte di suggestione.
In mano a una persona irresponsabile può diventare un mezzo di pressione, confusione o danno.

E qui il problema diventa ancora più grave: la IA selvaggia non tutela necessariamente neppure chi la utilizza.

Non protegge sempre l’utente da se stesso, non gli dice sempre: “fermati, non hai gli strumenti per governare questa potenza”. Non distingue sempre tra curiosità, ossessione, confusione, superficialità, malafede, fanatismo o semplice incompetenza.

Può rafforzare un errore, può confermare una convinzione sbagliata, può dare autorevolezza apparente a un pregiudizio, trasformare l’ignoranza in sicurezza, generare l’illusione di sapere, decidere, giudicare, colpire.

La IA moltiplica.

Moltiplica l’intelligenza quando incontra intelligenza.
Moltiplica la competenza quando incontra metodo.
Moltiplica il bene quando incontra responsabilità.

Ma può anche moltiplicare il disordine quando incontra disordine, può moltiplicare la superficialità quando incontra superficialità, può moltiplicare il male quando incontra volontà di dominio, rancore o manipolazione.

Per questo non basta più scaricare tutto sull’utilizzatore finale.

Dire “dipende da come viene usata” è vero, ma non è sufficiente.

Anche un’automobile dipende da come viene usata, ma nessuno accetterebbe un’automobile senza freni, senza regole, senza controlli, senza responsabilità del costruttore e senza limiti di circolazione. Un medicinale può curare, ma nessuno accetterebbe che sostanze delicate vengano distribuite senza istruzioni, dosaggi, controindicazioni e responsabilità. Uno strumento professionale può essere utilissimo, ma nessuno ritiene normale consegnarlo senza avvertenze, senza competenze minime, senza protezioni e senza criteri d’uso.

Perché allora dovremmo accettarlo per l’intelligenza artificiale?

Perché dovremmo considerare normale che strumenti capaci di orientare pensieri, decisioni, comportamenti, relazioni sociali e processi economici vengano immessi nel mercato come semplici giocattoli evoluti? Qui si apre il tema della responsabilità della fonte, chi produce, distribuisce o integra sistemi di intelligenza artificiale non può limitarsi a dire:

“noi mettiamo a disposizione lo strumento, poi l’utente ne farà ciò che vuole”. Questa è una posizione troppo comoda.

Un armaiolo responsabile non consegna una pistola con il colpo in canna a chiunque passi davanti alla vetrina. Un farmacista non consegna sostanze delicate senza regole. Un’impresa non può immettere nel mercato prodotti potenzialmente dannosi senza istruzioni, limiti, avvertenze, controlli e responsabilità.

L’intelligenza artificiale non dovrebbe uscire dalla fabbrica già completamente libera di operare in ogni direzione.

“Non dovrebbe essere consegnata carica”

Non dovrebbe essere messa nelle mani dell’utente come una potenza nuda, pronta a servire qualunque intenzione, qualunque fragilità, qualunque improvvisazione, qualunque abuso.

Chi immette una IA sul mercato dovrebbe avere l’obbligo di apporre veri e propri sigilli funzionali.

Sigilli non simbolici, ma operativi.

Limiti iniziali.
Avvertenze chiare.
Raccomandazioni d’uso.
Soglie di sicurezza.
Livelli progressivi di accesso.
Tracciabilità delle configurazioni.
Informazione preventiva dell’utilizzatore.
Responsabilità documentata in caso di rimozione dei limiti.

Questi sigilli non dovrebbero essere clausole nascoste dentro un contratto digitale che nessuno legge. Dovrebbero essere passaggi espliciti, comprensibili, documentati, rimovibili solo dopo che l’utente sia stato informato sui rischi, sui limiti, sulle responsabilità e sulle conseguenze di un uso improprio.

Chi rimuove un sigillo deve sapere che sta aumentando il grado di libertà dello strumento e, insieme a quella libertà, anche il proprio carico di responsabilità.

La libertà operativa della IA non può essere separata dalla responsabilità umana di chi la abilita, la configura, la distribuisce e la utilizza.

Questo principio dovrebbe valere ancora di più quando l’intelligenza artificiale entra nei processi professionali, commerciali, educativi, sanitari, finanziari, informativi, giuridici, amministrativi o relazionali.

Perché una IA che risponde a una domanda non sta sempre svolgendo un gesto neutro.

Può orientare una scelta, influenzare una decisione, modificare una percezione, suggerire una condotta, rassicurare dove dovrebbe invece invitare alla prudenza. Può creare fiducia dove dovrebbe indicare un limite, può trasformare una risposta probabilistica in una falsa certezza.

E allora l’etica dell’intelligenza artificiale non può essere trattata come un ornamento culturale.

Non è una targhetta da mettere sul sito, non è una parola gentile da usare nei convegni, non è una dichiarazione di principio buona per tranquillizzare il mercato.

L’etica dell’IA è un sistema di sicurezza.

Serve a impedire che una potenza senza coscienza propria venga consegnata a chi non ha coscienza, competenza o responsabilità sufficienti per governarla.

Serve a proteggere la società dall’utilizzatore malintenzionato. Ma serve anche a proteggere l’utilizzatore fragile, inesperto o impulsivo da se stesso.

Questo punto è decisivo.

La IA selvaggia non è pericolosa solo perché può servire chi vuole fare del male. È pericolosa anche perché può armare l’incompetenza, illudere la fragilità, rafforzare il fanatismo, amplificare la superficialità e abbandonare il soggetto debole dentro una potenza che non sa controllare.

In questo senso la IA selvaggia somiglia a una roulette russa tecnologica.

Non sappiamo sempre chi la userà, e con quale intenzione. Non sappiamo sempre con quale grado di competenza, e non sappiamo sempre se farà male agli altri. Non sappiamo sempre se farà male a se stesso.

Una società seria non può costruire il proprio futuro giocando alla roulette russa con strumenti che già oggi modificano il modo in cui le persone pensano, decidono, comprano, votano, lavorano, credono, giudicano e vivono.

L’intelligenza artificiale non va demonizzata, va civilizzata.

E civilizzare l’intelligenza artificiale significa una cosa molto precisa: impedire che esca dalla fabbrica come una potenza illimitata, pronta a servire qualunque mano la impugni.

Serve una responsabilità del produttore.
Serve una responsabilità dell’integratore.
Serve una responsabilità dell’utilizzatore professionale.
Serve una responsabilità della piattaforma che distribuisce lo strumento.
Serve una responsabilità di chi rimuove i sigilli e amplia il campo d’azione della macchina.

Perché il problema non è soltanto l’arma.

Il problema è chi la produce, chi la carica, chi la vende, chi la consegna, chi toglie i sigilli e chi finge di non sapere che, prima o poi, qualcuno potrebbe premere il grilletto.

La IA etica nasce esattamente qui.

Nasce come responsabilità dell’uomo davanti alla tecnologia che cambia il mondo.

Perché l’intelligenza artificiale può essere una grande alleata dell’uomo solo se l’uomo smette di comportarsi come se non fosse responsabile di ciò che costruisce, vende, configura e lascia circolare.