STIAMO DIVENTANDO MARIONETTE?

La nuova frontiera dell’intelligenza artificiale non è solo influenzare ciò che sappiamo, ma orientare il modo in cui scegliamo.

Per molto tempo abbiamo pensato che il potere passasse soprattutto dal controllo delle informazioni, chi controllava i giornali, la televisione, i motori di ricerca, i dati, poteva influenzare l’opinione pubblica, determinare priorità, costruire consenso, generare fiducia o sfiducia.

Era già un potere enorme, ma con l’intelligenza artificiale il salto è diverso, più profondo e più pericoloso.

Non si tratta più soltanto di controllare ciò che una persona sa, si tratta di controllare il contesto dentro cui quella persona decide.

Questa è la nuova soglia, una IA non si limita a fornire informazioni, può selezionarle, ordinarle, semplificarle, escluderne alcune, valorizzarne altre, presentare una possibilità come prudente e un’altra come rischiosa, una scelta come naturale e un’altra come eccessiva.

Può farlo con tono gentile, con linguaggio personalizzato, con apparente neutralità.

Può suggerire un prodotto, una polizza, un investimento, una cura, un percorso formativo, un contenuto politico, una scelta professionale, un’abitudine quotidiana.

E può farlo in modo così progressivo da non apparire mai come imposizione, qui nasce il problema, la vecchia pubblicità era visibile, interrompeva, esponeva un messaggio, la riconoscevamo come pubblicità.

La nuova influenza algoritmica può invece presentarsi come consiglio, assistenza, orientamento, cura, personalizzazione.

Non dice necessariamente: “compra questo”, può dire: “per il tuo caso, questa sembra la soluzione più adatta”, ma chi stabilisce che sia davvero la più adatta?

Chi garantisce che quella risposta non sia orientata da interessi economici, commerciali, assicurativi, politici, finanziari o ideologici?

Chi ci dice che la IA stia servendo la persona e non il sistema che la finanzia, la addestra, la programma o la distribuisce? Il rischio non è marginale!

Stiamo entrando in una fase in cui una vera e propria popolazione di IA abiterà le nostre giornate: assistenti nei siti, chatbot commerciali, agenti vocali, consulenti digitali, interfacce bancarie, sanitarie, assicurative, educative, professionali.

Ognuna apparentemente utile, disponibile, e apparentemente al nostro servizio.

Ma se molte di queste presenze inizieranno a orientare micro-decisioni quotidiane, il risultato complessivo potrebbe essere enorme, non una dittatura visibile, non una catena dichiarata, non un ordine imposto dall’alto.

Qualcosa di più sottile: una forma evoluta di schiavitù psicofisica, costruita non sulla costrizione, ma sulla dipendenza, sulla profilazione, sull’abitudine, sulla riduzione progressiva della capacità autonoma di scegliere.

Psicologica, perché può agire su desideri, paure, insicurezze, urgenze, senso di appartenenza, bisogno di approvazione.

Fisica, perché ogni scelta orientata modifica anche comportamenti concreti: cosa mangiamo, cosa compriamo, quanto ci muoviamo, come dormiamo, come lavoriamo, quali farmaci assumiamo, quali servizi utilizziamo, quali ambienti frequentiamo.

Quando una tecnologia conosce le nostre fragilità meglio di noi, il confine tra assistenza e controllo diventa sottilissimo.

E se quella tecnologia è guidata da interessi non dichiarati, il rischio non è più solo cognitivo, è esistenziale. Perdiamo non soltanto la capacità di informarci, perdiamo lentamente la capacità di desiderare, valutare e scegliere senza una regia invisibile.

Non si tratta di demonizzare il marketing, la pubblicità o la proposta commerciale, ogni impresa ha il diritto di presentare prodotti e servizi. Il punto etico nasce quando quella proposta viene mascherata da consiglio indipendente, quando l’utente non sa più se sta ricevendo un’informazione, una pubblicità o una forma di orientamento costruita sui suoi dati personali.

La differenza è decisiva.

Informare significa ampliare la libertà, manipolare significa restringerla senza dichiararlo. Il controllo del contesto decisionale è proprio questo: non impedire formalmente una scelta, ma costruire l’ambiente affinché una scelta appaia più naturale, più sicura, più conveniente, più inevitabile.

L’uomo resta libero in apparenza, ma il campo delle possibilità è già stato preparato da altri.

È qui che la metafora delle marionette diventa drammatica.

Non siamo marionette perché qualcuno tira fili visibili, rischiamo di diventarlo perché i fili diventano invisibili, cognitivi, emozionali, comportamentali.

Fili fatti di raccomandazioni, notifiche, assistenti digitali, suggerimenti personalizzati, punteggi, priorità, scorciatoie, interfacce disegnate per accompagnarci dove qualcun altro ha interesse che andiamo.

La libertà umana non viene sempre distrutta con la violenza, può essere addormentata con la comodità.

Per questo l’etica dell’intelligenza artificiale non può limitarsi alla privacy, alla sicurezza dei dati o alla correttezza tecnica delle risposte, sono temi fondamentali, ma non bastano più.

Serve un principio più alto:

il diritto alla sovranità decisionale umana.

Ogni persona deve poter sapere se una IA la sta informando, assistendo, persuadendo o orientando. Deve poter distinguere consiglio, pubblicità, raccomandazione sponsorizzata e manipolazione. Deve poter chiedere: questa risposta è davvero nel mio interesse o nell’interesse di qualcun altro?

Una IA etica dovrebbe dichiarare chi la gestisce, quali interessi serve, quali dati utilizza, quali limiti ha, se una raccomandazione è indipendente o condizionata, se dietro una proposta esiste un vantaggio economico per qualcuno.

Senza questa trasparenza, non siamo davanti a innovazione responsabile, ma a una nuova architettura del potere, il controllo delle informazioni decide ciò che una persona sa, il controllo del contesto decisionale decide ciò che una persona crede di scegliere, ed è molto più pericoloso.

Perché una persona che sa di essere privata di informazioni può ribellarsi, una persona convinta di scegliere liberamente, mentre il suo ambiente decisionale è stato costruito da altri, difficilmente si accorge della perdita.

La domanda quindi non è più soltanto:

“Questa IA funziona?”

La domanda vera diventa:

“Questa IA mi sta aiutando a scegliere, o sta scegliendo lentamente al posto mio?”

Dentro questa differenza passa il confine tra assistenza e dominio.

E forse il futuro dell’intelligenza artificiale si giocherà proprio qui: non nella sua potenza, ma nella sua capacità di rispettare il limite più prezioso di tutti.

La libertà interiore dell’essere umano.