CENTRALITÀ DELL’ESSERE UMANO ANCHE QUANDO NON PAGA
PERCHÉ NON SIAMO CLIENTI O SUDDITI E, PEGGIO ANCORA, NON SIAMO “MERCE UMANA”
Nel dibattito sull’Intelligenza Artificiale si ripete spesso una formula apparentemente condivisa: l’essere umano deve restare al centro, è una frase giusta, necessaria, persino inevitabile.
Ma proprio perché viene ripetuta da tutti, rischia di diventare innocua.
Occorre allora porre una domanda più scomoda:
quale essere umano mettiamo davvero al centro?
Il cliente che paga? L’utente che produce dati? Il consumatore profilabile? Il cittadino utile al sistema? La persona che genera valore economico?
Oppure anche l’essere umano che non paga, non compra, non firma, non sottoscrive, non produce ritorno immediato? Qui si apre una soglia decisiva.
Perché rispettare il cliente è anche interesse commerciale, rispettare chi non paga è invece scelta etica.
Il mercato conosce bene il valore del cliente, lo misura, lo studia, lo segmenta, lo insegue, lo fidelizza. Tutto questo, entro certi limiti, è normale, l’impresa vive anche di relazione commerciale, di servizi, di offerte, di contratti, di equilibrio economico.
Il problema nasce quando questa logica diventa l’unico criterio di riconoscimento della persona, perché la persona non nasce cliente.
Prima di essere consumatore, utente, abbonato, lead, profilo, target, contatto o dato, l’essere umano è persona.
- Ha dignità anche quando non entra in un funnel commerciale.
- Ha valore anche quando non apre il portafoglio.
- Ha diritti anche quando non conosce il linguaggio tecnico.
- Ha bisogno di tutela anche quando non possiede strumenti per difendersi.
È qui che l’etica dell’Intelligenza Artificiale deve dimostrare la propria serietà.
- Una IA davvero orientata all’uomo non può proteggere soltanto chi paga.
- Non può essere chiara con il cliente e opaca con il cittadino.
- Non può offrire trasparenza a chi sottoscrive un servizio e lasciare nell’ambiguità chi resta fuori.
- Non può distinguere la dignità in base alla capacità di spesa.
La popolazione non è divisa in due sezioni: clienti da servire e sudditi da governare, eppure una parte crescente della società digitale sembra muoversi proprio in questa direzione.
Da una parte ci sono i clienti, assistiti, tracciati, misurati, fidelizzati, accolti da interfacce sempre più sofisticate, dall’altra ci sono persone che non partecipano pienamente al mercato digitale: anziani, fragili, poveri, minori, cittadini meno istruiti, lavoratori sostituibili, utenti inconsapevoli, soggetti che non comprendono i sistemi dentro cui vengono osservati, classificati, esclusi o indirizzati.
Queste persone rischiano di diventare invisibili.
Non perché non esistano, ma perché non generano sufficiente valore economico, e quando l’essere umano non genera valore, molti sistemi smettono di considerarlo centrale.
- Diventa massa.
- Diventa statistica.
- Diventa dato grezzo.
- Diventa comportamento da orientare.
- Diventa consenso da intercettare.
- Diventa rischio da gestire.
- Diventa costo da ridurre.
Il rischio non è soltanto che l’essere umano venga ridotto a cliente quando paga, o a suddito quando subisce decisioni che non comprende. Il rischio più grave è che venga trasformato in “merce umana”: un insieme di dati, abitudini, emozioni, paure, fragilità, desideri, tempi di attenzione e comportamenti da osservare, prevedere, orientare e monetizzare.
È qui che la tecnologia smette di servire l’uomo e comincia a consumarlo.
L’Intelligenza Artificiale può amplificare questa deriva, se viene progettata solo per ottimizzare processi, aumentare conversioni, prevedere comportamenti, ridurre tempi, estrarre valore.
Può diventare uno strumento potentissimo di organizzazione della realtà, ma anche di riduzione dell’umano a materiale economico.
Non serve immaginare scenari fantascientifici, basta osservare ciò che già accade quando una persona viene valutata soltanto in base ai suoi dati, alla sua capacità di acquisto, alla sua probabilità di conversione, alla sua utilità statistica.
In quel momento non è più pienamente interlocutore, è oggetto di calcolo.
E una società che calcola tutto, senza più riconoscere il valore di ciò che non produce rendimento, rischia di diventare molto efficiente e molto disumana.
- Per questo la centralità dell’essere umano non può essere una formula di comodo.
- Non può essere pronunciata nei convegni e poi dimenticata nei processi.
- Non può essere dichiarata nei documenti aziendali e poi negata dalle piattaforme.
- Non può essere usata come linguaggio rassicurante mentre i sistemi continuano a classificare, profilare e orientare persone inconsapevoli.
La centralità dell’essere umano comincia davvero dove finisce la convenienza.
- Comincia quando un sistema decide di essere chiaro anche con chi non può contestarlo.
- Quando protegge anche chi non comprende i suoi meccanismi.
- Quando non sfrutta la fragilità cognitiva o emotiva.
- Quando non trasforma l’ignoranza tecnica in occasione di dominio.
- Quando non confonde la debolezza dell’utente con una possibilità commerciale.
Nel mondo dell’IA questa distinzione diventa fondamentale, perché l’IA non è solo uno strumento di servizio, è sempre più spesso una mediazione tra la persona e la realtà: informa, orienta, seleziona, suggerisce, filtra, interpreta.
Se questa mediazione risponde soltanto alla logica economica, il cittadino non pagante rischia di diventare soggetto passivo dentro sistemi che non conosce e non governa.
- Non più persona.
- Non più interlocutore.
- Non più cittadino.
Ma suddito algoritmico!
Ed è precisamente questo che una visione etica dell’Intelligenza Artificiale non rifiuta il mercato, l’impresa, la tecnologia, l’innovazione.
Deve rifiutare l’idea che il valore umano coincida con il valore commerciale.
Una società giusta non può riconoscere dignità soltanto a chi consuma, una IA giusta non può rispettare soltanto chi paga.
Se l’essere umano è davvero al centro, deve esserlo anche quando è fragile, marginale, improduttivo, anziano, bambino, malato, povero, confuso, escluso, non competente, non interessante per il mercato.
- Deve esserlo anche quando chiede aiuto senza generare profitto.
- Deve esserlo anche quando non è “target”.
- Deve esserlo anche quando rallenta il sistema invece di accelerarlo.
La vera etica si misura lì.
- Non nelle dichiarazioni solenni.
- Non nei manifesti.
- Non nelle parole ben confezionate.
- Non nella comunicazione rassicurante.
Si misura nel trattamento riservato a chi non ha potere contrattuale.
Per questo la centralità dell’essere umano non può essere una funzione premium.
- Non può essere un servizio aggiuntivo.
- Non può essere una clausola riservata agli abbonati.
- Non può essere una cortesia concessa ai clienti migliori.
È il fondamento.
Una tecnologia realmente umana non dovrebbe chiedersi soltanto: quanto posso ottenere da questa persona? Dovrebbe chiedersi anche: quanto devo proteggerla, soprattutto se non ha strumenti per proteggersi da sola?
Questo vale per le imprese, per le piattaforme, per le istituzioni, per i sistemi pubblici, per gli ambienti educativi, sanitari, amministrativi, informativi.
Se una IA è intelligente, ma non sa riconoscere il valore di chi non paga, allora manca della parte più importante dell’intelligenza: il senso del limite e della giustizia.
Il futuro dell’IA non si giocherà soltanto sulla potenza dei modelli, sulla velocità di calcolo, sulla capacità di generare testi, immagini, decisioni o previsioni.
Si giocherà su una domanda molto più semplice e molto più difficile:
questa tecnologia riconosce ancora l’uomo quando l’uomo non le conviene?
Se la risposta è no, siamo davanti a uno strumento di potere, se la risposta è sì, allora possiamo iniziare a parlare davvero di alleanza tra intelligenza e coscienza.
Perché l’uomo non è al centro solo quando compra, l’uomo è al centro perché è uomo.
Rispondi