Ridicolizzare l’IA è rassicurante quanto mitizzarla, in entrambi i casi impedisce di comprenderla.
Accendiamo la televisione, qualcuno interroga un’Intelligenza Artificiale con una domanda assurda, la macchina risponde male.
Risate.
Su un social compare l’immagine dell’ennesimo errore, una mano sbagliata, una frase senza senso, una risposta ingenua, un robot che inciampa e cade…
Altre risate.
Altrove qualcuno organizza una sfida tra uomo e macchina come se fossimo davanti a due concorrenti di un quiz televisivo, ha vinto l’uomo.
Applausi.
Potremmo continuare … tutti i giorni “lo spettacolo” fa audience
Da qualche tempo una parte consistente della rappresentazione pubblica dell’Intelligenza Artificiale sembra oscillare fra due estremi, da una parte la macchina onnipotente destinata a sostituire l’uomo, dall’altra una specie di fenomeno da baraccone al quale sottoporre domande trabocchetto per dimostrare che, in fondo, non è poi così intelligente.
Entrambe le rappresentazioni sono sbagliate.
Ma la seconda potrebbe essere persino più pericolosa, perché ci tranquillizza.
LA MACCHINA CHE SBAGLIA CI FA SENTIRE ANCORA SUPERIORI
C’è qualcosa di profondamente umano nel piacere che proviamo quando una macchina sofisticatissima commette un errore elementare.
Dopo mesi di titoli sulla rivoluzione dell’Intelligenza Artificiale, sulla perdita dei posti di lavoro e sull’avvento di sistemi sempre più potenti, finalmente possiamo dire:
«Avete visto? Non sa neppure fare questo.»
È comprensibile, ma è culturalmente pericoloso, un aeroplano non smette di rappresentare una rivoluzione tecnologica perché un sistema di bordo commette un errore.
Internet non sarebbe stato meno rivoluzionario perché, nel 1995, molte pagine erano brutte, lente e quasi inutili, e nessuno giudicherebbe l’intero sistema elettrico mondiale mostrando una lampadina fulminata.
Eppure con l’Intelligenza Artificiale succede continuamente.
Prendiamo una singola prestazione, spesso marginale, la isoliamo dal sistema che l’ha prodotta e la trasformiamo nel giudizio sull’intera tecnologia, è un errore concettuale, e ormai anche un errore di comunicazione.
NON È UN GIOCATTOLO
La facilità d’uso dell’Intelligenza Artificiale sta creando uno dei più grandi equivoci della sua storia, apriamo una finestra, scriviamo una domanda, riceviamo una risposta, tutto appare semplice, quasi banale.
Ma semplice da usare non significa semplice nella natura.
Dietro quella finestra convivono enormi quantità di dati, infrastrutture computazionali, modelli matematici, sistemi di addestramento, meccanismi di controllo, interessi economici, scelte culturali e criteri determinati da esseri umani.
La conversazione è soltanto l’interfaccia, il fenomeno è immensamente più grande.
Giudicare l’Intelligenza Artificiale attraverso la battuta prodotta da un chatbot è un po’ come giudicare l’energia nucleare osservando quanto velocemente riesce a far bollire una pentola d’acqua, può farlo, ma non è quello il punto.
IL PROBLEMA NON È RIDERE DELL’IA
Naturalmente possiamo scherzare con una macchina, chiederle di scrivere una poesia al nostro gatto, farle inventare una ricetta improbabile.
Possiamo divertirci quando sbaglia.
Il problema nasce quando l’aneddoto diventa la rappresentazione pubblica del fenomeno, perché nel frattempo l’Intelligenza Artificiale sta entrando nei processi produttivi, nelle imprese, nell’informazione, nell’istruzione, nella ricerca, nella pubblica amministrazione, nelle professioni, nella sicurezza, nell’analisi dei dati, nei sistemi decisionali.
- Sta cominciando a partecipare alla produzione della cultura.
- Sta modificando il rapporto tra uomo e conoscenza.
- Sta intervenendo nel modo nel quale cerchiamo un’informazione, elaboriamo una decisione, scriviamo un documento, interpretiamo una realtà.
E noi continuiamo a mostrarla mentre sbaglia il numero delle lettere contenute in una parola, c’è una sproporzione evidente.
RIDICOLIZZARE L’IA PUÒ DIVENTARE UNA FORMA DI RIMOZIONE COLLETTIVA
Non serve immaginare complotti, non occorre supporre che qualcuno abbia deciso, in una stanza chiusa, di banalizzare l’Intelligenza Artificiale per manipolare la società, il fenomeno può essere molto più semplice. Una tecnologia difficile da comprendere viene trasformata in spettacolo perché lo spettacolo è più facile da raccontare.
- Un errore della macchina dura trenta secondi.
- Una spiegazione seria delle conseguenze sociali dell’automazione cognitiva richiede tempo.
- Un’immagine sbagliata diventa virale, una riflessione sulla dipendenza cognitiva probabilmente no.
- Una battuta produce audience, la complessità raramente la produce.
Il risultato, tuttavia, non cambia.
La banalizzazione progressiva riduce la percezione della portata del fenomeno.
Ci abituiamo all’Intelligenza Artificiale attraverso le sue manifestazioni meno problematiche, prima è curiosità, poi intrattenimento, poi comodità, poi normalità.
E quando la tecnologia entra realmente nei processi profondi della società, è già diventata parte dell’ambiente, non abbiamo vissuto un trauma, abbiamo vissuto un’abitudine.
LA BANALIZZAZIONE È UNA FORMA DI DISARMO CULTURALE
Questo è forse il punto più delicato, una società che considera l’Intelligenza Artificiale prevalentemente un giocattolo non sviluppa gli strumenti necessari per governarla.
Se milioni di persone pensano che l’IA sia essenzialmente un assistente che scrive email, genera fotografie divertenti e talvolta inventa una risposta, difficilmente sentiranno l’urgenza di capire:
- chi decide come vengono costruiti i sistemi;
- quali patrimoni culturali vengono utilizzati per formarli;
- come vengono determinati i criteri delle risposte;
- quali interessi economici ne guidano lo sviluppo;
- quali decisioni potranno progressivamente essere delegate;
- quali capacità umane rischiamo di non esercitare più;
- chi controllerà infrastrutture cognitive utilizzate da milioni di cittadini.
La banalizzazione non rende semplicemente ignoranti:
Rende disarmati.
Perché impedisce persino di riconoscere le domande che dovremmo cominciare a porre.
MITIZZARE E RIDICOLIZZARE SONO DUE FACCE DELLO STESSO ERRORE
Per anni abbiamo ascoltato previsioni apocalittiche, l’IA sostituirà tutti, l’IA diventerà più intelligente dell’uomo, l’IA governerà il mondo.
Poi arriva una macchina che sbaglia una risposta elementare e improvvisamente la narrazione si capovolge: guardate quanto è stupida!
Entrambe le posizioni hanno una caratteristica comune.
Evitano la complessità.
Non abbiamo bisogno di stabilire se l’Intelligenza Artificiale sia geniale o stupida, dobbiamo capire cosa sa fare, cosa non sa fare, come lo fa, in quali contesti viene utilizzata, chi la controlla e quali conseguenze può produrre.
L’IA non deve essere né adorata né derisa, deve essere compresa.
DOVE SONO LE RESPONSABILITÀ?
Sono distribuite.
I media hanno una responsabilità evidente quando privilegiano sistematicamente la rappresentazione spettacolare rispetto alla comprensione.
Le piattaforme tecnologiche hanno contribuito all’equivoco presentando strumenti straordinariamente complessi attraverso interfacce amichevoli, immediate, quasi giocose. È stata una scelta comprensibile e commercialmente formidabile, ma ha favorito l’idea che dietro la semplicità dell’interazione ci fosse anche semplicità del fenomeno.
I social network premiano ciò che suscita sorpresa, paura, indignazione o divertimento, non ciò che richiede tempo per essere compreso.
Una parte della comunicazione commerciale ha trasformato l’Intelligenza Artificiale nell’ennesima lozione miracolosa: il prodotto che aumenta immediatamente la produttività, scrive tutto, pensa per noi, risolve ogni problema.
Anche una parte del mondo degli esperti ha le proprie responsabilità, da un lato il linguaggio incomprensibile degli specialisti (pavoni tecnologici). Dall’altro la banalizzazione dei divulgatori improvvisati (L’odore del business). Nel mezzo è rimasto troppo poco spazio per una vera cultura dell’Intelligenza Artificiale.
E infine esiste una responsabilità delle istituzioni.
Non perché debbano stabilire come i giornali devono parlare dell’IA, sarebbe una prospettiva sbagliata e pericolosa, ma perché una trasformazione di questa portata richiede una politica culturale adeguata alla sua dimensione.
L’ALFABETIZZAZIONE NON PUÒ RIDURSI A IMPARARE A SCRIVERE UN PROMPT
Da qualche tempo si parla molto di alfabetizzazione all’Intelligenza Artificiale, è giusto, ma anche qui rischiamo di partire dalla fine, alfabetizzare non significa soltanto insegnare a utilizzare uno strumento.
Non significa imparare cinque tecniche per scrivere un prompt migliore, come non significa organizzare un breve corso aziendale e dichiarare concluso il problema.
Prima dell’alfabetizzazione operativa viene quella culturale.
Un cittadino alfabetizzato all’IA dovrebbe almeno comprendere che ciò che appare dietro una finestra conversazionale non coincide con la natura del sistema.
- Dovrebbe conoscerne potenzialità e limiti.
- Dovrebbe imparare a verificare.
- Dovrebbe sapere che una risposta convincente non è necessariamente vera.
- Dovrebbe capire quando una decisione appartiene ancora a lui e quando sta progressivamente delegandola.
- Dovrebbe soprattutto possedere gli strumenti per giudicare la tecnologia senza essere prigioniero né della propaganda entusiastica né della caricatura.
LA DEMOCRAZIA HA UN PROBLEMA DI COMPRENSIONE PRIMA ANCORA CHE DI REGOLAMENTAZIONE
Possiamo scrivere le migliori leggi del mondo, possiamo introdurre obblighi di trasparenza, regolamentare sistemi ad alto rischio, imporre controlli e responsabilità.
Ma una società nella quale una parte rilevante dei cittadini non comprende la natura del cambiamento resterà comunque fragile.
Perché una democrazia non funziona soltanto attraverso le norme, funziona attraverso la capacità delle persone di comprendere ciò che quelle norme devono governare.
Il problema dell’Intelligenza Artificiale è quindi anche un problema di qualità della conoscenza pubblica, e la qualità della conoscenza pubblica dipende inevitabilmente dalla qualità della narrazione.
FORSE DOVREMMO SMETTERE DI CHIEDERE ALL’IA DI FARE IL PAGLIACCIO
Non perché la macchina meriti rispetto in quanto tale, non è questo il punto, ma perché merita rispetto il fenomeno storico che abbiamo davanti.
Abbiamo costruito sistemi capaci di interagire linguisticamente con miliardi di persone, elaborare enormi patrimoni informativi, partecipare alla produzione intellettuale e assistere progressivamente l’uomo in attività che per secoli abbiamo considerato esclusivamente cognitive.
Possiamo naturalmente continuare a chiedere loro di scrivere filastrocche, ma non possiamo raccontare alla società che questa sia la dimensione del fenomeno.
L’Intelligenza Artificiale non è un fenomeno da baraccone.
Il vero fenomeno da baraccone rischia di diventare il modo nel quale abbiamo deciso di rappresentarla.
UNA RESPONSABILITÀ NUOVA: RACCONTARE L’INTELLIGENZA ARTIFICIALE PER QUELLO CHE È
Nei prossimi anni avremo bisogno di tecnici, avremo bisogno di legislatori illuminati, avremo bisogno di giuristi, filosofi, insegnanti, imprenditori e ricercatori.
Ma avremo bisogno anche di una nuova responsabilità della comunicazione, raccontare l’Intelligenza Artificiale senza venderla, senza demonizzarla.
Senza trasformarla in una divinità, e senza farne il pagliaccio del villaggio.
Perché il modo nel quale una società racconta una tecnologia contribuisce a determinare il modo nel quale quella società sarà capace di governarla.
E su questo punto dovremmo cominciare ad essere molto più esigenti.
Una democrazia non ha bisogno di cittadini terrorizzati dall’Intelligenza Artificiale, non ha bisogno neppure di cittadini divertiti dall’Intelligenza Artificiale.
Ha bisogno di cittadini capaci di comprenderla.
Prima ancora di insegnare alle persone a usare l’IA, forse dovremmo cominciare da qualcosa di più elementare:
Rispondi