Il problema non nasce quando una piattaforma aiuta a esplorare il futuro, nasce quando finiamo per esplorare “solo il futuro” che quella piattaforma ha deciso di rendere visibile.

C’è un punto che nel dibattito sulle grandi piattaforme decisionali viene spesso sfiorato, ma raramente affrontato fino in fondo. Non riguarda soltanto la potenza di calcolo, non riguarda soltanto la capacità di integrare dati, simulare scenari, anticipare anomalie o accelerare i cicli decisionali.

Riguarda qualcosa di ancora più radicale, chi costruisce l’universo da esplorare.

Oggi alcune architetture tecnologiche non si limitano a leggere il reale, lo organizzano, lo traducono, lo rendono trattabile.

Quando una piattaforma definisce oggetti, relazioni, priorità, segnali, soglie di attenzione e margini di intervento, non sta solo aiutando a decidere meglio, sta anche costruendo una rappresentazione operativa del mondo.

A questo punto la domanda non è più soltanto: “Il sistema funziona?” La domanda vera diventa: “Chi ha costruito il recinto entro cui quel sistema funziona?”

La forma più avanzata di dominio non è quella che impone il futuro, ma quella che decide quale futuro potrà essere immaginato.

Perché costruire un recinto non significa solo delimitare uno spazio, significa decidere che cosa entra e che cosa resta fuori, quali relazioni contano, quali anomalie meritano attenzione, quali rischi vengono trattati come prioritari, quali possibilità diventano visibili, quali traiettorie smettono perfino di essere pensabili.

Il punto, allora, non è più semplicemente tecnico, è epistemico, e quindi politico.

L’immagine del recinto non è una metafora inventata per impressionare, richiama, con tutte le cautele del caso, gli studi di John B. Calhoun, culminati nel saggio del 1973 Death squared: the explosive growth and demise of a mouse population, dedicato alla crescita e al collasso di una popolazione murina in ambiente artificialmente organizzato.

Naturalmente nessun esperimento animale può essere trasferito meccanicamente alla società umana, ma l’analogia resta potente.

Metti dei topolini in un recinto ben progettato, offri protezione, ordine, disponibilità di risorse, assenza apparente di minacce, nel primo tempo tutto sembra funzionare, anzi, sembra funzionare benissimo. C’è fertilità, c’è crescita, c’è perfino l’impressione di un equilibrio raggiunto. Ma se l’ambiente è interamente predisposto dall’esterno, se ogni variabile è già stata amministrata, se la complessità del mondo viene sostituita da una complessità controllata, allora quella fertilità iniziale può diventare il preludio di un impoverimento progressivo.

Non subito, non in modo teatrale, ma lentamente.

Perché dentro un ecosistema chiuso l’intelligenza non evolve davvero, si adatta.

E l’adattamento prolungato, quando il recinto è invisibile e totalizzante, può produrre una forma di sterilità cognitiva, si continua a funzionare, ma si smette, poco a poco, di immaginare fuori dai parametri predisposti.

È questo il punto che oggi dovrebbe inquietarci, le grandi infrastrutture decisionali promettono di trasformare l’incertezza in campo operativo, e in parte ci riescono.

Nessuna architettura elimina l’incertezza, la riformatta, la rende leggibile secondo certe categorie, la rende gestibile secondo certe priorità, la rende simulabile secondo certe ipotesi.

Di conseguenza, il tema non è solo chi possiede più dati, il tema è chi possiede il potere di dare forma ai dati, di ordinarli dentro una rappresentazione del mondo che poi altri finiranno per abitare come se fosse neutrale.

E qui nasce una nuova asimmetria, da una parte ci sono attori che progettano il recinto: costruiscono modelli, ontologie, accessi, ridondanze, simulazioni, cicli decisionali chiusi.

Dall’altra ci sono istituzioni, imprese, organizzazioni pubbliche e perfino comunità civili che rischiano di muoversi con crescente efficienza dentro un universo che non hanno costruito.

La vera discontinuità non è quindi solo tra chi prevede meglio e chi prevede peggio, è tra chi progetta l’incertezza e chi la subisce. Tra chi disegna il campo del possibile e chi, senza quasi accorgersene, vi si adatta.

Questo è il punto in cui la questione tecnologica diventa questione di sovranità, non più soltanto sovranità territoriale, non più soltanto sovranità normativa, ma sovranità interpretativa.

Chi possiede strumenti superiori per modellizzare il reale e simulare il futuro non dispone solo di un vantaggio operativo, dispone di un vantaggio strategico nella definizione stessa del mondo rilevante.

Per questo non basta invocare una generica “governance dell’intelligenza artificiale”. Serve qualcosa di più difficile e più serio.

una pluralità di modelli, una verificabilità dei presupposti, un conflitto interpretativo reale, il diritto di discutere il recinto, e soprattutto il diritto di sapere che il recinto esiste.

Perché il rischio maggiore non è l’errore del modello, il rischio maggiore è l’oggettività apparente del modello.

Quando una rappresentazione del mondo assume forma computazionale, tende automaticamente a sembrare neutrale, ma ciò che è formalizzato non è per questo innocente. Ogni formalizzazione incorpora selezioni, esclusioni, gerarchie, visioni del mondo.

La macchina non garantisce l’oggettività, la macchina può solo rendere più potente una certa costruzione del reale.

E allora il problema non è che esistano piattaforme capaci di anticipare scenari, il problema nasce quando iniziamo tutti ad abitare, senza quasi più discuterlo, solo il futuro che qualcun altro ha reso calcolabile.

La libertà, oggi, non consiste soltanto nell’avere accesso ai dati, consiste nel poter discutere il perimetro entro cui quei dati acquistano significato, perché quando il recinto diventa invisibile, l’estinzione non comincia nel caos, comincia spesso nel momento in cui tutto sembra funzionare.