[Recensione a] HELGA NOWOTNY, Le macchine di Dio. Gli algoritmi predittivi e l’illusione del controllo, Luiss University Press, Roma 2022. Un volume di pp. 197 p.

Con molto tempismo, la LUISS University Press presenta la traduzione italiana di un importante saggio di Helga Nowotny apparso nel 2021 (In AI We Tust: Power, Illusion and Control of Predictive Algorythms, Politi, Londra 2021). «La digitalizzazione ci sta portando verso una traiettoria coevolutiva di esseri umani e macchina», questa la tesi che Nowotny intende illustrare cucendo tra loro le due linee di ricerca delle quali si è occupata nei suoi precedenti lavori: il processo di digitalizzazione e il nostro approdo nell’epoca dell’antropocene (p. 15). Linee di ricerca tanto più urgenti, ora che sappiamo come il processo di digitalizzazione e datificazione coincida con la crescente consapevolezza della crisi della sostenibilità ambientale. Vista la nostra esposizione alla Intelligenza Artificiale (IA) e la nostra interazione con i dispositivi, occorre ripensare la struttura e l’esperienza del tempo sociale, poiché è innegabile sia avvenuta un’alterazione significativa della nostra esperienza del tempo: «viviamo in un tempo digitale» (p. 16). Del resto, la crisi da COVID-19, che da emergenza è divenuta condizione cronica, mostra come al centro della questione sia quello che Nowotny chiama il paradosso della previsione: «Se il comportamento umano, flessibile e adattivo com’è, inizia a conformarsi alle previsioni, si rischia di fare ritorno a un mondo deterministico, in cui il futuro è già stato deciso» (p. 19s). Il paradosso è sospeso nell’interconnessione, tanto dinamica quanto volatile, tra presente e futuro. Il potere predittivo degli algoritmi ci permette di vedere più avanti e valutare gli esiti di comportamenti che emergono in sistemi complessi. Oggi, supportati da un’enorme capacità di calcolo e addestrati sulla base di una gigantesca mole di dati estratta dal mondo naturale e sociale, disponiamo di modelli di simulazione che se da una parte ci permettono di conoscere il futuro, dall’altra continuano a tenerci all’oscuro rispetto a «ciò che le previsioni fanno a noi». Qui Nowotny enuclea un ulteriore paradosso che «nasce dall’incompatibilità tra una funzione algoritmica, come può essere un’astratta equazione matematica, e una credenza umana che potrebbe o meno essere abbastanza forte da spingerci all’azione» (p. 20). Del resto, la pandemia di COVID-19 ci ha rivelato che abbiamo molto meno controllo di quanto pensiamo. Nell’autunno del 2019 non avevamo bisogno di algoritmi predittivi per essere messi in guardia: i modelli epidemiologici e il ragionamento statistico bayesiano erano più che sufficienti. Eppure gli avvertimenti sono passati inascoltati. Se le persone non vogliono conoscere o trovare delle ragioni per giustificare la loro inazione, il divario tra sapere e fare continua a persistere. Di fatto, le analisi predittive, per quanto siano espresse in termini di probabilità, giungono a noi sotto forma di pacchetti digitali «che accogliamo con gioia, ma che raramente sentiamo il bisogno di aprire. Appaiono come raffinati prodotti algoritmici, elaborati da sistemi che appaiono impenetrabili alla maggior parte di noi e sono spesso gelosamente custoditi dalle grandi aziende che li posseggono» (p. 21). Nel capitolo primo, «La vita nella macchina del tempo digitale», Nowotny muove dalla consta-tazione che a fronte della moltitudine di temporalità presenti nell’antropocene, che rivelano tracce del passato che puntano al futuro, l’enorme spazio di possibilità aperto dall’antropocene include anche il tempo digitale, visto l’impatto duraturo che gli esseri umani esercitano sul sistema terrestre, sul clima e sull’atmosfera. Fin dal 1947, il Bulletin of Atomic Scientists pubblica un rapporto annuale, noto grazie alla metafora di «orologio dell’Apocalisse», per indicare «quanto l’Umanità sia prossima ad andare incontro a una catastrofe globale a causa dei suoi incontrollati progressi scientifici e tecnologici» (p. 41). Del resto, le complesse interconnessioni tra la transizione digitale e la transizione verde non sono ancora sufficientemente riconosciute, sebbene, come ha notato Jürgen Renn (nel suo The Evolution of Knowledge: Rethinking Science for the Anthropocene, Princeton University Press, Princeton 2020), soluzioni «innovative potrebbero emergere adottando un approccio maggiormente sistemico, olistico e integrato che sappia appunto tenere insieme le due transizioni gemelle» (p. 44). La quantità di energia necessaria al cloud computing o alle attività delle piattaforme e dei social network, per tacere delle blockchain, rende necessaria, se si vuole aumentare il passo, la transizione verso energie sostenibili. Le tecnologie digitali dovranno pertanto avere «un ruolo tanto centrale quanto responsabile, affinché la geoantropologia, ovvero la scienza emergente dell’interazione essere umano-Terra, possa avere successo» (p. 45). Per capire che abbiamo intrapreso un irreversibile percorso coevolutivo con le macchine digitali che abbiamo create, basta pensare alla distanza che ci separa dal tempo ciclico delle società preindustriali che mettevano in collegamento i ritmi quotidiani delle attività umane con quelli della na-tura e del cosmo. «Benvenuti nel Mirror World», il titolo del secondo capitolo, dedicato agli alter ego digitali degli esseri umani, i cavalli di Troia digitali; mentre il terzo affronta la «ricerca della pubblica felicità e la narrazione del progresso», con le diverse sfide alla narrazione del progresso. Nel quarto capitolo, sul «futuro che ha bisogno di saggezza», Nowotny rievoca la vertigine del labirinto vissuta da chi si addentra nel Digiland: il sovraccarico di informazioni che stritola l’esperienza temporale del presente e conduce facilmente allo sfinimento. Di qui la richiesta improcrastinabile di un’etica della IA che spieghi come affrontare le sue patologie. «La devastazione è giunta, ma non come ce l’eravamo immaginata o come l’avevamo prevista». Com’era da immaginare, il volume si chiude con un quinto capitolo dedicato alla questione di «cosa ci insegna un virus biologico che agisce sui nostri corpi in un mondo digitale» (p. 157). Dopo la disruption causata dal COVID-19 dobbiamo pensare alla sua domestication, poiché, appunto, il «futuro ha bisogno di saggezza» e finché gli algoritmi predittivi «non saranno saggi – nel senso di avere un ethos, un insieme di attitudini condivise e pratiche adattate ai diversi contesti in cui gli algoritmi sono impiegati – dovremo restare vigili». In un mondo sociale caotico emergono continuamente delle situazioni impreviste, le quali richiedono «giudizio critico, agilità nell’agire e la giusta combinazione di sicurezza e umiltà nell’accogliere l’incertezza» (p. 180). Si tratta dunque di un volume che va ben al di là degli studi tecnologici e scientifici e invita gli studiosi di filosofia ad affrontare l’attuale divario tra scienza e società per una migliore comprensione delle frizioni e delle mutue incomprensioni che affliggono questa relazione flebile, ma carica di tensione. Se è vero che spetta ai governi stabilire norme per contenere il COVID-19 e spetta agli scienziati proporre raccomandazioni che siano basate su dati che via via vengono individuati e messi a disposizione. Non si può̀ escludere che, in futuro, virus altrettanto contagiosi e più̀ letali mettano in pericolo la vita di milioni di persone in ogni angolo del pianeta. Proprio per questo è importante farsi trovare preparati. Diventa urgente rivisitare questa dimensione dell’economia della conoscenza, evidenziando i meccanismi istituzionali che la rendono efficiente nel produrre conoscenze cumulative e affidabili in quanto beni pubblici. Educazione, ricerca e innovazione formano un triangolo, che diventa un quadrato se si aggiunge il quarto lato, quello della società̀. Non a caso, gli Horizon Prizes dello European Innovation Council sono rivolti a progetti che dimostrino la fattibilità̀ o il potenziale di particolari tecnologie e ne promuovano l’accettazione nella società̀.