Il mondo ex machina. Cinque brevi lezioni di filosofia dell'automazione, Cosimo AccotoDott. Cosimo Accoto, Lei è autore del libro Il mondo ex machina. Cinque brevi lezioni di filosofia dell’automazione pubblicato da EGEA: in che modo l’automatizzazione sta rivoluzionando le nostre idee e categorie concettuali?
La filosofia deve tornare ad occuparsi delle cosiddette “tecnicalità” che sono oggi sempre più a fondamento e a movimento del nostro reale. A partire proprio dall’automazione e dalle sue molteplici declinazioni. La nostra concettualizzazione del “mondo” e delle sue esperienze, ad esempio, è modellata dalle infostrutture computazionali automatizzanti. Pensiamo anche solo al cloud e alle altre metafore atmosferiche e geografiche della computazione che si è venuta stratificando in layer sovrapposti dai nomi evocativi. Cloud computing, fog computing, edge computing mappano, oggi, figurativamente i dove della computazione, le sue locazioni: sulla nuvola, nella nebbia, al margine del mondo. Ma filosoficamente, queste collocazioni della computazione sono anche e soprattutto configurazioni della computazione. Così, il cloud non è tanto un luogo della computazione, ma è soprattutto un modo della computazione, un modo di essere del mondo. Oppure pensiamo anche alla categoria di “fiducia” per come viene ridefinita dalle reti automatizzanti della blockchain e degli smart contract. E ancora al concetto di “verità” per come viene riscritto dai regimi di verità crittografica dei protocolli decentralizzati della blockchain. O per come viene messo in discussione e istanziato dalle reti neurali artificiali che in maniera automatizzata creano deep fake, video realistici con persone inesistenti o simulate su quelle esistenti. O, da ultimo, al concetto di “rischio” per come viene reimmaginato alla luce degli attacchi informatici che avvengono in un tempo e in uno spazio che sono sempre più macchinici e automatizzati. Sia nel mio precedente “Il mondo dato” sia in questo ultimo, “Il mondo ex machina” ho sollecitato la società a non spaventarsi per queste novità, ma ad affrontarle culturalmente in maniera proattiva e non solo difensiva. Non possiamo lasciare solo ai tecnologi il compito di costruire la nuova civiltà. Dobbiamo però come filosofi e umanisti avere anche l’umiltà di studiare il nuovo e il coraggio di dialogare con le discipline scientifiche e con le pratiche ingegneristiche.

Quali implicazioni filosofiche comporta l’automazione?
Il mondo ex machina si propone di avviare un’esplorazione filosofica della dimensione automatica in quanto tale. Filosoficamente, un orizzonte che non è solo tecnologico o infrastrutturale, ma più ontologicamente fondativo. Automazione, dunque, non solo, come spinta ingegneristica a costruire macchine e automi, ma come una più complessiva prospettiva di senso e di produzione del nostro reale in divenire. A me pare, infatti, che stia emergendo – in maniera ancora poco avvertita dai più e molto agita da alcuni – una nuova vocazione del mondo all’automaticità, un’inclinazione della nostra società nel suo complesso verso nuovi automatismi. È questo l’orizzonte di un mondo automato che urge e che merita di essere analizzato in sé, senza preconcetti neoluddisti, ma con apertura, consapevolezza e profondità. Più astrattamente, mi sembra di intravedere nell’automazione oggi in fieri una nuova ontogenesi, cioè un nuovo modo d’essere, di generarsi e riprodursi (e distruggersi) del mondo. Automazione, dunque, non come meccanismo neo-macchinico, ma come dinamismo neo-ecologico. A fronte di questa spinta tecnologica, credo sia sempre più indifferibile l’attivazione di un pensiero filosofico all’altezza delle sfide in essere. Un pensiero speculativo e prospettico, aperto ma attento, capace di studiare e accompagnare, con la necessaria densità teorica, la domanda di senso (sull’essere del mondo), di critica (sulla finalità del tecnologico), di guida (sull’etica e il governo del futuro) dell’umanità.

Quale rivoluzione apre il deep learning in ambito cognitivo?
I cambiamenti in atto sono profondi soprattutto perché oggi sempre più a “conoscere” la realtà sono agenti artificiali attraverso sensori, dati, algoritmi e reti. Le macchine che abbiamo considerato finora semplici cose o strumenti inanimati sempre più fanno “esperienza” del mondo a loro modo. Facciamo un esempio. Un’automobile a guida autonoma per andare in strada senza guidatore deve poter capire il contesto in cui si muove. Deve saper individuare i percorsi e gli edifici, riconoscere in autonomia le altre auto e scansare i pedoni che attraversano la strada. E non soltanto deve riconoscere il contesto, ma anche per l’appunto prendere decisioni anche critiche (ad esempio frenare per non investire persone o altre auto). Prima dei recenti successi delle reti neurali artificiali e del cosiddetto “apprendimento profondo” (deep learning) le auto non erano in grado di autonomia d’azione in strada. Pur con molti limiti, le reti neurali artificiali, dunque, esplorano lo spazio della conoscibilità del mondo attraverso i dati in maniera massiva e in questa attività esplorativa sono in grado anche di individuare soluzioni creative ai problemi. Questa “AI” non è quindi solo potenza di calcolo, ma anche capacità di “immaginazione”. Questo fatichiamo ad ammetterlo perché ci piace connotarci come unici esseri creativi. Ma non è così. Faccio un esempio: AlphaGo, il supercomputer di Google che ha battuto Lee Sedol, il coreano campione mondiale di Go (il gioco asiatico molto più difficile degli scacchi le cui mosse possibili superano gli atomi dell’universo). La macchina AlphaGo ha fatto una mossa strategica che nessuno dei milioni di giocatori umani di Go in 3000 anni aveva immaginato. Abbiamo dovuto riconoscere che come umani avevamo raggiunto – come dicono i matematici – un “massimo locale” da cui non riuscivamo a muoverci. Eravamo fermi e non riuscivamo a inventarci nuove mosse. In questo caso, le macchine ci hanno fatto fare un’esperienza nuova e un salto cognitivo notevolissimo. Tanto che ora i manuali di gioco di Go andranno riscritti per tenerne conto.

Si sta preparando la fine del lavoro?
In ragione di questa automazione fisica e cognitiva, anche il mondo del lavoro è in trasformazione profonda. Alcuni lavori scompariranno e altri si trasformeranno, mentre nuovi lavori stanno nascendo e nasceranno. Certo, il tutto con non poche difficoltà. Una criticità è legata alla velocità accelerata con cui questo sta accadendo, l’altra alla complessità di immaginare ed educare alle nuove professioni da parte di istituzioni scolastiche e formative. Infine anche la peculiarità delle nuove macchine abili fisicamente, ma sempre più anche cognitivamente. Le stime per l’Italia dicono che perderemo circa 3 milioni di posti di lavoro nei prossimi 15 anni (secondo l’analisi del think tank Ambrosetti), ma con la creazione di quelli nuovi – secondo il Politecnico di Milano – avremo comunque un saldo positivo di 1 milione di posti. Il suggerimento e l’idea diffusa è quella di rafforzare le competenze e abilità più tipiche dell’umano: il pensiero creativo e critico, la gestione della complessità, il lavoro in team, le capacità empatiche e comunicative. Oltre naturalmente alle competenze nuove legate proprio alle tecnologie (le nuove professioni legate a dati, algoritmi, reti, applicazioni, design, sicurezza). Stante che non andrebbe solo temuta una “società senza lavoro” (stanno uscendo un po’ di libri a tema “world without work”), ma che andrebbe valutato se non sia un’ipotesi su cui esercitare in positivo la nostra immaginazione. Come immaginano gli accelerazionisti, il contraltare dei luddisti che puntano alla piena automazione e non più alla piena occupazione. Di certo dobbiamo cominciare a fare i conti con l’emergente “economia della macchina” con architetture, applicazioni, piattaforme di automatizzazione. Per fare un altro esempio recente, al MIT Media Lab a inizio dicembre si è svolta la seconda conferenza pionieristica sugli incroci possibili tra robotica e blockchain. Per immaginare, ad esempio, smart contract che gestiscono droni in forma di “robot-as-a-service”. Siamo solo agli inizi, ma le potenzialità (tanto quanto le vulnerabilità) sono significative.

Quali le conseguenze della blockchain su mercati, imprese e contratti automatici?
Come l’arrivo del web da metà anni Novanta ha cambiato le nostre vite private e professionali, così la blockchain inciderà con profondità nei modi con cui interagiremo e ci scambieremo valore in rete. La prima applicazione e quella oggi più famosa (e più controversa) è quella dei bitcoin, la moneta digitale che ci consente di scambiare denaro tra pari senza banche intermediarie. Ma come per il web dopo i primi siti abbiamo visto arrivare altre applicazioni (dai blog, al commercio elettronico allo streaming e visione dei film), così su questo nuovo protocollo di comunicazione e interazione vedremo nascere innovative applicazioni. Ad es. molti immaginano di progettare “contratti intelligenti” digitali che in automatico faranno dialogare gli oggetti smart presenti nelle nostre case e nei nostri uffici. Oppure che gestiranno in maniera sicura le nostre identità digitali e i dati connessi. Oppure contratti che ci rimborseranno automaticamente e senza intermediazione umana se il nostro aereo è in ritardo. Non ci sarà bisogno che richiediamo il rimborso del biglietto. Anche in questo caso opportunità, ma anche rischi da governare. La blockchain – si dice – è un registro pubblico delle transazioni distribuito e decentralizzato. Ma questa, direbbero i filosofi, è fenomenologia tecnologica, semplice descrizione tecnica. È importante, invece, focalizzare la nostra attenzione su questa che non è più solo tecnologia o infrastruttura, ma che si candida a diventare nuova “istituzione”. Che va letta filosoficamente, come hanno sottolineato le filosofe Melanie Swan e Primavera De Filippi: “Internet ci ha spinto a ripensare temi come il sé, la relazione tra fisico e virtuale, l’individuo e la società insieme ai concetti di materialità, incorporazione, temporalità, spazialità e possibilità. Le blockchain reclamano lo stesso grado di ricerca filosofica”. E l’hanno scritto in uno speciale della rivista “Metaphilosophy” dedicato alla filosofia della tecnologia della blockchain già nel 2017.

Dobbiamo temere le armi autonome, droni killer, cyber virus o le stesse fake news?
Secondo il World Economic Forum nel suo Global Risk Report 2018, i rischi derivanti da attacchi informatici sono, oggi, al terzo posto tra le vulnerabilità del nostro pianeta subito dopo i disastri naturali e gli eventi climatici. Lo stesso rapporto nel 2011 li considerava solo marginalmente da attenzionare. Dobbiamo, di necessità, allora partire da una molto spiacevole e poco diffusa consapevolezza. Internet non è stata disegnata avendo in mente la sicurezza. Il mondo in rete è, dunque, un mondo ontologicamente insicuro. L’architettura resiliente di internet è stata immaginata per sopravvivere alla distruzione e all’interruzione materiale di macchine computazionali e connessioni comunicazionali. Quello per cui non è stata disegnata è essere protetta e proteggersi da attacchi sistemici ai protocolli sottostanti. Qual è, allora, oggi la “superficie di attacco”, direbbero gli esperti di sicurezza informatica? La superficie di attacco di un sistema digitale è quella parte del sistema stesso che può essere esposta ad accessi non autorizzati e, nei casi peggiori, ad attacchi informatici. Maggiore è questa superficie, maggiore la vulnerabilità del sistema. E, dunque, qual è oggi questa superficie? Un tempo era sostanzialmente l’insieme dei computer. Ma ora? Dobbiamo riconoscere che, oggi, è il mondo intero la superficie di attacco, il mondo nella sua interezza. Il mondo è la superficie e l’abisso dell’attacco. In forme varie. Perché la cyberguerra è insieme un collasso tecnologico (della realtà) e una crisi epistemologica (della verità). Ultimo arrivato, per ora, in termini di falsità è il cosiddetto deep fake, vale a dire la costruzione automatizzata di video o foto “fasulle” create da reti neurali artificiali con un grado di verosimiglianza straordinario. Queste reti si chiamano, tecnicamente, reti generative antagoniste o generative adversarial network (GAN) e nascono con intento di allenare l’algoritmo discriminatore (del vero) con i risultati di un algoritmo generatore (del falso). Abbiamo, così, dato vita ad un’automazione della falsificazione. Non dobbiamo temere, ma far avanzare la civiltà. Ricordo sempre che, a metà del Quattrocento, a fronte di documenti cartacei fasulli come la donazione di Costantino, abbiamo dovuto inventare una disciplina nuova, la filologia per proteggerci.

Quali esiti produrrà l’automaticità nell’etica e la politica di domani?
Dobbiamo prima partire da una considerazione più generale sui rapporti tra tecnologia e politica. Non possiamo ragionevolmente immaginare che tutto quello che abbiamo raccontato fin qui in termini di evoluzioni tecnologiche, di trasformazioni economiche, di cambiamenti disciplinari, di metamorfosi professionali non abbia e non avrà una qualche ripercussione su quello che siamo soliti definire politica. Sarebbe ingenuo pensarlo, imprudente e, da ultimo, inverosimile. Di più. Solitamente non si considera la politica come una tecnologia in sé, ma se ci pensiamo la politica è anche informazione e comunicazione. Anzi è proprio istanziata anche in virtù delle tecnologie dell’informazione e della comunicazione storicamente disponibili in ogni epoca. E se queste ultime cambiano, qualche trasformazione della politica in quanto tale dovremo attendercela e, se possibile, prefigurarla per il meglio. A partire dall’uso dei dati che sono la base di partenza di ogni strategia di automatizzazione. Non si tratta di mettere in opposizione “dato” e “dialogo” immaginando di sostituire sic et simpliciter, appunto, il dato algoritmico al dialogo democratico. Dovremmo chiederci, piuttosto, qual è la promessa che una società democratica supportata dai dati può offrire e innescare rispetto al corrente modo dell’azione politica? E naturalmente, la domanda può essere riformulata sostituendo alla parola “dati”, di volta in volta, gli altri domini tecnologici che abbiamo evocato all’inizio: le intelligenze artificiali, le reti decentralizzate, le macchine autonome. Per concludere, l’orientamento filosofico avrà dunque il grande pregio di aiutare a chiarire e a illuminare principi e fondamenti dello sviluppo tecnologico, a porre in questione e criticare assunzioni e pregiudizi applicativi, a costruire nuovi modelli di governo e linee guida etiche in grado di eliminare, ad esempio, le discriminazioni algoritmiche o le automazioni delle diseguaglianze. L’automazione può aiutare a costruire una prosperità inclusiva, ma non lo farà automaticamente.

Filosofo di formazione e saggista, Cosimo Accoto è research affiliate (MIT Boston). Ha maturato la sua professionalità nella consulenza di management e nell’industria della data intelligence. Interessi di ricerca: filosofia del codice, scienza dei dati, intelligenza artificiale, logica delle piattaforme, blockchain. Advisor e speaker, è autore di diversi saggi: Il mondo ex machina (2019), Il mondo dato (2017), In Data Time and Tide (Bocconi University Press 2018), Social mobile marketing (2014) e articoli: Economia & Management (SDA Bocconi), HBR Italia, Nova24 Il Sole24Ore.