Nexus. Breve storia delle reti di informazione dall’età della pietra all’IAdi Yuval Noah Harari
Bompiani
«La parte prima di questo libro ripercorre lo sviluppo storico delle reti di informazione umane. Non cerca di presentare un resoconto completo, secolo per secolo, di tecnologie informative come la scrittura, le macchine da stampa e la radio. Invece, studiando alcuni esempi, analizza i problemi fondamentali a cui gli esseri umani di tutte le epoche si sono trovati di fronte quando hanno cercato di costruire reti di informazione, ed esamina come le diverse risposte a questi problemi abbiano dato forma a società umane contrastanti. Quelli a cui siamo soliti pensare come conflitti ideologici e politici spesso si rivelano essere scontri tra tipi opposti di reti di informazione.
Nella parte prima esamino due principi che sono stati essenziali per le reti informative umane su larga scala: la mitologia e la burocrazia. I capitoli 2 e 3 descrivono come le grandi reti di informazione – dagli antichi regni agli odierni stati – si siano affidate sia ai creatori di miti sia ai burocrati. Le storie della Bibbia, per esempio, sono state essenziali per la Chiesa cristiana, ma non ci sarebbe stata nessuna Bibbia se i burocrati della Chiesa non avessero raccolto, redatto e diffuso queste storie. I creatori di miti e i burocrati tendono a remare in direzioni diverse, e questo rappresenta un problema complesso per ogni rete umana. Le istituzioni e le società sono spesso definite dall’equilibrio che riescono a trovare tra le esigenze contrastanti dei loro creatori di miti e dei loro burocrati. La stessa Chiesa cristiana si è divisa in chiese rivali, come la cattolica e la protestante, che hanno raggiunto equilibri diversi tra mitologia e burocrazia.
Il capitolo 4 si concentra poi sul problema delle informazioni errate e sui benefici e gli svantaggi del mantenimento di meccanismi di autocorrezione, come i tribunali indipendenti o le riviste peer-reviewed. Il capitolo contrappone istituzioni che si sono affidate a meccanismi di autocorrezione deboli, come la Chiesa cattolica, a istituzioni che hanno sviluppato meccanismi di autocorrezione forti, come le discipline scientifiche. A volte i meccanismi di autocorrezione deboli si traducono in calamità storiche, come la caccia alle streghe nell’Europa dell’età moderna, mentre i meccanismi di autocorrezione forti a volte destabilizzano la rete dall’interno. In termini di longevità, diffusione e potere, la Chiesa cattolica è stata forse l’istituzione di maggior successo nella storia dell’umanità, al di là – o forse proprio in ragione – della relativa debolezza dei suoi meccanismi di autocorrezione.
Dopo aver analizzato nella prima parte i ruoli della mitologia e della burocrazia e il contrasto tra meccanismi di autocorrezione forti e deboli, il capitolo 5 conclude la discussione storica concentrandosi su un altro contrasto: quello tra reti informative distribuite e centralizzate. I sistemi democratici permettono alle informazioni di fluire liberamente lungo molti canali indipendenti, mentre i sistemi totalitari cercano di concentrare le informazioni in un unico centro decisionale. Ogni scelta presenta vantaggi e svantaggi. Capire cosa rappresentano sistemi politici come quelli degli Stati Uniti e dell’Unione Sovietica in termini di flussi informativi può spiegare molto delle loro diverse traiettorie.
Questa parte storica del libro è fondamentale per comprendere gli sviluppi attuali e gli scenari futuri. L’ascesa dell’intelligenza artificiale è probabilmente la più grande rivoluzione dell’informazione in tutta la storia umana. Ma non possiamo capirla se non la confrontiamo con le rivoluzioni che l’hanno preceduta. La storia non è lo studio del passato ma lo studio del cambiamento. La storia ci insegna che cosa rimane uguale, che cosa cambia e come le cose cambiano. Questo vale per le rivoluzioni dell’informazione come per ogni altro tipo di trasformazione storica. Così, la comprensione del processo attraverso il quale è stato canonizzato il principio della presunta infallibilità della Bibbia fornisce preziose indicazioni sulle attuali pretese di infallibilità dell’IA. Allo stesso modo, lo studio della caccia alle streghe all’inizio dell’era moderna e della collettivizzazione di Stalin impartisce un severo monito su ciò che potrebbe andare storto qualora dessimo alle IA un maggiore controllo sulle società del XXI secolo. Una conoscenza approfondita della storia è fondamentale anche per capire quali sono le novità dell’IA, in che cosa è fondamentalmente diversa dalle macchine da stampa e dagli apparecchi radio, e perché una sua futura dittatura potrebbe essere qualcosa di mai visto prima. […]
Partendo dall’indagine storica della prima parte, la seconda parte del libro – “Il network inorganico” – esamina la nuova rete di informazioni che stiamo creando oggi, concentrandosi sulle implicazioni politiche dell’ascesa dell’IA. I capitoli 6-8 discutono esempi recenti provenienti da tutto il mondo – come il ruolo degli algoritmi dei social media nell’istigazione alla violenza etnica in Myanmar nel 2016-17 – per spiegare in che modo l’IA è diversa da tutte le precedenti tecnologie dell’informazione. Gli esempi sono tratti per lo più dagli anni dieci del XXI secolo anziché dagli anni venti, perché sugli eventi degli anni dieci abbiamo acquisito almeno un minimo di prospettiva storica.
La parte seconda spiega che stiamo creando un tipo di rete informativa completamente nuovo, senza soffermarsi sulle sue implicazioni. Sottolinea il passaggio dalle reti informative organiche alle reti informative inorganiche. L’impero romano, la Chiesa cattolica e l’URSS per elaborare informazioni e prendere decisioni facevano tutti affidamento sui cervelli umani a base di carbonio. I computer basati sul silicio che dominano la nuova rete informativa funzionano in modo radicalmente diverso. Nel bene e nel male, i chip di silicio non hanno molti dei limiti che la biochimica organica impone ai neuroni di carbonio. I chip di silicio possono creare spie che non dormono mai, finanzieri che non dimenticano mai niente e despoti che non muoiono mai. Tutto questo come cambierà la società, l’economia e la politica?
La terza e ultima parte del libro – “La politica informatica” – esamina come diversi tipi di società potrebbero affrontare le minacce e le promesse della rete di informazione inorganica. Le forme di vita basate sul carbonio come noi avranno la possibilità di capire e controllare la nuova rete di informazione? Come già detto, la storia non è deterministica e per almeno qualche altro anno noi Sapiens avremo ancora il potere di plasmare il nostro futuro.
Di conseguenza il capitolo 9 esplora i modi in cui le democrazie potrebbero affrontare la rete inorganica. Come fanno, per esempio, i politici in carne e ossa a prendere decisioni in ambito economico se il sistema finanziario è sempre più controllato dall’IA e il senso stesso del denaro dipende da algoritmi imperscrutabili? Come fanno le democrazie a mantenere un dibattito pubblico su qualsiasi argomento, sia esso la finanza o il genere, quando non possiamo più sapere se stiamo parlando con un’altra persona o con un chatbot mascherato da essere umano?
Il capitolo 10 indaga il potenziale impatto del network inorganico sui regimi totalitari. Benché i dittatori sarebbero felici di sbarazzarsi di tutti i dibattiti pubblici, loro stessi nutrono parecchi timori nei confronti dell’IA. Le autocrazie si basano sul terrore e sulla censura nei confronti di tutti gli attori sociali della propria comunità. Ma come può un dittatore umano terrorizzare un’IA, censurare i suoi insondabili processi o impedirle di prendere il potere da sola?
Infine il capitolo 11 osserva come la nuova rete di informazione potrebbe influenzare gli equilibri di potere tra società democratiche e totalitarie a livello globale. L’IA farà pendere la bilancia decisamente a favore di una delle due fazioni? Il mondo si dividerà in blocchi ostili la cui rivalità ci renderà tutti facili prede di un’IA fuori controllo? Oppure possiamo unirci in difesa dei nostri interessi comuni?»
