Abbiamo motivo di considerare il pensiero come massima manifestazione dell’essere umano. In Macchine per pensare pongo questa domanda: siamo capaci di pensare in modo adeguato alla complessità del mondo in cui stiamo oggi vivendo? Complessità politica: difficile trovare meccanismi democratici efficaci; complessità sociale: squilibri geopolitici, conflitti etnici, guerre, terrorismo; complessità ambientale: inquinamento, sfruttamento del pianeta e dell’atmosfera; complessità indotta da scienza e tecnologia: la stessa vita è manipolabile.La cultura occidentale, greco-latina, chiama filosofia il più fine esercizio dell’arte del pensare. Accade però che nel Ventesimo Secolo la filosofia, per così dire, mostra la corda. La complessità alla quale siamo di fronte rende impossibile quello sguardo d’insieme che riusciva ad avere Aristotele, ma anche San Tommaso. Ancora Newton -che era già uno scienziato nel senso moderno del termine- era allo stesso tempo alchimista e teologo. Ma oggi ormai la scienza chiede di pagare un prezzo: la specializzazione. Chi è esperto in un campo, è ignorante nell’altro. Sia scienziati che filosofi soffrono della mancanza di quella visione d’insieme che era il sale della filosofia.
La consapevolezza di questa carenza ha portato alla ricerca di rimedi. Il percorso più praticato risale a Cartesio e Leibniz: si tratta di trovare un linguaggio per descrivere il mondo, un linguaggio privo delle imperfezioni umane. Questo linguaggio è la matematica. La filosofia così finisce così per identificarsi con la matematica, con la logica formale. Russell e Frege all’inizio del Ventesimo Secolo sono campioni di questo tentativo. Nella loro scia si muove il matematico Hilbert. In Macchine per pensare mostro come la storia che porta ad immaginare e a costruire i computer nasce nell’alveo di questo filone pensiero. Il filosofo diventa matematico, e il matematico diventa informatico. Turing, cui dobbiamo la prima idea, la descrizione logica del computer, e von Neumann, cui dobbiamo il disegno del computer inteso come ‘macchina che funziona’, sono diretti seguaci di Cartesio, Leibniz, Russell, Frege e Hilbert.
Per questo parlo di ‘informatica come prosecuzione della filosofia con altri mezzi’. Lungo questo percorso, l’uomo -consapevole dei propri limiti- sceglie insomma di privilegiare, rispetto ad ogni altro possibile stile di pensiero, il pensiero matematico, logico-formale. La cui principale caratteristica è forse questa: per non perderci nella complessità, scegliamo di tener conto solo del pensiero che raggiunge la chiarezza assoluta. Ciò che intravediamo, ciò che comprendiamo in modo impreciso, sfumato, parziale, andrà scartato. Ora, non c’è niente di male nel cercare la più limpida distinzione del vero dal falso. La matematica è importante. Ma noi esseri umani consociamo il mondo non solo attraverso il pensiero calcolante. Conosciamo il mondo anche attraverso un pensiero che accetta il caos, che sonda il buio, l’ignoto. L’uomo conosce, oltre al pensiero calcolante, almeno un’altro modo di pensare: il pensiero narrativo. Possiamo anzi sostenere che ciò che non può essere calcolato, può essere narrato.
Appare qui il limite dell’informatica: è l’estrema manifestazione del pensiero calcolante. Il computer è la macchina che porta la filosofia oltre l’uomo, su un terreno sul quale l’uomo non può arrivare. Dove l’uomo non è in grado di calcolare in modo esatto, sarà in grado di calcolare una macchina.
Ognuno di noi, nel suo personale rapporto con il computer, ha fatto esperienza di questo: il computer impone una logica, una gerarchia una forma strutturata al nostro modo di pensare.
D’altro canto il computer è anche la macchina tramite la quale possiamo acquisire gradi di libertà: accedere a fonti, connettere tra di loro fonti, scrivere seguendo il nostro pensiero, spostando blocchi di testo o intervenendo su quanto già scritto, con una libertà che non ci era concessa dalla penna e dal foglio.
Il titolo del libro non a caso resta ambiguo, aperto a letture diverse, anzi opposte. I computer sono macchine per pensare in un doppio senso.
Da un lato il computer strumento che impone al regole, vincoli e subordina il pensiero ad una logica formale. Il pensiero umano è costretto, tramite il computer, in forme, in percorsi già definiti. E alla fin fine il pensiero umano è sostituito dal pensiero della macchina.
Dall’altro, macchine per pensare nel senso di ‘macchine che accompagnano l’uomo nel pensare’. Quando noi esseri umani ci affacciamo su quell’immenso caos che è il Web, cercando tramite il motore di ricerca risposte alle nostre domande, stiamo pensando in che era inaccessibile all’uomo che pensava senza l’ausilio della macchina.
Nel libro narro infatti come il computer, macchina di Turing e von Neumann, macchina nata per sostituire l’uomo, sia stato negli Anni Sessanta -nel fervido clima culturale di quegli anni- piegato da innovatori geniali ad un differente uso: appunto, accompagnare l’uomo nel pensare.
Nel libro mostro come questo modo di concepire il pensiero umano -un pensiero dove l’uomo è libero di pensare, e dove il computer incrementa questa libertà- riprende la lezione di filosofi che -è il caso di Wittgenstein- ad un certo punto si sono allontanati dalla logica formale di Russell e Frege. E sopratutto riprende la lezione di chi, come Heidegger, adotta uno sguardo fenomenologico: non l’adesione a una qualche regola, ma il continuo interrogarsi attorno a chi siamo noi esseri umani.
Da un lato l’informatica è la fuga dalla responsabilità: è la ricerca di macchine capaci di assumersi responsabilità al posto nostro. Dall’altro l’informatica del Personal Computer -nelle sue varie versioni, desktop, portatile, tablet, smartphone- è una macchina che ci aiuta ad assumere responsabilità.
Il tema dell’intelligenza artificiale è di stretta attualità: ritiene che la macchine finiranno per sostituirsi all’uomo nella capacità di pensiero?
Non possiamo escluderlo. Le ricerche in corso possono sfociare in macchine capaci di autosvilupparsi, autoregolarsi, autoriprodursi. Mi pare abbastanza miope dire che questo accadrà in un futuro più o meno remoto – e che per il momento non dobbiamo preoccuparci di questo.
Il fatto è che si trova quello che si cerca. Dagli Anni Cinquanta in poi, pur attraverso vie tecnologiche differenti, si è costantemente cercato una intelligenza capace di agire indipendentemente dall’uomo.
Oggi, siccome siamo succubi di mode, si parla meno di prima di Intelligenza Artificiale. Si tende a chiamarla Machine Learning. Ma è la stessa cosa.
Per questo in Macchine per pensare racconto la storia dell’Intelligenza Artificiale. Per tener desta l’attenzione al tema. Il fatto che si scriva Intelligenza Artificiale con le iniziali in maiuscolo tradisce l’orientamento ad affidarsi ad una intelligenza superiore. Per vari aspetti, questa umana tendenza ad affidarsi alla macchina si spiega più che con riferimenti filosofia, facendo ricorso a ragionamenti teologici. Dio arriverà dove noi poveri uomini non siamo capaci di arrivare. L’uomo ha paura di non essere all’altezza dei compiti che si trova ad affrontare e quindi si affida a macchine-Dio. Ma allo stesso tempo, la macchina intelligente, autonoma, è una creatura di alcuni uomini -disegnatori di sistemi, programmatori- che si arrogano il ruolo di Dio.
Sostengo che le macchine potranno davvero sostituirsi all’uomo. Ma non la ritengo una buona prospettiva. Le macchine ci sostituiranno nel pensare solo se noi uomini cesseremo di pensare. È una questione di responsabilità: possiamo accollarcela, o possiamo affidarla ad una macchina.
Dobbiamo porre attenzione al confine tra le macchine che sostengono l’uomo nel pensare e le macchine che sostituiscono l’uomo del pensare. Un conto è una macchina che sostituisce il medico nel fare una diagnosi, un conto è una macchina che fornisce al medico elementi per fare una diagnosi.
Ricordo che gli investimenti dedicati all’Intelligenza Artificiale sono stati enormemente superiori agli investimenti dedicati allo sviluppo di computer intesi come supporto al pensiero umano.
È una questione etica e politica, più che tecnologica. Il sistema di Intelligenza Artificiale è progettato da qualcuno. Agisce in funzione di un pensiero che non è il mio. L’Intelligenza Artificiale può magari rappresentare il pensiero delle masse – si fonda oggi sui Big Data, sulle tracce lasciate da esseri umani durante la loro vita. Mentre la macchina che accompagna l’uomo -tale è per esempio il computer con il quale sto scrivendo- non potrà mai sostituirmi. Mi accompagna nell’assumermi le mie responsabilità di cittadino.
Quale orientamento culturale ha retto lo sviluppo storico del computing?
Ho già accennato al pensiero filosofico del quale il computer è continuazione. Posso precisare, e non è una precisazione irrilevante, che si tratta di pensiero europeo, non di pensiero americano. È innanzitutto pensiero tedesco degli anni Venti e Trenta del secolo scorso. Ho detto prima che il computer è figlio della matematica di Hilbert, pensatore tedesco. Ma c’è di più. Sebbene la storia dell’informatica celebra come padri fondatori, l’ho ricordato sopra, due seguaci di Hilbert -Turing e von Neumann- il costruttore del primo computer funzionante è, a cavallo tra gli Anni Trenta e Quaranta, un giovane ingegnere tedesco, Konrad Zuse.
In Macchine per pensare racconto la storia di Zuse e della sua macchina, storia significativa e poco nota. Il governo nazista non seppe vedere l’importanza del progetto. Nel gennaio del ‘45 Zuse, a Berlino, sotto le bombe, continua a costruire la sua macchina. Costruire la macchina è per lui realizzare un sogno, tenersi lontano dalle brutture del mondo circostante.
Anche qui vediamo contrapporsi una macchina personale -il sogno di Zuse è una macchina che aiuta l’ingegnere nei suoi calcoli- contrapposta a una macchina che si impone all’uomo come controllo sociale. La macchina che si contrappone all’uomo, nella Germania nazista, è la ‘macchina Hollerith’. Hollerith è un ingegnere statunitense che all’inizio del secolo costruisce una macchina destinata a sostituire l’uomo nell’organizzare i dati emersi dai censimenti. Non è una macchina elettronica, non è in grado di svolgere calcoli complicati. Ma tramite schede perforate è in grado di trattare enormi masse di dati. Negli Anni Venti il brevetto di Hollerith è comprato da Thomas J. Watson, fondatore dell’IBM. Negli Anni Trenta il principale cliente straniero dell’IBM è il governo nazista. La rigida e capillare organizzazione dello stato e la schedatura degli ebrei sarebbero stati impossibili senza le macchine Hollerith.
Quale futuro ritiene probabile nel rapporto tra uomini e macchine?
C’è una storia che non ho avuto modo di raccontare in Macchine per pensare. Il libro era già pubblicato quando -il 16 febbraio 2017- il Parlamento Europeo vota la Risoluzione “recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica”. In pratica, è l’invito ad ogni Stato appartenente all’Unione, affinché vengano emesse norme relative alla robotica. Nel testo approvato non si parla solo di robot industriali, si parla, proprio come faccio in Macchine per pensare, di macchine che sono in un loro modo esseri viventi, destinati non solo ad imitare l’uomo e a simulare i suoi comportamenti, ma a sostituirlo. L’introduzione della
Risoluzione inizia con queste parole: “Dal mostro di Frankenstein ideato da Mary Shelley al mito classico di Pigmalione, passando per la storia del Golem di Praga e il robot di Karel Čapek, che ha coniato la parola, gli esseri umani hanno fantasticato sulla possibilità di costruire macchine intelligenti, spesso androidi con caratteristiche umane”. Nella Risoluzione si arriva quindi a proporre che i sistemi legislativi contemplino la presenza nel mondo, accanto alle ‘persona umana’, ‘persone elettroniche’.
La probabile presenza nel mondo, in un futuro forse non lontano, di ‘macchine intelligenti’, capaci di interagire da pari a pari con l’uomo, è un problema che noi esseri umani dobbiamo affrontare. Ma lo stabilire per legge diritti e doveri delle ‘persone elettroniche’ non mi pare una buona soluzione. Guardare a come saranno queste macchine, cautelarsi rispetto agli spazi di libertà potranno prendersi: tutto questo mi pare un modo di pensare elusivo.
Oltretutto, se accettiamo che la ‘persona elettronica’ abbia una propria autonomia di giudizio e una propria indipendenza di azione, allora dovremmo chiederci che diritto abbiamo noi esseri umani di stabilire leggi che limitano lo spazio di libertà di questi esseri viventi diversi da noi.
Elusivo, dicevo, perché -questo forse è il tema centrale di Macchine per pensare– penso che la presenza di queste macchine dovrebbe stimolarci a tornare a riflettere su noi stessi – e cioè a filosofare, a pensare: chi siamo noi esseri umani, quale è il nostro posto nel mondo, quali responsabilità siamo disposti ad assumerci, in prima persona, di fronte ai problemi sociali, politici ed economici che incombono. Quali responsabilità siamo disposti ad assumerci di fronte ai nostri figli e alla salute del nostro pianeta. In fondo, il computer può essere inteso come una macchina per assumersi responsabilità.
