Professor Di Caro, Lei è autore del libro Pensare ex machina. Alan Turing alla prova pubblicato per i tipi di Aracne: cosa dobbiamo ad Alan Turing?
Pensare ex machina. Alan Turing alla prova Alessandro Di CaroA questa domanda in genere si risponde che Turing è con von Neumann l’inventore del computer. Certamente questa risposta non è sbagliata; soltanto limita, e di molto, le caratteristiche innovative del pensiero di Turing. Da questa risposta manca per esempio il suo apporto alla decifrazione della macchina Enigma. Una macchina che le forze dell’Asse (nazisti e fascisti) impiegavano per criptare i messaggi che contenevano gli ordini di spostamento del loro naviglio di superficie e di quello in profondità e i relativi ordini di attacco. Si tratta della battaglia dell’Atlantico documentata in un bel film recente che reca un titolo molto suggestivo The imitation game. In realtà quel titolo è stato coniato dallo stesso Turing molto più tardi (1950). Dunque Turing non è solo un matematico o un informatico (per essere precisi non si può parlare di informatica perché questa disciplina nasce con lui) ma è anche un eroe, un grande eroe, di questa battaglia. I sistemi di decrittazione inventati da Turing in quell’occasione sono i nuclei costitutivi dei modi di decrittazione con cui oggi lottiamo contro gli innumerevoli hackers che insidiano la nostra sicurezza informatica. Ma l’importanza di Turing non risiede soltanto in questi apporti tecnici e di merito patriottico ma soprattutto nel cambiamento di paradigma filosofico che la sua opera invita a pensare. Infatti “il gioco dell’imitazione” citato dal film è il gioco che un uomo e una macchina instaurano, secondo la descrizione data da Turing in un articolo del 1950 intitolato Macchine calcolatrici e intelligenza, per imitarsi o per meglio dire per ingannare un giudice che deve tentare di scoprire chi è l’uomo e chi è la macchina. Questo è il cosiddetto test di Turing. Se il giudice non riesce a distinguere l’uomo dalla macchina significa appunto che la macchina ha superato il test. Precedentemente Turing aveva posto una domanda molto più paradossale rispetto a questo gioco “Una macchina può pensare?”. Ebbene il gioco e la domanda sono invece molto legate tra di loro. Innanzitutto bisogna precisare alcune cose evidenti ma proprio perché troppo evidenti sfuggono. Il giudice è un uomo. Dunque il riconoscimento di una intelligenza artificiale come poi sarà chiamata non può essere riconosciuta da una macchina ma da un uomo.
Questo ci fa chiarezza su alcuni punti. Si dice che nel prossimo futuro l’intelligenza artificiale supererà quella umana. E’ chiaro però che questo superamento non può essere riconosciuto da nessun altro che da una mente umana. Questa precisazione sembra banale, invece è molto importante perché alcuni autori (ad esempio Ray Kurzweil) ritengono che questo superamento sarà così fondamentale e innovativo che dovrà essere considerato come una Singolarità, cioè come un inizio di qualcosa di cui non esiste alcun esempio nel passato.
In secondo luogo la competizione ingannevole per dir così tra l’uomo e la macchina nel test di Turing non è una cosa di cui nel passato non abbiamo avuto alcuna notizia.
La macchina è sempre stata una forma di competizione tra l’abilità dell’uomo e quella di uno strumento qualsiasi. Se ricordiamo la straordinaria sequenza di 2001 Odissea nello spazio che narra, come ogni buon film dovrebbe fare, con immagini rapidissime la storia dell’uomo, per cui un osso di una belva uccisa (strumento, macchina) diventa dopo molti anni un astronave e un computer pensante, dobbiamo pensare che la macchina ha sempre accompagnato, come l’ombra accompagna il sole, qualsiasi impresa umana. La cosa paradossale è il fatto sentimentale che macchina e macchinico o meccanico sono sempre stati caricati di valore negativo.
Dunque l’Intelligenza Artificiale non è qualcosa che appartiene solo alla macchina. E’ qualcosa che fa parte dell’attività dell’uomo. Dobbiamo secondo me pensare all’Intelligenza Artificiale come un tempo gli antropologi più moderni ed evoluti pensavano alla mentalità primitiva o selvaggia. I primi antropologi (Frazer per esempio) sprecavano termini negativi e riduttivi per descrivere i miti, i riti le abitudini dei popoli non civilizzati. Con condiscendenza spiegavano i gesti, il linguaggio, le abitudini come oggetti infantili , primitivi, senza razionalità. Gli antropologi moderni (tra tutti Lévi-Strauss) invece si sono accorti che quella mentalità selvaggia, primitiva, rappresenta il nucleo più profondo della stessa nostra mentalità di moderni. Anzi l’approfondimento della mentalità selvaggia può essere un utile strumento per capire la nostra stessa mentalità.
Bisognerebbe guardare all’Intelligenza Artificiale in questa maniera. Non è qualcosa di “Altro” rispetto alla nostra intelligenza. E’ la nostra stessa intelligenza definita chiaramente in una sua parte costitutiva. Questo atteggiamento può essere messo in conto con altre certezze che le scienze neurologiche ci dicono. Il cervelletto ad esempio si comporta come una macchina. La somma dei neuroni di questa macchina è circa il 70% rispetto al restante 30% della corteccia cerebrale dove risiederebbe l’autocoscienza umana (il condizionale è d’obbligo perché non si sa bene in quale luogo delle mappe della corteccia risieda) Lo stesso DNA ha un funzionamento macchinico. Mi rendo conto che questo atteggiamento comporta una forma di capovolgimento dei nostri valori, prima fra tutti il punto d’onore della libertà e del libero arbitrio. Tuttavia mi sembra un atteggiamento meno ingenuo rispetto a quello di attribuire una coscienza macchinica e quindi “Altra” “aliena” alle macchine, ai robot, con gli inevitabili terrori suscitati e magistralmente impersonati ancora una volta da Hal 9000 il computer assassino di 2001 Odissea nello spazio.

L’Intelligenza Artificiale è la scommessa dei nostri giorni: a che punto siamo nella ricerca?
Con questo siamo passati alla risposta della seconda domanda. Anche qui sembra che l’Intelligenza Artificiale sia qualcosa che avvenga in un altro mondo, estraneo al nostro. Mentre ne abbiamo coscienza tutti i giorni. Chiunque digiti la risposta ad un suo amico nel suo mobile sta facendo un piccolo test di Turing (il correttore). Chiunque si trovi ad entrare in un sito di Internet nuovo viene sottoposto a piccole angherie, deve riconoscere e riscrivere lettere camuffate. Ebbene questo test si chiama appunto CAPTCHA “completely automated public Turing test to tell computers and humans apart” (Test di Turing pubblico e completamente automatico per distinguere computer ed umani). Come dire: noi viviamo con l’Intelligenza Artificiale tutti i giorni eppure ci chiediamo a quale punto siamo arrivati. E’ notizia dell’altro giorno l’iniziativa di Bill Gates di far pagare contributi ai robot o alle case produttrici di robot, perché appunto questi producono valore. L’intelligenza artificiale è una cosa così prossima che si dovrà discutere di essa in economia, in politica, in programmazione. L’automobile che si guida da sola diventerà una realtà molto prossima che fatalmente costringerà le case automobilistiche a cambiare la loro programmazione. Ma non soltanto delle case automobilistiche, ma anche del sistema del traffico urbano e interurbano. Le prestazioni migliori nelle sale chirurgiche dei nostri ospedali sono fatte da robot. Il problema non è tanto quello del punto di arrivo dell’Intelligenza Artificiale ma del cambiamento epocale che subiranno i nostri mestieri, le nostre occupazioni, i nostri insegnamenti. Io sono un insegnante universitario e mi rendo conto di come è difficile riuscire a penetrare nella diffidenza che la gente comune prova per l’intelligenza artificiale. Da dieci anni io mi sono battuto perché nella mia facoltà e poi nell’intera mia università si facesse l’e-learning. Non vi dico che tipo di risposte ho dovuto subire. Un mio collega mi rispose che lui era “ideologicamente” contrario ad Internet. Nella sua spessa ignoranza confondeva internet con il capitalismo.Finalmente per merito del mio Rettore da due anni l’e-learning è diventato nella mia università obbligatorio (si parla di blended). Parlo di questo passato per dire come l’intelligenza Artificiale è anche questo: è pratica linguistica è mestiere da implementare, sono abitudini a capire i linguaggi informatici.Ho sicuramente un pò di nostalgia di quei momenti pioneristici di dieci anni fa quando con un mio amico ingegnere informatico (a dire la verità non era ancora laureato) avevamo costruito una piattaforma sperimentale di e-learning (che tra l’altro funzionava benissimo) con 2000 righe del linguaggio perl (il software ha un nome: sotto la tutela di Linux si chiama Amethist). Un altro collega della mia università insegna la pratica del coding (cioè l’apprendistato per capire meglio i linguaggi informatici) presso le scuole italiane e questo insegnamento è diretto e incrementato anche dalla RAI, vivaddio.
Un altro punto da mettere in evidenza. I sociologi della comunicazione da tempo fanno riferimento al detto di McLuhan che il medium è il messaggio, intendendo con questo che l’innovazione comunicativa trasforma anche il messaggio. Ora apparentemente l’avvento di Internet non ha cambiato molto il livello dei messaggi. Un’occhiata a Facebook ci presenta il paesaggio meschino delle riunioni di condominio o di quelle dei bar. Questa imperturbabilità del messaggio, però, è solo un’illusione. La potenza dell’innovazione è tale che bisogna scavare molto più in profondità rispetto alla superficie dei social network. Siamo abituati a pensare ai luoghi di studio come punti ben localizzati nello spazio e “nel territorio” con specificità legate – in qualche misura – proprio a questi due fattori. L’avvento dell’ e-learning sta cambiando radicalmente questo approccio, nel senso che la dislocazione geografica vale ancora per i contenuti, non vale più per i fruitori. Nel senso che lo studente di Milano e di Roma non si riconoscerà più nella community della sua Università, dal momento che avrà occasione di parlare con la community di Università lontanissime. È notizia recente che le Università americane fondandosi proprio su l’e-learning si sono consorziate. Edx, Coursera, Udacity sono nomi di altrettanti consorzi di Università (il primo Edx raggruppa il M.I.T., Harvard, Berkeley, etc.) americane. Si consorziano perché mettono in comune le loro specificità. Ci vuole poco per capire che questa strada non è opzionale o alternativa rispetto ai metodi di studio attualmente usati. Quando il sistema di insegnamento avrà valore non inferiore alla frequenza effettiva, l’afflusso di studenti on-line premierà di gran lunga questo modo di consorziare queste attività di insegnamento. Ci saranno effetti concorrenziali decisivi rispetto alle altre università isolate o lontane. E questo non si svilupperà solo nell’universo americano ma avrà caratteristiche mondiali. Uno studente italiano che potrà frequentare il M.I.T. on line sarà molto più motivato rispetto allo studente italiano che sceglie una università italiana. La concorrenza, certo, ci sarà ancora ma si muoverà attraverso blocchi considerevoli di aggregazioni. Ad esempio i tre consorzi nominati sopra fanno pubblicità all’insegnamento del machine learning che evidentemente ognuno tratta rispettando la specificità propria del consorzio.

Si tratta molto dei rischi sottesi all’avvento di computer pensanti: è una paura motivata?
La paura che può ispirare l’idea della “macchina pensante” è inevitabile, ma è anche decisamente “superstiziosa” in qualche maniera. Nel senso che una macchina pensante è subito immaginata come qualcosa di “superiore” o divino o magico. Non abbiamo affatto paura delle idee di Einstein; eppure la sua teoria della relatività ristretta e generale ha mutato radicalmente il nostro modo di pensare. Abbiamo paura delle innovazioni della scienza per esempio, la creazione di nuovi meccanismi biologici (cellule staminali), la sequenza del genoma per le applicazioni che queste innovazioni potranno permettere, non tanto per l’innovazione in sé. Invece si ha paura dell’intelligenza artificiale non per le innovazioni che permette di effettuare, tutte, in qualche misura accettabili (ne abbiamo visti alcuni esempi) ma perché pone il problema dell’intelligenza e dell’autocoscienza. Questa paura significa due cose. Che non sappiamo bene ancora cosa sia l’intelligenza né, giova ripeterlo, cosa sia l’autocoscienza. La paura della macchina pensante è, in primo luogo, paura del pensiero che, se considerato possesso dell’uomo non fa paura, se invece viene dislocato “fuori” dell’uomo mette terrore.
Se io dicessi che non bisogna avere paura dell’intelligenza artificiale ma invece, molta, dell’intelligenza umana, la mia frase avrebbe un valore “passatista” una specie di lamento di un vecchio laudator temporis acti che non mette sicuramente paura ma semmai compassione. L’autocoscienza della macchina sarà possibile? Se ancora non sappiamo come funziona quella umana come potremmo costruire l’autocoscienza “macchinica”? Certo qualcosa dell’intelligenza umana non è del tutto sconosciuto. Conosciamo il valore della memoria, quello dell’imitazione (i neuroni specchio) anche se l’intelligenza non è né memoria né imitazione. Da questo punto di vista il progresso della macchina “pensante” c’è stato si chiama rete neurale ed è un software informatico che presiede a quegli esperimenti didattici della machine learning che abbiamo visto all’opera nei consorzi americani. Però, riprendiamo, l’intelligenza non è né la memoria né l’imitazione. Probabilmente l’intelligenza è fondata sulla specificità di quello che chiamiamo “sé, io” e da questo punto di vista ancora non esiste un “io” meccanico. Ma c’è da dire anche un altra cosa che sfugge alle paure primordiali della “macchina pensante”. Da un punto di vista della storia del costume il possesso di smartphone è diventato nelle abitudini sociali qualcosa di assolutamente importante. Senza il cellulare (mobile all’inglese) ci si sente persi, proprio come se avessimo perso la nostra personale memoria o la nostra identità. In un certo senso nel mobile noi ci identifichiamo. Moltissime persone ritornano a casa a riprendersi il cellulare come se dovessero riprendersi la testa o la memoria. C’è dunque una sorta di familiarità, di prossimità, tra il nostro “io” e quella macchina che è il mobile. Non esiste una “paura” per il cellulare. Turing si era avvicinato molto a questa idea nel saggio già citato che abbiamo chiamato The imitation game quando dice che c’è “una difficoltà che si stabilisca tra l’uomo e la macchina un rapporto di amicizia simile a quello tra bianco e bianco o tra nero e nero”. Cioè Turing insiste molto su questa solidarietà e prossimità anche se ritiene che ai suoi tempi non ve ne era alcun esempio. Ebbene questo piccolo test di Turing oggi è stato superato. L’esempio è il cellulare ma può essere anche l’affetto per il proprio computer o il proprio sistema operativo (ricordate il bel film Her?). Sempre in quell’articolo Turing si spinge anche a pensare che la macchina dovrebbe essere educata come si educa un bambino. In definitiva non possiamo aver paura dell’intelligenza artificiale proprio perché l’abbiamo fabbricata noi. In un certo senso per riprendere Vico (verum, factum) è più vera dell’altra intelligenza quella umana il cui artefice (homo sapiens, linguaggio) non sappiamo ancora Chi sia. Stiamo entrando piano piano con le scoperte biologiche e neurologiche in questo itinerario sconosciuto: quello del creatore di noi stessi. E qui naturalmente gli orizzonti diventano molto meta-fisici. In un certo senso l’intelligenza artificiale è il nostro ridotto di fronte all’immenso oceano sconosciuto che è l’universo e che siamo noi stessi. Un ridotto assolutamente sicuro e completamente dominabile.

Cosa comporterà la soluzione del test di Turing?
E con questo arriviamo alla risposta dell’ultima domanda. In un certo senso questo test è già stato superato. Ricordiamo Deep Blu che ha vinto il campione mondiale di scacchi Kasparov; ricordiamo Watson dell’IBM che ha vinto più volte il gioco a premi nord-americano Jeopardi! E gli organizzatori non hanno potuto opporre nessuna riserva a pagare il premio. Recentemente sempre con una approfondimento del machine learning un computer ha battuto, a poker. vari umani. Tuttavia non sono questi fatti che hanno cambiato le nostre abitudini. Nessuno si sogna di abbandonare il gioco degli scacchi perché una macchina ha vinto Kasparov. I concorrenti di Jeopardi! continuano ad iscriversi al gioco, i giocatori di poker continuano a frequentare i tavoli verdi. Anzi come mi diceva una mia collega insegnante di Fondamenti di intelligenza artificiale all’Università di Bologna c’è un prima e un dopo: un singolare atteggiamento. Prima di Deep Blue pensare ad una vittoria agli scacchi di un computer sul campione mondiale sembrava una specie di miracolo; dopo, una situazione quasi normale. E questo atteggiamento poco spiegabile si ha e si avrà per tutti i vari superamenti che ci sono (Jeopardi!, poker) e che ancora ci saranno. Questo ci dice che la paura della macchina, in realtà non c’è. Tuttavia dovremmo pensare ad un altro superamento del test di Turing questo poco meditato ma sicuramente più inquietante di quelli esempi fatti sopra. La maggior parte delle imprese umane sono delle “macchine” che in parte falliscono. Pensate alla politica, all’economia, alla ricerca di lavoro. Un’ intelligente applicazione di machine learning, potrebbe razionalizzare tutti questi settori. Il recente film The_startup su un software, realmente esistente, sulla ricerca di lavoro senza raccomandazioni e favoritismi potrebbe essere un esempio. Ma la domanda se questa razionalizzazione potrebbe essere estesa a questi settori della vita umana sopraddetti, cela il fatto che gli umani non ammetteranno mai di dover azzerare i loro molti vizi e le loro poche virtù con la “livella” della macchina. Ancora una volta: dobbiamo avere paura dell’intelligenza umana, non di quella artificiale.

Style switcher RESET
Body styles
Color scheme
Background pattern