Prof.ssa Marta Bertolaso, Lei ha curato con Giovanni Lo Storto l’edizione del libro Etica digitale. Verità, responsabilità e fiducia nell’era delle macchine intelligenti pubblicato da Luiss University Press: a quali rischi ci espongono le tecnologie dell’intelligenza artificiale?I rischi sono molti ed eterogenei, il vero pericolo è però una concezione di queste tecnologie erronea che ne evidenzi le criticità superficiali, lasciando in ombra i cambiamenti strutturali che ogni tecnologia, e le tecnologie contemporanee in particolare, comportano.
Con criticità superficiali intendo questioni di privacy generica, o vaghe accuse di “perdita di contatto con gli altri”, mentre sappiamo che spesso le tecnologie consentono un contatto dove altrimenti questo non ci sarebbe stato. Dobbiamo invece concentrarci sugli impatti profondi legati al digitale.
Questi cambiamenti si rilevano su vari livelli, per esempio a livello ontogenetico, i nostri bambini crescono in un ambiente del tutto diverso e con stimoli inimmaginabili per chi è nato prima dell’avvento delle tecnologie digitali. È ancora presto per vederne i pieni effetti dato che i veri nativi digitali sono al momento ancora degli infanti o poco più, ma gli effetti non tarderanno a manifestarsi. A livello collettivo la tecnologia digitale e l’intelligenza artificiale hanno impattato su tutti i business model tradizionali. Pensiamo al giornalismo, oggi è fondamentale per un giornalista riuscire ad inserire le giuste parole chiave per poter risultare competitivo nei motori di ricerca, è importante riuscire a scrivere un titolo accattivante, talvolta al limite del clic-baiting in modo da incrementare le visualizzazioni, tutto ciò cambia totalmente il business model dell’editoria e il tipo di lavoro del giornalista. Questo stesso schema è riscontrabile in molti altri ambiti e tutti questi esempi rendono chiaro che se questi cambiamenti non vengono indagati, interrogati e gestiti, procederanno in maniera autonoma e irreversibile.
Quello che serve è una riflessione collettiva sulla peculiare mediazione che queste tecnologie mettono in atto. Come ogni media, le tecnologie digitali costituiscono un’interfaccia fra l’individuo e la realtà, rappresentando quest’ultima secondo modalità particolari. Basti pensare ai banali filtri per le foto, che modificano la percezione di se, ai percorsi di map che influenzano la nostra percezione dello spazio e alle altre innumerevoli mediazioni digitali che plasmano le relazioni fra soggetti.
Certo, il cambiamento non è di per sé un male, ma è compito degli studiosi, degli addetti ai lavori e della politica la comprensione e la presa in carico delle conseguenze delle nuove tecnologie.
Per rispondere concisamente alla domanda, il vero rischio è il non sapere cosa accadrà e il perdere di vista i processi in corso di svolgimento.
In che modo l’era digitale rischia di acuire le disuguaglianze sociali?
Il rischio di peggiorare le diseguaglianze sociali ricade precisamente fra quei rischi derivanti dai cambiamenti profondi cui abbiamo fatto appello nella precedente domanda.
Il digitale non è qualcosa di immateriale, anzi è estremamente fisico. Al livello industriale, si compone di due elementi: infrastrutture e competenze.
Le infrastrutture sono appunto i grandi server, la possibilità di usufruire di una connettività diffusa da parte della popolazione, le macchine legate al cloud computing, insomma tutto ciò di fisico che consente di erogare quei servizi che tutti usiamo, dall’archiviazione dati, ai motori di ricerca.
Le competenze sono invece competenze specifiche derivanti principalmente dalle lauree STEM (Science, Technology, Engineering and Mathematics). Oggi la maggior parte delle grandi aziende si avvale dell’intelligenza artificiale, ciò vuol dire che i laureati in questi ambiti sono fra i più appetibili all’interno di qualsiasi contesto lavorativo. Tra l’altro, sempre in misura minore, dato che il rapporto fra introiti e dipendenti vede il primo fattore aumentare e il secondo scendere.
Si tratta chiaramente di un problema di redistribuzione che se ora appare complesso, fra qualche anno sarà drammatico.
Le infrastrutture necessarie per poter sfruttare il potenziale dei dati sono in mano a poche grandi aziende, le quali sono interessate per lo più ad assumere un numero limitato di profili specializzati.
I restanti attori del panorama rischiano di essere schiacciati, per via dell’effetto accentratore.
Potrebbe interessarti anche...
È necessario che queste tecnologie vengano seriamente messe al servizio degli esseri umani, non semplicemente sotto forma di servizi di piattaforme multinazionali, predatorie verso dati sensibili ed economie locali. È necessario reinvestire nelle persone, per servizi di base quali istruzione e sanità, in generale dare a tutti sicurezza, in modo che possano vivere, svilupparsi, avere un futuro e pensare a come lasciare una società migliore ai propri figli.
In ciò la multidisciplinarietà non tarderà a manifestare la sua importanza. Le materie umanistiche nella loro recente declinazione di digital humanities sono essenziali per impedire l’eccessiva specializzazione e tecnicizzazione degli ambiti di ricerca delle nostre università. Inoltre, queste discipline costituiscono un esercizio di equilibrio contro la trasformazione dei nostri tecnici in elementi alienati della catena di montaggio tecnologica.
Quale equilibrio è dunque necessario tra tecnologia, essere umano e sostenibilità?
Questa è una tematica che mi sta particolarmente a cuore, ma dobbiamo distinguere due accezioni di sostenibilità.
La più ovvia, la sostenibilità ambientale o ecologica. Sebbene ovviamente i nostri dispositivi non vadano a benzina, ciò non vuol dire che siano ad impatto zero, anzi. L’incremento nella domanda di energia da parte dell’industria del digitale è preoccupante. In particolare l’addestramento di grandi reti neurali, o modelli di IA che dir si voglia, i server per lo storage dei dati, gli alveari di schede per il calcolo in cloud hanno un carbon footprint impressionante. Il punto non è avere auto elettriche o monopattini, il punto è la quantità di energia che consumiamo. Dobbiamo ridurre questo quantitativo, trovare fonti alternative e concretamente sostenibili, ridurre gli sprechi e ottimizzare gli utilizzi.
Ma non c’è solo sostenibilità ecologica, esiste anche una sostenibilità che definirei sociale o ecosistemica. Le tecnologie possono metterci in contatto, produrre ricchezza e avere moltissimi effetti benefici per gli esseri umani, ma possono anche incrementare i ritmi, rendere un ambiente lavorativo malsano, incentivare pratiche antisociali. Parliamo di cyberbullismo, di fenomeni di burnout sul posto di lavoro, delle condizioni dei magazzinieri degli store online e dei rider delle compagnie di food delivery.
Queste sono conseguenze di tecnologie non messe al servizio dell’essere umano, ma viceversa, dell’umano messo al servizio della tecnologia, dei suoi ritmi e dei suoi metodi.
Questi due tipi di sostenibilità sono ovviamente intrecciate e danno forma a problemi complessi la cui risoluzione impegnerà l’umanità per il prossimo futuro.
Quali valori etici devono ispirare lo sviluppo tecnologico dell’umanità?
Mi permetto qui di riformulare i termini della domanda. L’etica in questo caso non dev’essere un punto di arrivo, un pacchetto confezionato di massime da poter apporre ai nostri traguardi. È necessario concepire l’Etica come condizione permanente di approccio al reale.
L’impostazione Etica deve stare a monte della riflessione, non è possibile attribuire valori etici a tecnologie che hanno per obiettivo l’asservimento dell’essere umano e la sua sussunzione come mero consumatore. È invece possibile e auspicabile avere una visione etica a priori, in fase di progettazione.
L’Etica in questo caso è qualcosa di più simile ad una concezione generale mediata da una riflessione sul contemporaneo. Certamente possiamo dare nomi agli obiettivi di questo approccio: uguaglianza, pace, assicurazione di una vita dignitosa per ogni essere vivente, possibilità di crescere in un ambiente sano, di essere educati e assistiti, di avere un futuro, ma tutto ciò è vuota chiacchiera se resta al livello terminologico.
Bisogna guardare in faccia le tecnologie e il sistema di produzione e redistribuzione della ricchezza e chiedersi come ottenere tutto ciò.
In questa seconda veste, l’Etica è difficile. Non si tratta di scelte estemporanee, di discernere il bene e il male in situazioni precise, ma di apprendere riflessivamente ciò che ci circonda, cercando di comprendere gli effetti dei nostri interventi all’interno di un ecosistema complesso. Sarà essenziale per l’etica saper dare orientamenti precisi per la produzione e la distribuzione delle tecnologie, nonché fornire riferimenti per poter ripensare il ruolo della tecnica dal e nel bene comune. In un mondo in cui siamo tutti già sempre coinvolti, non solo nell’uso, ma prima ancora, nell’orientamento alla produzione di ciò che useremo, o che ci userà, avere cura dell’ecosistema tecnologico è un dovere cui nessun essere umano potrà sottrarsi.
Marta Bertolaso è professoressa di Filosofia della scienza e sviluppo umano presso l’Università Campus Bio-Medico di Roma e Adjunct Professor presso l’Università di Bergen
