“Ho deciso di portare questa boccetta con dentro delle conchiglie. E’ un semplice ricordo di un anno trascorso in Emilia Romagna in terza media. E’ stato un anno piacevole, in cui ho conosciuto nuove persone e un ambiente nuovo. Una persona con cui avevo instaurato una bella amicizia mi ha lasciato questo ricordo raccogliendo semplicemente delle conchiglie dalla spiaggia del paese dove abitavo dicendomi “Le terrai sul comodino e penserai a me ogni tanto”. Un gesto d’affetto che ho pensato di condividere”.
Semplicità, bontà e verità sono le caratteristiche che, secondo Tolstoj, dovrebbero definire la grandezza. E la grandezza può rivelarsi anche nelle cose piccole, come quella raccontata da M. (classe quinta).
“Leggo una parte di Orgoglio e pregiudizio di Jane Austen: Più conosco il mondo, più ne sono delusa, ed ogni giorno di più viene confermata la mia opinione sulla incoerenza del carattere umano, e sul poco affidamento che si può fare sulle apparenze, siano esse di merito o di intelligenza. Ho scelto questa frase perché purtroppo o per fortuna sono una persona che vede sempre il buono sia nelle persone che nelle cose. Questo mi porta a creare un mondo a parte tutto mio. Me lo dicono spesso i miei genitori e le persone che mi conoscono bene e mi mettono in guardia perché così facendo mi faccio anche un po’ del male perché mi do sempre le colpe di tutto per non voler darle alle altre persone e non voler vedere i loro errori”.
Questa la gemma di S. (classe quarta). Penso che abbia messo in luce un aspetto sul quale mi è capitato spesso sia di discutere con altri sia di riflettere per conto mio: quale il confine tra un approccio positivo e ottimista alla realtà e agli altri e un approccio ingenuamente innocente che ti espone a batoste e sensi di colpa? Forse la citazione della Austen scelta da S. offre una pista di approfondimento: andare oltre le apparenze, farvi poco affidamento e conoscere l’altro prima di gettarvisi a capofitto, prima di credere a una connaturata bontà e spontanea gentilezza. Lo definirei un sano principio di cautela.
Mi sono ripromesso di affrontare, nelle classi quinte, il tema dell’intelligenza artificiale. Non so se ce la farò. Intanto pubblico un articolo molto interessante di Francesco D’Isa su questioni di etica generale applicata a tale argomento. Questa la fonte.
“Se ogni apocalisse ha il suo immaginario, l’allegoria contemporanea ha le fattezze di due cigni neri. Uno è intinto nel petrolio e barcolla in un lago in secca; l’altro ha i contorni diffratti e cangianti del sogno di un algoritmo. “Cigno nero”, infatti, è un termine coniato da Nassim Nicholas Taleb per indicare un evento di grande impatto, difficile da prevedere e molto raro, che col solo accadere rivoluziona la realtà abituale – come l’idea che tutti i cigni sono bianchi. La caduta di un gigantesco asteroide, un’invasione aliena o la scoperta del fuoco sono tutti esempi di cigni neri; ognuno di essi è una piccola apocalisse, perché sebbene non se ne possa prevedere né il volto né la data, sappiamo che avverrà. Con un po’ di cautela però, è possibile azzardarne la provenienza: nella precedente allegoria, i due cigni neri della contemporaneità sono il cambiamento climatico e l’avvento dell’intelligenza artificiale – ed è di quest’ultimo che scrivo. Non azzardo una cronologia dell’avvento, la cui origine si potrebbe identificare con l’invenzione del calcolatore di Pascal o persino con l’arte combinatoria di Lullo o gli automata di Erone di Alessandria. Per limitarsi al passato prossimo, gli ultimi sigilli infranti sono le vittorie delle IA al gioco del Go e la nascita dei deep fake, dei contenuti multimediali falsi ma credibili, che dalla pornografia (primo laboratorio di molte innovazioni tecnologiche) sono sfociati nella politica e nel marketing. Un evento di minore importanza, ma senza dubbio di grande impatto nell’immaginario, è stato il primo contatto con l’interiorità delle intelligenze artificiali grazie ai deep dream. Si tratta di immagini surreali ottenute usando in maniera creativa l’output dell’algoritmo che identifica gli oggetti nelle fotografie – il risultato è il secondo cigno dell’allegoria, una sottile crepa nella scatola nera delle IA, che inocula il sospetto che gli androidi sognino le nostre stesse pecore. Non è possibile conoscere in anticipo la propria prole, ma è sufficiente poterla generare per porsi importanti questioni etiche: i nostri figli saranno buoni o cattivi? Felici o infelici? Migliori o peggiori di noi? È un bene o un male metterli al mondo? Le stesse domande si pongono anche per le IA, e per quanto suonino sempliciotte sono un buon punto di partenza.
Proverò dunque a usare le seguenti categorie: con l’etichetta di buone o cattive intendo il caso in cui le IA abbiano funzioni costruttive o distruttive per il benessere dell’umanità. Felici o infelici sono due etichette fluide, con cui indico la condizione predominante del vissuto delle IA. Entrambe glissano su un punto di estrema importanza, assimilabile al cosiddetto hard problem della coscienza, nella terminologia di David Chalmers: le IA esperiscono o esperiranno degli stati coscienti (i cosiddetti qualia)? È una questione di difficile soluzione, non solo per loro, ma anche per le piante, gli animali e gli esseri umani – o persino i sassi. Gli unici stati di coscienza che conosci con certezza, infatti, sono i tuoi. Nulla ti assicura che non vivi in un mondo di “zombie filosofici”, in cui sei l’unica persona dotata di coscienza. Chi scrive si dichiara cosciente, ma tu che leggi come puoi credermi, se non sulla parola? Se ti sembra un ozioso scetticismo, prova a considerare cosa implichi ignorarlo. Come si individua la coscienza e i suoi confini? Affidarsi a un avanzato test di Turing legato al comportamento non esclude che possa esistere un robot privo di essa. Viene in mente il test Voight-Kampff di Blade Runner; una serie di domande e indagini fisico-comportamentali in grado di stabilire chi è un androide e chi un umano. Il test però non dice se gli androidi hanno un vissuto reale, ed escludere la possibilità che ne siano privi ci espone a non poche contraddizioni, ben esemplificate dall’esperimento mentale della stanza cinese di Searle. Scartare a priori l’ipotesi di IA prive di coscienza, inoltre, porta facilmente al panpsichismo, la teoria per cui tutto è conscio, da un termostato a un essere umano, seppure in differenti gradazioni. Una conclusione non priva di problemi, come ad esempio la difficoltà di capire come varie micro-coscienze si combinano e integrano formando una coscienza più grande. Nel nostro caso però, possiamo ignorare l’ipotesi in cui le IA non abbiano qualia, per il semplice fatto che non pone alcun dilemma etico.
Infine, per migliori intendo delle IA più intelligenti e potenti di noi, mentre per peggiori delle IA simili a quelle attuali; molto capaci ma globalmente non al nostro livello. Si tratta di categorie soggettive, basate su idee più o meno condivise ma passibili di molte sfumature. Per esempio, una calcolatrice è più brava di te a fare i conti, ma non per questo la consideri migliore – ma queste e altre contraddizioni emergeranno in seguito, dunque non mi attardo in altre premesse. E allora, come saranno le intelligenze artificiali?
1) Buone, felici e migliori di noi. È il migliore dei casi, l’utopia in cui partoriamo degli angeli che ci accudiscono e proteggono dal male. Sembrerebbe una buona notizia, ma questo paradiso terrestre ci riporta a uno dei grandi quesiti dell’umanità: cos’è la felicità? La vita in veste di neonati perfetti potrebbe consistere nell’ininterrotta soddisfazione dei nostri desideri, in un godimento perpetuo che non lascia spazio al dolore. Oppure nell’opposto, la cessazione del desiderio e la perdita dell’ego propugnata dai mistici. La felicità che ci garantiranno queste IA sarà un sogno oppiaceo senza effetti collaterali? Un orgasmo ininterrotto? Il soma vedico, l’illuminazione buddista o cos’altro? Quel che è certo è che lo decideranno loro, e se saranno davvero così buone e brave è probabile che indovineranno. Ogni utopia, però, lascia spazio all’inquietudine; se ci sbagliassimo a tal punto sul nostro conto da non accorgerci che è la morte l’apice del bene? In questo caso le IA, più sveglie di noi, ci distruggeranno come nel caso 5) e 6), senza interrogarci in merito alla nostra idea di felicità.
2) Buone, infelici e migliori di noi. Come sopra, ma con la disturbante consapevolezza che mentre i nostri figli (anzi, schiavi) operano per il nostro bene, ignorano il loro. Al primo caso si aggiunge dunque la domanda: siamo disposti a entrare in un paradiso che condanna altri all’inferno?
3) Buone, felici e peggiori di noi. In questo caso si suppone che le IA, per quanto potenti, non saranno in grado di decidere per noi. L’umanità però saprà usarle per il meglio, potenziando le proprie capacità al fine di migliorare la qualità globale della vita. È l’utopia moderata del reddito universale e della fine del lavoro. Sebbene sia meno fantascientifico di 1), questo caso presenta comunque degli interrogativi in merito all’influenza del lavoro sulla felicità umana. Pur senza cedere alla retorica capitalista della produzione a ogni costo, va considerato che non è mai esistita un’epoca in cui la maggioranza o la totalità degli uomini non sia stata costretta a lavorare (in senso ampio) per sopravvivere. Non possiamo prevedere sensatamente gli effetti sulla felicità di un mondo in cui nessuno lavora e in cui in ogni ambito delle servizievoli IA sono più brave di noi, perché non abbiamo alcun precedente su cui basarci. È però lecito supporre che questo scenario non accadrà all’improvviso, ma che presenti gradazioni che lo avvicineranno e intersecheranno con i casi (7) e (8). Le variabili in gioco sono troppe: la velocità dello sviluppo tecnologico, la sua capillarità, realizzabilità e applicazione. Cui si aggiunge l’organizzazione sociale e il contesto storico in cui accadrà il cigno nero.
4) Buone, infelici e peggiori di noi. Come sopra, col solito prezzo di far scontare ad altri la nostra aumentata felicità. Senza contare – ma questo vale per ogni scenario – che potremmo non scoprire mai cosa provano i nostri figli.
5) Cattive, felici e migliori di noi. Questa distopia ha varie forme, dal robot malvagio che gode nello schiavizzare, torturare o annientare l’umanità, a quello che ci stermina per semplice noncuranza fino alla superintelligenza illuminata che ci reputa alla stregua di un virus, per via delle enormi sofferenze che causiamo alla quasi totalità delle forme di vita del pianeta. L’ipotesi più curiosa in quest’ambito è forse il “paradosso delle graffette” proposto da Nick Bostrom. Il filosofo immagina un’IA programmata per assemblare delle banali graffette a partire da un certo numero di materie prime. Questa intelligenza potrebbe essere abbastanza potente da piegare l’intero pianeta al suo scopo, ma non da cambiarlo, e, nel giro di qualche tempo, trasformerebbe ogni risorsa del pianeta – comprese le forme di vita che ospita – in materie prime necessarie all’assemblaggio di graffette. Un aspetto curioso di questa ipotesi è che si potrebbe facilmente identificare la stessa umanità con questo mostro ecologico: siamo programmati per soddisfare i nostri desideri primordiali, come mantenerci e moltiplicarci, e consumiamo il pianeta senza porre mai in dubbio i nostri scopi.
6) Cattive, infelici e migliori di noi. Come sopra, con l’aggravante che neanche gli aguzzini sarebbero felici. Non esito a definirlo uno dei peggiori tra i mondi possibili.
7) Cattive, felici e peggiori di noi. Questo caso speculare a 3) deresponsabilizza le IA per spostare l’attenzione sul pessimo uso che potremmo farne. Ho già parlato dei deep fake ed è noto come l’analisi dei big data abbia in parte pilotato le ultime elezioni americane. Delle IA utilizzate per spingere gli interessi contingenti di pochi individui potrebbero risultare disastrose sul lungo periodo. Un piccolo ma interessante esempio contemporaneo è l’effetto degli algoritmi utilizzati per rintracciare e proporre dei contenuti che “ci potrebbero interessare” sui casi di depressi gravi. Proporre dei contenuti sempre più violenti o disturbanti, infatti, potrebbe istigare o coadiuvare il suicidio dei soggetti già depressi.
8) Cattive, infelici e peggiori di noi. Anche in questo caso, avremmo tutti gli svantaggi del caso precedente con in più il danno di altro dolore.
E dunque, per tornare alla domanda iniziale, è un bene o un male mettere al mondo delle IA? L’esposizione di questi otto scenari non chiarisce molto le idee, ma rende quasi letterale il parallelo coi figli. Trovare una motivazione etica per qualunque forma di creazione, infatti, sia che si tratti di vita che di tecnologia, è più difficile del previsto. L’ignoranza del futuro, la molteplicità degli utilizzi e l’incapacità di identificare il bene sono dei limiti troppo grandi. Ma la domanda potrebbe essere inutile, se anche noi siamo costretti a seguire l’imperativo di un “programma” che ci spinge inevitabilmente a creare qualcosa di nuovo, che siano figli, utensili o entrambe le cose. Non è facile, infatti, individuare il magnete alla base di ogni desiderio: proteggersi, mantenersi, accrescersi, riprodursi… tutto pare affannarsi contro «il dolore della paura della morte», come scrive Dostoevskij ne I demoni. In attesa del futuro, dunque, possiamo solo augurare il meglio ai nostri figli, affermando con Kirillov che «chi vincerà il dolore e la paura, quello sarà Dio».”
Da due anni non pubblico più le gemme che studentesse e studenti portano in classe. Purtroppo non ho il tempo materiale per poterlo fare. Stamattina c’è stata la prima gemma di quest’anno, in una classe terza. Si è trattato di un testo che era stato portato anche tre anni fa da una ragazza di quinta. Erano le parole di Antoine Leiris, l’uomo che perse la moglie nell’attentato parigino del Bataclan e che si ritrovò da solo a crescere un bimbo di 17 mesi. Le riporto:
«Venerdì sera avete rubato la vita di una persona eccezionale, l’amore della mia vita, la madre di mio figlio, eppure non avrete il mio odio. Non so chi siete e non voglio neanche saperlo. Voi siete anime morte. Se questo Dio per il quale ciecamente uccidete ci ha fatti a sua immagine, ogni pallottola nel corpo di mia moglie sarà stata una ferita nel suo cuore. Perciò non vi farò il regalo di odiarvi. Sarebbe cedere alla stessa ignoranza che ha fatto di voi quello che siete. Voi vorreste che io avessi paura, che guardassi i miei concittadini con diffidenza, che sacrificassi la mia libertà per la sicurezza. Ma la vostra è una battaglia persa. L’ho vista stamattina. Finalmente, dopo notti e giorni d’attesa. Era bella come quando è uscita venerdì sera, bella come quando mi innamorai perdutamente di lei più di 12 anni fa. Ovviamente sono devastato dal dolore, vi concedo questa piccola vittoria, ma sarà di corta durata. So che lei accompagnerà i nostri giorni e che ci ritroveremo in quel paradiso di anime libere nel quale voi non entrerete mai. Siamo rimasti in due, mio figlio e io, ma siamo più forti di tutti gli eserciti del mondo. Non ho altro tempo da dedicarvi, devo andare da Melvil che si risveglia dal suo pisolino. Ha appena 17 mesi e farà merenda come ogni giorno e poi giocheremo insieme, come ogni giorno, e per tutta la sua vita questo petit garçon vi farà l’affronto di essere libero e felice. Perché no, voi non avrete mai nemmeno il suo odio».
Mi ha profondamente colpito che in un periodo storico in cui mondo reale e virtuale fanno fatica a contenere toni sopra le righe, a limitare linguaggi di odio, a controllare reazioni provocatorie che arrivano soprattutto dal mondo adulto, una sedicenne abbia voluto regalare ai compagni una gemma che parlasse di rifiuto dell’odio. Sono risuonate in me le parole di Etty Hillesum: “A ogni nuovo crimine o orrore dovremo opporre un frammento di amore e di bontà che bisognerà conquistare in noi stessi. Possiamo soffrire ma non dobbiamo soccombere”.
“Ho trovato per caso questo video: dimostra quanto sia importante compiere delle piccole azioni spontanee senza per forza essere persone di successo o con tanti soldi per approcciarci agli altri”. Con queste parole M. (classe quinta) ha presentato la propria gemma. Studio e leggo la Bibbia da anni e penso che questa frequentazione mi porti a citarla poco spesso sul blog. Tendo a dare per scontata la conoscenza di certi passi o di certi personaggi. Oggi, invece desidero presentare una donna protagonista di un breve passaggio del vangelo di Marco (12, 38-44): «Diceva loro mentre insegnava: “Guardatevi dagli scribi, che amano passeggiare in lunghe vesti, ricevere saluti nelle piazze, avere i primi seggi nelle sinagoghe e i primi posti nei banchetti. Divorano le case delle vedove e ostentano di fare lunghe preghiere; essi riceveranno una condanna più grave”. E sedutosi di fronte al tesoro, osservava come la folla gettava monete nel tesoro. E tanti ricchi ne gettavano molte. Ma venuta una povera vedova vi gettò due spiccioli, cioè un quattrino. Allora, chiamati a sé i discepoli, disse loro: “In verità vi dico: questa vedova ha gettato nel tesoro più di tutti gli altri. Poiché tutti hanno dato del loro superfluo, essa invece, nella sua povertà, vi ha messo tutto quello che aveva, tutto quanto aveva per vivere”.» A questo passo fa eco un racconto di Tagore: “Ero andato mendicando di uscio in uscio, lungo il sentiero del villaggio, quando apparve in lontananza un cocchio d’oro. Era il cocchio del figlio del re. Pensai: E’ l’occasione della mia vita. Sedetti spalancando la bisaccia e aspettando che l’elemosina mi venisse data, senza che neppure dovessi chiedere, anzi che le ricchezze piovessero in terra attorno a me. Ma quale non fu la mia sorpresa quando, giunto vicino, il cocchio si fermò, il figlio del re discese e, stendendo la mano destra, mi disse: Cos’hai da donarmi?. Quale gesto regale fu mai quello di stendere la mano a un mendicante! Confuso ed esitante, presi dalla bisaccia un chicco di riso, uno solo, il più piccolo, e glielo porsi. Ma che tristezza a sera, quando, frugando nella mia bisaccia, trovai un piccolo chicco d’oro, uno solo. Piansi amaramente di non aver avuto il coraggio di avergli donato tutto!”
“Avevo già deciso quale video portare come gemma, poi è uscito questo e ho cambiato idea. Chi mi sta vicino sa che spesso dico che le ragazze sono tanto cattive: spesso diciamo cose che in realtà non pensiamo, mi ci metto dentro anche io. A volte mi pento di quello che dico. Penso che questo video sia significativo: emerge anche l’idea per cui la felicità è connessa alle persone, qualsiasi cosa facciamo è connessa agli altri. Desidero anche leggere queste frasi, anche se un po’ sconnesse tra loro in quanto frutto di pezzi di video tagliati: «Il rapporto che ho con ogni singola persona è unico e speciale… La cosa più importante per un essere umano essere e sentirsi amato… come può sparire così una persona al mondo, come può essere accettabile. A sette anni non avevo una risposta, ma ora che ne ho venti ce l’ho, non può! Semplicemente non sparisce, non esiste vita, morte, esistono emozioni, esiste credere in qualcosa… Le persone non spariscono, noi le manteniamo in vita continuando ad amare ogni giorno come loro hanno amato noi, toccando con mano quello che non possono più toccare, respirando la vita che non possono più respirare, trasformando il dolore in forza di continuare a vivere non solo per noi, ma anche per loro.»” Questa è stata la gemma di D. (classe quinta). Sono varie le tematiche toccate. Mi concentro sulle relazioni e sulla morte con una citazione della pittrice messicana Frida Kahlo: “Nessuno è separato da nessuno. Nessuno lotta per se stesso. Tutto è uno. L’angoscia e il dolore, il piacere e la morte non sono nient’altro che un processo per esistere. La lotta rivoluzionaria in questo processo è una porta aperta all’intelligenza.”
“Penso che i litigi spesso non servono a nulla se non a provocare sofferenza tra le due persone coinvolte direttamente e anche in chi è accanto. A volte basta parlare o fare un gesto di pace e distensione come un abbraccio”. Questa la gemma di V. (classe seconda). Penso di aver già pubblicato questa storiella, ma ci sta così bene qui… Una volta un samurai grosso e rude andò a visitare un piccolo monaco. “Monaco”, gli disse “insegnami che cosa sono l’inferno e il paradiso!”. Il monaco alzò gli occhi per osservare il potente guerriero e rispose con estremo disprezzo: “Insegnarti che cosa sono l’inferno e il paradiso? Non potrei insegnarti proprio niente. Sei sporco e puzzi, la lama del tuo rasoio si è arrugginita. Sei un disonore, un flagello per la cast dei samurai. Levati dalla mia vista, non ti sopporto.” Il samurai era furioso. Cominciò a tremare, il volto rosso dalla rabbia, non riusciva a spiccicare parola. Sguainò la spada e la sollevò in alto, preparandosi a uccidere il monaco.
“Questo è l’inferno”, mormorò il monaco. Il samurai era sopraffatto. Quanta compassione, quanta resa in questo ometto che aveva offerto la propria vita per dargli questo insegnamento, per dimostrargli l’inferno! Lentamente abbassò la spada, pieno di gratitudine e improvvisamente colmo di pace.
“E questo è il paradiso”, mormorò il monaco.”
“La mia gemma è questo messaggio di un’amica che non vedo da un po’. Non ho altro da dire”. Questa la telegrafica presentazione di D. (classe seconda). Appoggio questa frase, attribuita a Marilyn Monroe: “Le persone dolci non sono ingenue. Né stupide. Né tantomeno indifese. Anzi, sono così forti da potersi permettere di non indossare alcuna maschera. Libere di essere vulnerabili, di provare emozioni, di correre il rischio di essere felici.”
“Il video parla da sé, sembra descrivere un mondo idilliaco, una realtà impossibile. Ma è anche vero che un gesto carino può cambiare la giornata a chiunque; ci dovremmo sforzare di aiutare gli altri anche se per noi personalmente è brutta giornata, anche solo per il piacere di farlo. Sono attori quelli che recitano qui, ma mi piacciono questi video; penso sia importante andare oltre i pregiudizi e gli stati sociali”. Così A. (classe quinta) ha presentato la sua gemma. Mi sono venute in mente due frasi. Una è una frase semplicissima del Dalai Lama, contraddistinta da semplicità e concisione di cui lui è capace: “Sii gentile quando possibile. È sempre possibile”. L’altra frase arriva dal mondo cinematografico del passato, da quell’icona di fascino e bellezza che risponde al nome di Audrey Hepburn: “Per avere labbra attraenti, pronuncia parole gentili…”.
oradireli 