Pubblicato in: Diritti umani, Etica, Filosofia e teologia, opinioni, Pensatoio, Scienze e tecnologia, Società

Buona, cattiva, felice, infelice: quale AI?

Mi sono ripromesso di affrontare, nelle classi quinte, il tema dell’intelligenza artificiale. Non so se ce la farò. Intanto pubblico un articolo molto interessante di Francesco D’Isa su questioni di etica generale applicata a tale argomento. Questa la fonte.

“Se ogni apocalisse ha il suo immaginario, l’allegoria contemporanea ha le fattezze di due cigni neri. Uno è intinto nel petrolio e barcolla in un lago in secca; l’altro ha i contorni diffratti e cangianti del sogno di un algoritmo. “Cigno nero”, infatti, è un termine coniato da Nassim Nicholas Taleb per indicare un evento di grande impatto, difficile da prevedere e molto raro, che col solo accadere rivoluziona la realtà abituale – come l’idea che tutti i cigni sono bianchi. La caduta di un gigantesco asteroide, un’invasione aliena o la scoperta del fuoco sono tutti esempi di cigni neri; ognuno di essi è una piccola apocalisse, perché sebbene non se ne possa prevedere né il volto né la data, sappiamo che avverrà.
Con un po’ di cautela però, è possibile azzardarne la provenienza: nella precedente allegoria, i due cigni neri della contemporaneità sono il cambiamento climatico e l’avvento dell’intelligenza artificiale – ed è di quest’ultimo che scrivo. Non azzardo una cronologia dell’avvento, la cui origine si potrebbe identificare con l’invenzione del calcolatore di Pascal o persino con l’arte combinatoria di Lullo o gli automata di Erone di Alessandria. Per limitarsi al passato prossimo, gli ultimi sigilli infranti sono le vittorie delle IA al gioco del Go e la nascita dei deep fake, dei contenuti multimediali falsi ma credibili, che dalla pornografia (primo laboratorio di molte innovazioni tecnologiche) sono sfociati nella politica e nel marketing.
Un evento di minore importanza, ma senza dubbio di grande impatto nell’immaginario, è stato il primo contatto con l’interiorità delle intelligenze artificiali grazie ai deep dream. Si tratta di immagini surreali ottenute usando in maniera creativa l’output dell’algoritmo che identifica gli oggetti nelle fotografie – il risultato è il secondo cigno dell’allegoria, una sottile crepa nella scatola nera delle IA, che inocula il sospetto che gli androidi sognino le nostre stesse pecore. Non è possibile conoscere in anticipo la propria prole, ma è sufficiente poterla generare per porsi importanti questioni etiche: i nostri figli saranno buoni o cattivi? Felici o infelici? Migliori o peggiori di noi? È un bene o un male metterli al mondo? Le stesse domande si pongono anche per le IA, e per quanto suonino sempliciotte sono un buon punto di partenza.

Proverò dunque a usare le seguenti categorie: con l’etichetta di buone o cattive intendo il caso in cui le IA abbiano funzioni costruttive o distruttive per il benessere dell’umanità. Felici o infelici sono due etichette fluide, con cui indico la condizione predominante del vissuto delle IA. Entrambe glissano su un punto di estrema importanza, assimilabile al cosiddetto hard problem della coscienza, nella terminologia di David Chalmers: le IA esperiscono o esperiranno degli stati coscienti (i cosiddetti qualia)? È una questione di difficile soluzione, non solo per loro, ma anche per le piante, gli animali e gli esseri umani – o persino i sassi. Gli unici stati di coscienza che conosci con certezza, infatti, sono i tuoi. Nulla ti assicura che non vivi in un mondo di “zombie filosofici”, in cui sei l’unica persona dotata di coscienza. Chi scrive si dichiara cosciente, ma tu che leggi come puoi credermi, se non sulla parola? Se ti sembra un ozioso scetticismo, prova a considerare cosa implichi ignorarlo. Come si individua la coscienza e i suoi confini? Affidarsi a un avanzato test di Turing legato al comportamento non esclude che possa esistere un robot privo di essa. Viene in mente il test Voight-Kampff di Blade Runner; una serie di domande e indagini fisico-comportamentali in grado di stabilire chi è un androide e chi un umano. Il test però non dice se gli androidi hanno un vissuto reale, ed escludere la possibilità che ne siano privi ci espone a non poche contraddizioni, ben esemplificate dall’esperimento mentale della stanza cinese di Searle.
Scartare a priori l’ipotesi di IA prive di coscienza, inoltre, porta facilmente al panpsichismo, la teoria per cui tutto è conscio, da un termostato a un essere umano, seppure in differenti gradazioni. Una conclusione non priva di problemi, come ad esempio la difficoltà di capire come varie micro-coscienze si combinano e integrano formando una coscienza più grande. Nel nostro caso però, possiamo ignorare l’ipotesi in cui le IA non abbiano qualia, per il semplice fatto che non pone alcun dilemma etico.

Fonte immagine

Infine, per migliori intendo delle IA più intelligenti e potenti di noi, mentre per peggiori delle IA simili a quelle attuali; molto capaci ma globalmente non al nostro livello. Si tratta di categorie soggettive, basate su idee più o meno condivise ma passibili di molte sfumature. Per esempio, una calcolatrice è più brava di te a fare i conti, ma non per questo la consideri migliore – ma queste e altre contraddizioni emergeranno in seguito, dunque non mi attardo in altre premesse. E allora, come saranno le intelligenze artificiali?

1) Buone, felici e migliori di noi.
È il migliore dei casi, l’utopia in cui partoriamo degli angeli che ci accudiscono e proteggono dal male. Sembrerebbe una buona notizia, ma questo paradiso terrestre ci riporta a uno dei grandi quesiti dell’umanità: cos’è la felicità? La vita in veste di neonati perfetti potrebbe consistere nell’ininterrotta soddisfazione dei nostri desideri, in un godimento perpetuo che non lascia spazio al dolore. Oppure nell’opposto, la cessazione del desiderio e la perdita dell’ego propugnata dai mistici. La felicità che ci garantiranno queste IA sarà un sogno oppiaceo senza effetti collaterali? Un orgasmo ininterrotto? Il soma vedico, l’illuminazione buddista o cos’altro? Quel che è certo è che lo decideranno loro, e se saranno davvero così buone e brave è probabile che indovineranno. Ogni utopia, però, lascia spazio all’inquietudine; se ci sbagliassimo a tal punto sul nostro conto da non accorgerci che è la morte l’apice del bene? In questo caso le IA, più sveglie di noi, ci distruggeranno come nel caso 5) e 6), senza interrogarci in merito alla nostra idea di felicità.

2) Buone, infelici e migliori di noi.
Come sopra, ma con la disturbante consapevolezza che mentre i nostri figli (anzi, schiavi) operano per il nostro bene, ignorano il loro. Al primo caso si aggiunge dunque la domanda: siamo disposti a entrare in un paradiso che condanna altri all’inferno?

3) Buone, felici e peggiori di noi.
In questo caso si suppone che le IA, per quanto potenti, non saranno in grado di decidere per noi. L’umanità però saprà usarle per il meglio, potenziando le proprie capacità al fine di migliorare la qualità globale della vita. È l’utopia moderata del reddito universale e della fine del lavoro. Sebbene sia meno fantascientifico di 1), questo caso presenta comunque degli interrogativi in merito all’influenza del lavoro sulla felicità umana. Pur senza cedere alla retorica capitalista della produzione a ogni costo, va considerato che non è mai esistita un’epoca in cui la maggioranza o la totalità degli uomini non sia stata costretta a lavorare (in senso ampio) per sopravvivere. Non possiamo prevedere sensatamente gli effetti sulla felicità di un mondo in cui nessuno lavora e in cui in ogni ambito delle servizievoli IA sono più brave di noi, perché non abbiamo alcun precedente su cui basarci. È però lecito supporre che questo scenario non accadrà all’improvviso, ma che presenti gradazioni che lo avvicineranno e intersecheranno con i casi (7) e (8). Le variabili in gioco sono troppe: la velocità dello sviluppo tecnologico, la sua capillarità, realizzabilità e applicazione. Cui si aggiunge l’organizzazione sociale e il contesto storico in cui accadrà il cigno nero.

4) Buone, infelici e peggiori di noi.
Come sopra, col solito prezzo di far scontare ad altri la nostra aumentata felicità. Senza contare – ma questo vale per ogni scenario – che potremmo non scoprire mai cosa provano i nostri figli.

5) Cattive, felici e migliori di noi.
Questa distopia ha varie forme, dal robot malvagio che gode nello schiavizzare, torturare o annientare l’umanità, a quello che ci stermina per semplice noncuranza fino alla superintelligenza illuminata che ci reputa alla stregua di un virus, per via delle enormi sofferenze che causiamo alla quasi totalità delle forme di vita del pianeta. L’ipotesi più curiosa in quest’ambito è forse il “paradosso delle graffette” proposto da Nick Bostrom. Il filosofo immagina un’IA programmata per assemblare delle banali graffette a partire da un certo numero di materie prime. Questa intelligenza potrebbe essere abbastanza potente da piegare l’intero pianeta al suo scopo, ma non da cambiarlo, e, nel giro di qualche tempo, trasformerebbe ogni risorsa del pianeta – comprese le forme di vita che ospita – in materie prime necessarie all’assemblaggio di graffette. Un aspetto curioso di questa ipotesi è che si potrebbe facilmente identificare la stessa umanità con questo mostro ecologico: siamo programmati per soddisfare i nostri desideri primordiali, come mantenerci e moltiplicarci, e consumiamo il pianeta senza porre mai in dubbio i nostri scopi.

6) Cattive, infelici e migliori di noi.
Come sopra, con l’aggravante che neanche gli aguzzini sarebbero felici. Non esito a definirlo uno dei peggiori tra i mondi possibili.

7) Cattive, felici e peggiori di noi.
Questo caso speculare a 3) deresponsabilizza le IA per spostare l’attenzione sul pessimo uso che potremmo farne. Ho già parlato dei deep fake ed è noto come l’analisi dei big data abbia in parte pilotato le ultime elezioni americane. Delle IA utilizzate per spingere gli interessi contingenti di pochi individui potrebbero risultare disastrose sul lungo periodo. Un piccolo ma interessante esempio contemporaneo è l’effetto degli algoritmi utilizzati per rintracciare e proporre dei contenuti che “ci potrebbero interessare” sui casi di depressi gravi. Proporre dei contenuti sempre più violenti o disturbanti, infatti, potrebbe istigare o coadiuvare il suicidio dei soggetti già depressi.

8) Cattive, infelici e peggiori di noi.
Anche in questo caso, avremmo tutti gli svantaggi del caso precedente con in più il danno di altro dolore.

E dunque, per tornare alla domanda iniziale, è un bene o un male mettere al mondo delle IA? L’esposizione di questi otto scenari non chiarisce molto le idee, ma rende quasi letterale il parallelo coi figli. Trovare una motivazione etica per qualunque forma di creazione, infatti, sia che si tratti di vita che di tecnologia, è più difficile del previsto. L’ignoranza del futuro, la molteplicità degli utilizzi e l’incapacità di identificare il bene sono dei limiti troppo grandi.
Ma la domanda potrebbe essere inutile, se anche noi siamo costretti a seguire l’imperativo di un “programma” che ci spinge inevitabilmente a creare qualcosa di nuovo, che siano figli, utensili o entrambe le cose. Non è facile, infatti, individuare il magnete alla base di ogni desiderio: proteggersi, mantenersi, accrescersi, riprodursi… tutto pare affannarsi contro «il dolore della paura della morte», come scrive Dostoevskij ne I demoni. In attesa del futuro, dunque, possiamo solo augurare il meglio ai nostri figli, affermando con Kirillov che «chi vincerà il dolore e la paura, quello sarà Dio».”

Pubblicato in: Bibbia e Spiritualità, Diritti umani, Etica, Filosofia e teologia, opinioni, Pensatoio, Scienze e tecnologia, Scuola, sfoghi, Società

Un’arsura di senso

Riprendo la questione della manifestazione per il clima del 15 marzo, su cui avevo già detto brevemente la mia, attraverso due diversi pezzi: uno di riflessione e uno di inchiesta. Il primo è questo qui sotto di Alessandro D’Avenia. Il secondo, nel prossimo post…

Fonte dell’immagine

«Immaginavi tu forse che il mondo fosse fatto per causa vostra? Ora sappi che nelle operazioni mie, sempre ebbi e ho l’intenzione a tutt’altro che alla felicità degli uomini o all’infelicità. Quando io vi offendo in qualunque modo e mezzo, io non me n’avvedo, se non rarissime volte: se io vi diletto o vi benefico, non lo so; e non ho fatto, come credete voi, quelle cose, o non fo quelle azioni, per dilettarvi o giovarvi. E se anche mi avvenisse di estinguere tutta la vostra specie, io non me ne avvedrei». Così la Natura risponde al protagonista del famoso dialogo leopardiano, l’Islandese che ha cercato in tutti i modi una felicità che sembra incompatibile con una vita ferita dalla fragilità, dagli altri e dalla realtà. Egli, scoperta la propria irrilevanza e l’indifferenza della Natura, sferra l’ultima domanda: «Dimmi quello che nessun filosofo mi sa dire: a chi piace o giova questa vita infelicissima dell’universo, conservata con danno e morte di tutte le cose che lo compongono?». La Natura tace e l’Islandese in attesa della risposta muore: o divorato da due leoni affamati che sopravvivono qualche ora grazie al misero pasto; o essiccato da un vento equatoriale, che lo ricopre di sabbia e lo trasforma in una mummia conservata in un museo europeo…
Per Leopardi la Natura è un fatale meccanismo indifferente e necessario di cui l’uomo è, suo malgrado, l’unico frammento consapevole e autocosciente. Sapendo di esistere egli va oltre la Natura, la trascende, la supera: è più che naturale, è sopra-naturale. Così diventa un ricercatore di senso ma, alla domanda: «Se tutto deve morire a che serve vivere?», la Natura non sa rispondere. Leopardi sa che l’uomo è vivo proprio se non rinuncia a questa domanda da cui ha origine la creatività umana: con la cultura infatti l’uomo cerca di affrancarsi dalla corsa dell’entropia verso l’abisso e di contrastare la fine di tutte le cose. Non a caso i gesti con cui è iniziata la novità umana sono stati scheggiare la pietra, seppellire i morti, dipingere le grotte: con la cultura l’uomo, faber e sapiens, realizza la vita autenticamente umana in dialogo con la Natura, che riceve come dono e come compito.
Sono migliaia gli adolescenti scesi in piazza in quello che è stato considerato uno dei più sorprendenti fenomeni di massa dal ‘68: il #fridayforfuture. Adolescenti di fatto perfettamente integrati nella fede del Progresso e nei ritmi di produzione di cui godono il benessere e gli strumenti, si sono riversati in tutte le città occidentali spinti dal richiamo di una sedicenne svedese: Greta Thunberg. Vogliono forse vivere in campagna o tornare al mondo senza cellulari, televisori, motorini, computer, frigoriferi, aerei? Dubito. Non rinunceranno ai trionfi della Tecnica, ma credo abbiano nostalgia dell’armonia perduta tra Natura e Uomo. Naturalmente il sogno della sedicenne è stato subito – come ormai capita sistematicamente – da un lato strumentalizzato, dall’altro reso oggetto di feroci critiche. C’è chi la santifica facendone la profetessa di una vecchia religione in cui la Natura è il Bene e l’uomo il Male, le offre pulpiti e premi impensabili per la sua età, e un libro in uscita in tante lingue; c’è chi la ritiene il fantoccio di un complotto globale o la «gallina dalle uova d’oro» di genitori avidi. Di fatto, è un iconico capro espiatorio delle ideologie degli adulti, abbattuta da alcuni e divinizzata da altri, per aggregare le loro forze esangui e disperse. Ma al di là delle strumentalizzazioni e dell’azione degli spin doctor dell’opinione pubblica, che cosa ha fatto sì che i giovani rispondessero? Che cosa rappresenta per loro «questa» ragazza? Questo mi interessa prima del suo messaggio climatico, sul merito del quale proprio la scienza è tutt’altro che unanime.
Greta, come l’Islandese, ha incontrato la Natura ma, questa volta, l’ha trovata in crisi. Il dialogo leopardiano si è ribaltato: l’uomo si è vendicato della divina indifferenza naturale e si è liberato dal suo giogo. Il divorzio tra Natura e Uomo è sancito in Occidente nel XVII secolo da Francesco Bacone, che si sbarazzò della tradizione secolare per cui la verità sulle cose e sull’uomo era un’armonia divina da indagare e rispettare. Il filosofo immaginò Nuova Atlantide, città-laboratorio governata da scienziati che a qualsiasi costo devono garantire il benessere ai cittadini, la loro scienza è finalizzata alla tecnica, che serve a incatenare la Natura: «sapere è potere». La cultura non serve più a curare e ampliare il Giardino, che nel racconto biblico Dio affida ad Adamo da «custodire e coltivare» (Gn 2,15), ma a costruire un giardino alternativo, artificiale: tutto fatto dall’uomo e finalmente libero dal male. Bacone inaugura la fede nel Progresso, religione che, rimosso Dio, l’uomo occidentale ha del tutto interiorizzato, diventando l’uomo-dio raccontato di recente da Harari in Sapiens e in Homo-Deus. Il XXI sarà il secolo della biologia-cibernetica, l’uomo diventerà totalmente padrone della vita e della morte, gli ultimi presidi che la Tecnica cerca di strappare alla Natura. La conseguenza, già in atto, è una cultura che ha disfatto qualsiasi verità non «costruita» da noi: non avendo su cosa radicare il proprio stare al mondo e il senso da dare al viaggio, l’io-soggetto, ciò che sta sotto (sub-iectum) e cresce affrontando i conflitti della vita, si è sbriciolato, lasciando l’io-individuo, un io senza fondamento e destino, che deve creare e procurasi con le sue forze (se le ha): «Puoi e devi diventare ciò che vuoi: sei onnipotente». Chi nasce non riceve più la patente dell’esistenza, se la deve conquistare, ma le tante verità contraddittorie a disposizione non gli permettono di farsi «soggetto»: è un oggetto in balia di correnti emotive e di potere, una pianta che comincia dallo stelo e deve poi procurarsi le radici. Non sa da dove viene e quindi chi è e dove va, e si oppone alla disintegrazione interiore con uno sforzo titanico della volontà ma, non cercando e non trovando dentro di sé quello che vuole diventare, fallisce e si sfinisce, come mostrano disagi psichici, dipendenze e suicidi. Non può trasformare il destino ricevuto, ciò che è, in destinazione: sospeso nel vuoto egli deve fabbricarsi da solo il pavimento su cui camminare, il terreno in cui mettere radici per slanciarsi nella vita. Che cosa sono i beat rabbiosi e tribali del rap, tanto amati dai ragazzi, se non il bisogno di ancorarsi a qualcosa di primordiale, proprio mentre si solleva il frastuono di una vita che va in pezzi? Ci stanno forse chiedendo una vita più «naturale»?
Gli adulti affondano e i ragazzi cercano in una coetanea l’indicazione di un fondamento. Un tragicomico ribaltamento delle parti, in cui i giovani provano a ri-fondarsi, e gli adulti, invece di consegnare loro una storia da cui partire, li inseguono, imitano o usano. I ragazzi, orfani di senso, intravedono una via d’uscita dal nichilismo adulto, in un nuovo eroismo: vorrebbero essere come Greta, avere una visione che li definisca, li unisca e dia senso alla vita. «La Natura è una struttura stupenda che possiamo capire solo in modo molto imperfetto e davanti alla quale una persona riflessiva deve sentirsi pervasa da un profondo senso di umiltà. La mia religiosità consiste in un’umile ammirazione di quello Spirito immensamente superiore che si rivela in quel poco che noi, con il nostro intelletto debole e transitorio, possiamo comprendere della realtà. Voglio sapere come Dio creò questo mondo. Voglio conoscere i suoi pensieri», scrive Einstein: o torniamo a indagare i pensieri di Dio come creature, parola latina che indica una vita ricevuta da custodire e portare a compimento con slancio e rispetto, o distruggeremo il creato. Siamo giardinieri non creatori: la Vita non l’abbiamo fatta noi e non è a nostra totale disposizione, non c’è bisogno di essere credenti per vederlo, basta osservare la realtà e conoscere un po’ di storia. La vita umana è una corrente tra i due poli di necessità e libertà, terra e cielo, natura e cultura: se non li teniamo uniti e distinti in una verità superiore, continueremo a inquinare la Vita, e di conseguenza la Terra. L’assenza di senso, alimentando individualismo, nichilismo e consumismo, porta a non avere niente e nessuno da rispettare, ma solo potere da affermare: questo è il clima in cui la Vita soffoca e muore.
Una sedicenne ha risvegliato nella sua generazione la nostalgia di una Vita «naturale». Ma credo che prima di «che mondo lascerete ai vostri figli?» ci stia chiedendo «a quali figli lo lascerete?». Lo sapranno curare e sviluppare solo quelli a cui avremo dato non solo la vita ma il senso della vita. E che senso ha? Lo sappiamo dire loro? La risposta non ce l’hanno né il Progresso né la Natura. Il letto da rifare è allora chiedere periodicamente a vostro figlio/a: «Che cosa fai oggi per rendere la Vita migliore di come l’hai trovata?». E se di rimando vi chiederà: «Tu cosa fai?». Che cosa risponderete (oltre a: «ho fatto te»)?”