Pubblicato in: Diritti umani, Etica, Filosofia e teologia, opinioni, Pensatoio, Scienze e tecnologia, Società

Buona, cattiva, felice, infelice: quale AI?

Mi sono ripromesso di affrontare, nelle classi quinte, il tema dell’intelligenza artificiale. Non so se ce la farò. Intanto pubblico un articolo molto interessante di Francesco D’Isa su questioni di etica generale applicata a tale argomento. Questa la fonte.

“Se ogni apocalisse ha il suo immaginario, l’allegoria contemporanea ha le fattezze di due cigni neri. Uno è intinto nel petrolio e barcolla in un lago in secca; l’altro ha i contorni diffratti e cangianti del sogno di un algoritmo. “Cigno nero”, infatti, è un termine coniato da Nassim Nicholas Taleb per indicare un evento di grande impatto, difficile da prevedere e molto raro, che col solo accadere rivoluziona la realtà abituale – come l’idea che tutti i cigni sono bianchi. La caduta di un gigantesco asteroide, un’invasione aliena o la scoperta del fuoco sono tutti esempi di cigni neri; ognuno di essi è una piccola apocalisse, perché sebbene non se ne possa prevedere né il volto né la data, sappiamo che avverrà.
Con un po’ di cautela però, è possibile azzardarne la provenienza: nella precedente allegoria, i due cigni neri della contemporaneità sono il cambiamento climatico e l’avvento dell’intelligenza artificiale – ed è di quest’ultimo che scrivo. Non azzardo una cronologia dell’avvento, la cui origine si potrebbe identificare con l’invenzione del calcolatore di Pascal o persino con l’arte combinatoria di Lullo o gli automata di Erone di Alessandria. Per limitarsi al passato prossimo, gli ultimi sigilli infranti sono le vittorie delle IA al gioco del Go e la nascita dei deep fake, dei contenuti multimediali falsi ma credibili, che dalla pornografia (primo laboratorio di molte innovazioni tecnologiche) sono sfociati nella politica e nel marketing.
Un evento di minore importanza, ma senza dubbio di grande impatto nell’immaginario, è stato il primo contatto con l’interiorità delle intelligenze artificiali grazie ai deep dream. Si tratta di immagini surreali ottenute usando in maniera creativa l’output dell’algoritmo che identifica gli oggetti nelle fotografie – il risultato è il secondo cigno dell’allegoria, una sottile crepa nella scatola nera delle IA, che inocula il sospetto che gli androidi sognino le nostre stesse pecore. Non è possibile conoscere in anticipo la propria prole, ma è sufficiente poterla generare per porsi importanti questioni etiche: i nostri figli saranno buoni o cattivi? Felici o infelici? Migliori o peggiori di noi? È un bene o un male metterli al mondo? Le stesse domande si pongono anche per le IA, e per quanto suonino sempliciotte sono un buon punto di partenza.

Proverò dunque a usare le seguenti categorie: con l’etichetta di buone o cattive intendo il caso in cui le IA abbiano funzioni costruttive o distruttive per il benessere dell’umanità. Felici o infelici sono due etichette fluide, con cui indico la condizione predominante del vissuto delle IA. Entrambe glissano su un punto di estrema importanza, assimilabile al cosiddetto hard problem della coscienza, nella terminologia di David Chalmers: le IA esperiscono o esperiranno degli stati coscienti (i cosiddetti qualia)? È una questione di difficile soluzione, non solo per loro, ma anche per le piante, gli animali e gli esseri umani – o persino i sassi. Gli unici stati di coscienza che conosci con certezza, infatti, sono i tuoi. Nulla ti assicura che non vivi in un mondo di “zombie filosofici”, in cui sei l’unica persona dotata di coscienza. Chi scrive si dichiara cosciente, ma tu che leggi come puoi credermi, se non sulla parola? Se ti sembra un ozioso scetticismo, prova a considerare cosa implichi ignorarlo. Come si individua la coscienza e i suoi confini? Affidarsi a un avanzato test di Turing legato al comportamento non esclude che possa esistere un robot privo di essa. Viene in mente il test Voight-Kampff di Blade Runner; una serie di domande e indagini fisico-comportamentali in grado di stabilire chi è un androide e chi un umano. Il test però non dice se gli androidi hanno un vissuto reale, ed escludere la possibilità che ne siano privi ci espone a non poche contraddizioni, ben esemplificate dall’esperimento mentale della stanza cinese di Searle.
Scartare a priori l’ipotesi di IA prive di coscienza, inoltre, porta facilmente al panpsichismo, la teoria per cui tutto è conscio, da un termostato a un essere umano, seppure in differenti gradazioni. Una conclusione non priva di problemi, come ad esempio la difficoltà di capire come varie micro-coscienze si combinano e integrano formando una coscienza più grande. Nel nostro caso però, possiamo ignorare l’ipotesi in cui le IA non abbiano qualia, per il semplice fatto che non pone alcun dilemma etico.

Fonte immagine

Infine, per migliori intendo delle IA più intelligenti e potenti di noi, mentre per peggiori delle IA simili a quelle attuali; molto capaci ma globalmente non al nostro livello. Si tratta di categorie soggettive, basate su idee più o meno condivise ma passibili di molte sfumature. Per esempio, una calcolatrice è più brava di te a fare i conti, ma non per questo la consideri migliore – ma queste e altre contraddizioni emergeranno in seguito, dunque non mi attardo in altre premesse. E allora, come saranno le intelligenze artificiali?

1) Buone, felici e migliori di noi.
È il migliore dei casi, l’utopia in cui partoriamo degli angeli che ci accudiscono e proteggono dal male. Sembrerebbe una buona notizia, ma questo paradiso terrestre ci riporta a uno dei grandi quesiti dell’umanità: cos’è la felicità? La vita in veste di neonati perfetti potrebbe consistere nell’ininterrotta soddisfazione dei nostri desideri, in un godimento perpetuo che non lascia spazio al dolore. Oppure nell’opposto, la cessazione del desiderio e la perdita dell’ego propugnata dai mistici. La felicità che ci garantiranno queste IA sarà un sogno oppiaceo senza effetti collaterali? Un orgasmo ininterrotto? Il soma vedico, l’illuminazione buddista o cos’altro? Quel che è certo è che lo decideranno loro, e se saranno davvero così buone e brave è probabile che indovineranno. Ogni utopia, però, lascia spazio all’inquietudine; se ci sbagliassimo a tal punto sul nostro conto da non accorgerci che è la morte l’apice del bene? In questo caso le IA, più sveglie di noi, ci distruggeranno come nel caso 5) e 6), senza interrogarci in merito alla nostra idea di felicità.

2) Buone, infelici e migliori di noi.
Come sopra, ma con la disturbante consapevolezza che mentre i nostri figli (anzi, schiavi) operano per il nostro bene, ignorano il loro. Al primo caso si aggiunge dunque la domanda: siamo disposti a entrare in un paradiso che condanna altri all’inferno?

3) Buone, felici e peggiori di noi.
In questo caso si suppone che le IA, per quanto potenti, non saranno in grado di decidere per noi. L’umanità però saprà usarle per il meglio, potenziando le proprie capacità al fine di migliorare la qualità globale della vita. È l’utopia moderata del reddito universale e della fine del lavoro. Sebbene sia meno fantascientifico di 1), questo caso presenta comunque degli interrogativi in merito all’influenza del lavoro sulla felicità umana. Pur senza cedere alla retorica capitalista della produzione a ogni costo, va considerato che non è mai esistita un’epoca in cui la maggioranza o la totalità degli uomini non sia stata costretta a lavorare (in senso ampio) per sopravvivere. Non possiamo prevedere sensatamente gli effetti sulla felicità di un mondo in cui nessuno lavora e in cui in ogni ambito delle servizievoli IA sono più brave di noi, perché non abbiamo alcun precedente su cui basarci. È però lecito supporre che questo scenario non accadrà all’improvviso, ma che presenti gradazioni che lo avvicineranno e intersecheranno con i casi (7) e (8). Le variabili in gioco sono troppe: la velocità dello sviluppo tecnologico, la sua capillarità, realizzabilità e applicazione. Cui si aggiunge l’organizzazione sociale e il contesto storico in cui accadrà il cigno nero.

4) Buone, infelici e peggiori di noi.
Come sopra, col solito prezzo di far scontare ad altri la nostra aumentata felicità. Senza contare – ma questo vale per ogni scenario – che potremmo non scoprire mai cosa provano i nostri figli.

5) Cattive, felici e migliori di noi.
Questa distopia ha varie forme, dal robot malvagio che gode nello schiavizzare, torturare o annientare l’umanità, a quello che ci stermina per semplice noncuranza fino alla superintelligenza illuminata che ci reputa alla stregua di un virus, per via delle enormi sofferenze che causiamo alla quasi totalità delle forme di vita del pianeta. L’ipotesi più curiosa in quest’ambito è forse il “paradosso delle graffette” proposto da Nick Bostrom. Il filosofo immagina un’IA programmata per assemblare delle banali graffette a partire da un certo numero di materie prime. Questa intelligenza potrebbe essere abbastanza potente da piegare l’intero pianeta al suo scopo, ma non da cambiarlo, e, nel giro di qualche tempo, trasformerebbe ogni risorsa del pianeta – comprese le forme di vita che ospita – in materie prime necessarie all’assemblaggio di graffette. Un aspetto curioso di questa ipotesi è che si potrebbe facilmente identificare la stessa umanità con questo mostro ecologico: siamo programmati per soddisfare i nostri desideri primordiali, come mantenerci e moltiplicarci, e consumiamo il pianeta senza porre mai in dubbio i nostri scopi.

6) Cattive, infelici e migliori di noi.
Come sopra, con l’aggravante che neanche gli aguzzini sarebbero felici. Non esito a definirlo uno dei peggiori tra i mondi possibili.

7) Cattive, felici e peggiori di noi.
Questo caso speculare a 3) deresponsabilizza le IA per spostare l’attenzione sul pessimo uso che potremmo farne. Ho già parlato dei deep fake ed è noto come l’analisi dei big data abbia in parte pilotato le ultime elezioni americane. Delle IA utilizzate per spingere gli interessi contingenti di pochi individui potrebbero risultare disastrose sul lungo periodo. Un piccolo ma interessante esempio contemporaneo è l’effetto degli algoritmi utilizzati per rintracciare e proporre dei contenuti che “ci potrebbero interessare” sui casi di depressi gravi. Proporre dei contenuti sempre più violenti o disturbanti, infatti, potrebbe istigare o coadiuvare il suicidio dei soggetti già depressi.

8) Cattive, infelici e peggiori di noi.
Anche in questo caso, avremmo tutti gli svantaggi del caso precedente con in più il danno di altro dolore.

E dunque, per tornare alla domanda iniziale, è un bene o un male mettere al mondo delle IA? L’esposizione di questi otto scenari non chiarisce molto le idee, ma rende quasi letterale il parallelo coi figli. Trovare una motivazione etica per qualunque forma di creazione, infatti, sia che si tratti di vita che di tecnologia, è più difficile del previsto. L’ignoranza del futuro, la molteplicità degli utilizzi e l’incapacità di identificare il bene sono dei limiti troppo grandi.
Ma la domanda potrebbe essere inutile, se anche noi siamo costretti a seguire l’imperativo di un “programma” che ci spinge inevitabilmente a creare qualcosa di nuovo, che siano figli, utensili o entrambe le cose. Non è facile, infatti, individuare il magnete alla base di ogni desiderio: proteggersi, mantenersi, accrescersi, riprodursi… tutto pare affannarsi contro «il dolore della paura della morte», come scrive Dostoevskij ne I demoni. In attesa del futuro, dunque, possiamo solo augurare il meglio ai nostri figli, affermando con Kirillov che «chi vincerà il dolore e la paura, quello sarà Dio».”

Pubblicato in: Bibbia e Spiritualità, Diritti umani, Etica, Filosofia e teologia, opinioni, Pensatoio, Religioni, Scienze e tecnologia, Società

Rischio tecnocrazia

“Roboetica: Persone, Macchine, Salute” è il titolo del Workshop aperto al pubblico che si è svolto il 25 e 26 febbraio 2019, all’interno dell’Assemblea della Pontificia Accademia per la Vita. Papa Francesco ha ricevuto in udienza i partecipanti alla plenaria e Salvatore Cernuzio ne ha scritto su La Stampa.

Fonte immagine

“La macchina che domina l’uomo, i robot che sostituiscono la persona umana, la logica del dispositivo che soppianta la ragione umana. Il futuro distopico prefigurato da cinema e letteratura già mezzo secolo fa rischia di divenire un pericolo reale con l’avvento e l’aumento delle nuove tecnologie. Il monito non giunge da scienziati e antropologi ma da Papa Francesco, il quale […] avverte: «L’odierna evoluzione della capacità tecnica produce un incantamento pericoloso: invece di consegnare alla vita umana gli strumenti che ne migliorano la cura, si corre il rischio di consegnare la vita alla logica dei dispositivi che ne decidono il valore».
Un vero e proprio «rovesciamento» che, secondo Bergoglio, è destinato a produrre «esiti nefasti: la macchina non si limita a guidarsi da sola, ma finisce per guidare l’uomo. La ragione umana viene così ridotta a una razionalità alienata degli effetti, che non può essere considerata degna dell’uomo». In questo senso va rivista la denominazione stessa di “intelligenza artificiale” che, «pur certamente di effetto, può rischiare di essere fuorviante», annota Francesco. «I termini occultano il fatto che – a dispetto dell’utile assolvimento di compiti servili (è il significato originario del termine “robot”) –, gli automatismi funzionali rimangono qualitativamente distanti dalle prerogative umane del sapere e dell’agire. E pertanto possono diventare socialmente pericolosi». È del resto già reale «il rischio che l’uomo venga tecnologizzato, invece che la tecnica umanizzata»: lo si vede già adesso che «a “macchine intelligenti” vengono frettolosamente attribuite capacità che sono propriamente umane». Bisogna allora «comprendere meglio che cosa significano, in questo contesto, l’intelligenza, la coscienza, l’emotività, l’intenzionalità affettiva e l’autonomia dell’agire morale», dice il Pontefice. «I dispositivi artificiali che simulano capacità umane, in realtà, sono privi di qualità umana», aggiunge. «Occorre tenerne conto per orientare la regolamentazione del loro impiego, e la ricerca stessa, verso una interazione costruttiva ed equa tra gli esseri umani e le più recenti versioni di macchine» che si diffondono a vista d’occhio nel mondo e «trasformano radicalmente lo scenario della nostra esistenza». «Se sapremo far valere anche nei fatti questi riferimenti, le straordinarie potenzialità dei nuovi ritrovati potranno irradiare i loro benefici su ogni persona e sull’umanità intera», assicura il Papa.
Il primo passo è ricominciare a comprendere la tecnologia non come forza «estranea e ostile» all’uomo, ma come «prodotto del suo ingegno attraverso cui provvede alle esigenze del vivere per sé e per gli altri». La tecnologia dovrebbe apparire «una modalità specificamente umana di abitare il mondo», sottolinea il Pontefice. Oggi invece si assiste ad un «drammatico paradosso»: «Proprio quando l’umanità possiede le capacità scientifiche e tecniche per ottenere un benessere equamente diffuso, secondo la consegna di Dio, osserviamo un inasprimento dei conflitti e una crescita delle disuguaglianze».
Declina così «il mito illuminista del progresso» e «l’accumularsi delle potenzialità che la scienza e la tecnica ci hanno fornito non sempre ottiene i risultati sperati». Anzi, mentre da un lato «lo sviluppo tecnologico ci ha permesso di risolvere problemi fino a pochi anni fa insormontabili», dall’altro emergono «difficoltà e minacce talvolta più insidiose delle precedenti», afferma Papa Francesco. «Il “poter fare” rischia di oscurare il chi fa e il per chi si fa. Il sistema tecnocratico basato sul criterio dell’efficienza non risponde ai più profondi interrogativi che l’uomo si pone; e se da una parte non è possibile fare a meno delle sue risorse, dall’altra esso impone la sua logica a chi le usa».”
Non solo. Si assiste anche ad un progressivo «logorarsi» del tessuto delle relazioni familiari e sociali e si diffonde sempre di più «una tendenza a chiudersi su di sé e sui propri interessi individuali, con gravi conseguenze sulla grande e decisiva questione dell’unità della famiglia umana e del suo futuro». E se a tutto ciò aggiungiamo anche «i gravi danni causati al pianeta, nostra casa comune, dall’impiego indiscriminato dei mezzi tecnici», risulta chiaro che le prospettive del futuro siano piuttosto negative.
Il Papa esorta allora a ripristinare quel concetto di «ecologia integrale» descritto e promosso nella Laudato si’: nel mondo odierno, «segnato da una stretta interazione tra diverse culture», occorre portare lo specifico contributo dei credenti alla ricerca di «criteri operativi universalmente condivisibili, che siano punti di riferimento comuni per le scelte di chi ha la grave responsabilità di decisioni da prendere sul piano nazionale e internazionale», afferma.
In quest’ottica, «l’intelligenza artificiale, la robotica e le altre innovazioni tecnologiche» vanno impiegate «al servizio dell’umanità e alla protezione della nostra casa comune invece che per l’esatto opposto, come purtroppo prevedono alcune stime», chiosa il Pontefice. «L’inerente dignità di ogni essere umano va posta tenacemente al centro della nostra riflessione e della nostra azione».”

Pubblicato in: Etica, Filosofia e teologia, libri e fumetti, opinioni, Pensatoio, Scienze e tecnologia, Società

Dopo il fine vita il fine morte?

mortemessico5.jpg
Nicolàs de Jesùs

Articolo molto stimolante di Enrico Pitzianti (cagliaritano, laureato in semiotica, ha fondato il progetto artistico online GuardieShow ed è consulente per SpaceDoctorsLtd) pubblicato il 3 ottobre su L’Indiscreto. Magari con le classi quarte…
La ricerca scientifica, per via della velocità con cui progredisce, sta drasticamente mettendo fuori gioco il discorso etico-politico rendendolo costantemente inattuale, superato ancor prima che questo possa bodei-limitearticolarsi per far fronte all’esponenziale progressione della tecnica. Questa sembra essere l’idea di fondo che si scorge leggendo l’ultimo saggio di Remo Bodei: Limite, (Il Mulino, 2016) in cui salta agli occhi il tentativo di mettere in luce un edificio teorico che possa scardinare l’idea di ineluttabilità della morte e del destino.
La premessa è forte: i limiti, quelli fisici e tecnici, sono somparsi (o stanno scomparendo) in massa e questi, generalmente intesi, esistono in quanto barriere poste a impedirci la possibilità di infinito. Ci si riferisce all’infinito dell’immaginazione e non a quello dello spazio.
Il limite dell’intelligenza umana sarà superato dall’IA, la stessa creatività – caratteristica considerata tipicamente umana – è oggi riprodotta da algoritmi che ci obbligano a fare i conti con la distopia del nostro tempo. Gli stessi limiti biologici sono messi in gioco quando è ragionevole sostenere che l’uomo più veloce del mondo sarà in futuro più simile a Oscar Pistorius che a Usain Bolt – oggi detentore del record. Così, con un effetto a valanga, vengono a cadere anche i limiti che separano l’uomo dalla macchina, il naturale dall’artificiale e tutta una serie di separazioni che ci ostiniamo a considerare come pertinenti e non, più realisticamente, come mere semplificazioni di un mondo complesso.
Ciò che rimane tra le rovine di queste barriere sembra essere un certo presunto dovere di autoregolare lo strapotere datoci dalla tecnica. Gestirlo da saggi, limitarci, pena la catastrofe. Ne sapremo (sarebbe meglio usare il tempo presente) fare buon uso? Il giudizio si sospende anche se oggi, a prendere come esempio il riscaldamento globale, trarremo una conclusione poco ottimista.
Le biotecnologie, in particolare in campo genetico, stanno abbattendo il primo – forse l’unico – vero dogma rimasto in buona salute nell’era moderna: la morte. L’invecchiamento secondo studi recenti non è innato, ma programmato geneticamente – e quindi riprogrammabile. Con lo studio dei telomeri (le estremità del cromosoma di un organismo eucariote) si è scoperto che la loro estensione diminuisce a ogni riproduzione della cellula. La morte definitiva delle cellule, e quindi la nostra, dipende da questa sorta di timer che l’evoluzione ha costruito per arrivare alla morte programmata. Ed ecco che si scopre un enzima, detto telomerasi, capace di rallentare la progressiva riduzione dei telomeri e questo, insieme alla possibilità di utilizzo delle cellule staminali, apre le porte alla prospettiva di un allungamento della vita umana molto consistente; tanto che secondo Aubrey Grey, dell’Università di Cambridge, nei prossimi decenni si potrebbe riuscire a vivere duecento e più anni.
Se la ricerca scientifica prospetta la possibile “fine della morte” il trend dell’abbattimento dei limiti per sopravvenuta inidoneità a una soddisfacente rappresentazione di ciò che ci circonda sembra essere molto più generale. Ai progressi della tecnica corrisponde infatti un progressivo confutare convinzioni e saperi radicati e dati per scontati, un abolire idee, tradizioni e usi oramai fondati su “idee di destino” irragionevoli alla luce del sapere odierno. Non c’è più l’inscrutabile volontà divina, non c’è più sapere dei saggi che possa stupirci e manca finanche la possibilità stessa di certezze etiche – inscrivibili quasi tutte, oggi, alla categoria dell’ideologia.
Bodei sottolinea come nessuno fin’ora aveva mai dubitato del fatto che gli esseri umani potessero venire al mondo in un modo diverso dal rapporto sessuale, modalità che include rischi di infermità e deformazioni congenite. Merita un’attenzione particolare il fatto che Bodei riassuma le ultime due decadi di storia nel termine “ora”. lo, ad esempio, non ho la stessa percezione di immediatezza di tali cambiamenti dato che avevo solo sette anni quando Dolly – la pecora oggi imbalsamata in qualche museo scozzese – fu clonata. Bodei, che invece di anni all’epoca ne aveva qualcuno di più, vede da una prospettiva privilegiata l’aumento esponenziale della velocità con cui la morte ha cominciato a vedere scalfito il suo potere e il suo fascino, una parabola lunga milioni di anni che in meno di una ventina si è trasformata in quella che oramai sembrerebbe essere un’uscita di scena annunciata – per alcuni già vicina all’improrogabilità.
L’elidersi dei limiti ontologici tra specie diverse di esseri viventi (incroci e selezioni genetiche) vede il parallelo affievolirsi di altri limiti: quelli tra esseri viventi ed esser non viventi – Bodei cita le gambe di Oscar Pistorius e il pacemaker ma è ovvio che la mescolanza sia oramai capillare e abbia radici lontanissime visto che a ricercarne la genesi bisogna arrivare alla capacità umana di maneggiare oggetti passando quindi per ossidiane sbeccate, papiri e occhiali da vista.
Ciò che sfugge a Bodei è che il limite tra vivente e non vivente è in crisi a prescindere dall’odierno predominio della tecnica. Se il vivente e il non vivente stanno diventando indistinguibili non è per via del robot capace di calciare un pallone o scrivere un articolo di giornale.
Su the Scientific American Ferris Jabr descrive bene il perché “la vita non esiste”. Dato che una definizione concisa di “vita” è decisamente troppo complessa da dare, si ricorre solitamente a un elenco di caratteristiche che sarebbero le proprietà fisico-chimiche che differenziano l’essere vivente dal non vivente. L’elenco prevede: l’ordine (molti organismi sono costituiti da una singola cellula con diversi scomparti e organelli); la crescita e lo sviluppo (il cambiare dimensione e forma in modo prevedibile); l’omeostasi (cioè il mantenere un ambiente interno diverso da quello esterno); il metabolismo (lo spendere energia per crescere), la reazione a stimoli; la riproduzione (clonazione o accoppiamento per la produzione di nuovi organismi e trasferimento di informazioni genetiche da una generazione alla successiva), e l’evoluzione (la composizione genetica di una popolazione cambia nel tempo).
Peccato che l’elenco sia inconsistente, scrive Jabr: “Nessuno è mai riuscito a compilare una lista di proprietà fisiche che comprenda tutte le cose viventi ed escluda tutto ciò che etichettiamo inanimato. Quasi nessuno considera vivi i cristalli, per esempio, eppure sono altamente organizzati e crescono. Anche il fuoco consuma energia e diventa più grande, ma non è vivo. Al contrario, i batteri, i tardigradi e anche alcuni crostacei possono passare lunghi periodi di inattività durante i quali non crescono, non metabolizzano, non si modificano in alcun modo, ma non sono tecnicamente morti”.
E ancora: qualsiasi parte di organismo vivente se recisa fa crollare ulteriormente le possibilità di classificazione netta. Una coda di lucertola (Jabr fa l’esempio di una foglia) è da considerare vivente se staccata dal resto dell’animale? Le cellule che la compongono si comportano come si comportavano prima del distacco – non cessano immediatamente le loro attività. Quindi la coda muore al momento del distacco (che ne determinerà il deperimento) o invece quando ogni singola cellula che la compone sarà morta? E se rianimassimo la coda in laboratorio (come il celebre esperimento di Luigi Galvani sulle rane) potremmo considerarla viva dopo la morte?
Insomma, Bodei dice il vero quando parla di limiti valicati e ormai costituiti da termini e definizioni colabrodo, ma la sensazione è che l’aspetto caotico dell’intreccio che comprende l’esistente sia ancora più profondo di come viene descritto nel saggio – e il motivo è in quanto già descritto con le parole dello scrittore statunitense.
Alla possibile fine della morte per proclamata possibilità del suo superamento tecnico (e al suo corrispettivo culturale di “fine della morte in quanto cessazione del suo fascino”) si affianca la sconfitta della morte per assenza di differenze con ciò che dovrebbe contrapporvisi, la vita. Una coppia – quella dell’antropotecnica insieme all’impossibilità di formulare una definizione soddisfacente di vita – che rende conto di un panorama se possibile più distopico di quello che si intravede nelle parole di Bodei.
Rimane la sfida etica, quella di essere consci di questo strapotere e decidere consapevolmente di non abusarne, dei supereroi con tanto di kit di ricambio organi”.

Pubblicato in: Etica, Filosofia e teologia, opinioni, Pensatoio, Scienze e tecnologia, Scuola, Società

Pensiero e ordine

intelligenza-artificiale-301371

Per qualche anno sono stato abbonato a Diogene Magazine, una rivista di filosofia applicata alla vita quotidiana. L’altroieri è apparsa una copia in aula insegnanti e ho letto il bell’editoriale di Mario Trombino che qui riporto. Consiglio di visitare il sito e pure l’abbonamento annuale che agli studenti costa solo 10 € (quattro numeri)…

Se pensare è calcolare, quella branca di ricerche che oggi va sotto il nome di intelligenza artificiale riuscirà nel suo intento: far pensare enti progettati e costruiti dall’uomo, che non sono l’uomo. In effetti i computer già oggi sono in grado di svolgere operazioni che simulano il pensiero umano e lo superano per velocità e precisione. Queste operazioni sono frammenti del pensiero, importanti, ma frammenti: operazioni matematiche di ogni tipo, gestione di testi, immagini, connessioni di reti, e tanto altro, come ognuno di noi ben sa. E comunque simulano il pensiero, nel senso che la coscienza è un’altra cosa rispetto alle operazioni di quella che rimane una macchina. I computer fanno il loro mestiere: calcolano. E lo fanno molto bene, su svariati fronti lo fanno molto meglio di noi (e questa non è l’ultima delle ragioni per cui li usiamo).
Tuttavia è davvero solo questo il pensiero? Se si tratta di calcolare, è indubbio che il pensiero sia uno strumento eccellente, per quanto limitato sia, e l’aiuto delle macchine estende un po’ questi limiti. Vorrei fare due esempi.
Primo esempio. Ieri con due colleghi andavamo in macchina alla Biblioteca Ariostea che è in centro a Ferrara, convinti di sapere la strada abbiamo calcolato il percorso, ci siamo persi, abbiamo chiesto aiuto a due vigili, che hanno con difficoltà calcolato a loro volta il percorso (la difficoltà nasceva dal fatto che eravamo riusciti a sbagliar tutto e a infilarci in zone di difficile movimento in macchina, tra sensi unici e ZTL), abbiamo sbagliato di nuovo i nostri calcoli, ci siamo arresi e abbiamo acceso il navigatore. Tre minuto dopo eravamo sotto l’Ariostea. Se pensare è calcolare, il navigatore (che al contrario di noi è parte di una rete che comprende cose complicatissime come satelliti e molto altro) si è rivelato più bravo si noi.
Secondo esempio. Se pensare è calcolare, per uccidere un uomo o un bambino in guerra occorre calcolare per bene le proprie forza e pensare ad una strategia, supportata da tattiche vincenti. E’ indubbio che anche in questo caso un drone intelligente o un missile a sua volta intelligente fa meglio di noi: sono macchine che uccidono senza esporci a pericoli, calcolano molto meglio le traiettorie, e se pensare è calcolare pensano quindi meglio di noi. In guerra poi si possono usare i media in tanti modi, come le recenti esperienze ci hanno ricordato, e i media sono supportati da macchine. Tecnologie vincenti per veicolare pensieri – pensieri calcolati per quelle tecnologie.
Parliamone.
Pensare è calcolare? Non c’è dubbio che pensando calcoliamo molto, e il calcolo è parte del pensiero. E da questo punto di vista forse un missile intelligente è davvero intelligente. Ma è anche intelligente l’uomo che ne ordina il lancio? E intendo: il suo pensiero è ordinato?
Cartesio dà questa definizione di pensiero (è una definizione a cui sono molto affezionato, la propongo volentieri ai lettori di Diogene Magazine, nella lingua in cui Cartesio l’ha pensata e scritta, la traduco dopo): «Mais qu’est-ce donc que je suis? Une chose qui pense. Qu’est-ce qu’une chose qui pense? C’est-à-dire une chose qui doute,qui conçoit, qui affirme, qui nie, qui veut, qui ne veut pas, qui imagine aussi, et qui sent». “E dunque,cos’è che sono? Una cosa che pensa. E che cos’è una cosa che pensa? E’ una cosa che dubita, che elabora concetti, che afferma, che nega, che vuole, che non vuole, e anche che immagina, e che sente”. Chiedo scusa per il richiamo al francese, ma non volevo che ci fossero dubbi: Cartesio dice che io sono una cosa qui sente, e sentire è parte integrante del mio essere una cosa pensante.
Un pensiero ordinato è il pensiero di un uomo che fa ordinatamente non una sola, ma tutte le cose indicate da Cartesio. E le unifica nell’atto del pensare. E le bilancia, altrimenti l’ordine non c’è. Ad esempio, a voi sembra che chi ordina il lancio di un missile intelligente abbia immaginato e sentito quel che sente un bambino che lo vede scoppiare e vede morire intorno a sé i suoi?
Se non lo ha fatto, poiché questo è parte del tutto prevedibile della realtà, il suo è pensiero ordinato?
Io sto dalla parte di Cartesio e dico che non è ordinato. Cartesio, e dopo e prima di lui molti altri filosofi, ha insegnato come fare a pensare con ordine. E’ difficile? Sì. E’ possibile? Yes, we can. Oh, scusate, Cartesio è francese: Oui, nous pouvons.”