Tra intelligenza e giustizia artificiale

Margherita Ramajoli sulla rivista Il Mulino scrive un pezzo sul rapporto tra Intelligenza Artificiale e mondo della giustizia dal titolo Siamo pronti per una giustizia artificiale? E’ del 25 marzo.

“Disciplinare una tecnologia inafferrabile e in costante evoluzione come l’intelligenza artificiale non è un’impresa facile. Ciò spiega perché il Regolamento sull’intelligenza artificiale (AI Act), approvato la scorsa settimana dal Parlamento europeo – manca solo il passaggio formale da parte del Consiglio –, ha avuto una gestazione lunga oltre tre anni ed entrerà in vigore gradualmente, tra la fine del 2024 e il 2026. La normativa, inevitabilmente complessa, segue un approccio fondato sul rischio e regola l’intelligenza artificiale sulla base della sua attitudine a causare danni alla società, modulando gli obblighi introdotti in base al diverso grado di pericolo di lesione per i diritti fondamentali: più alto è il rischio paventato, maggiori sono gli oneri e le responsabilità dei fornitori, distributori e operatori dei sistemi di IA.
Il Regolamento è conscio del fatto che l’applicazione dei sistemi di IA nello specifico campo della giustizia produce benefici, ma altrettanti problemi. L’AI Act parla di risultati vantaggiosi sul piano sociale che la giustizia digitale porta con sé. Più nello specifico, l’uso dell’IA nel campo della giustizia consente il raggiungimento degli obiettivi propri della giustizia standardizzata: l’efficienza, perché l’IA può essere impiegata in massa a scale e velocità di gran lunga superiori a quelle raggiungibili da qualsiasi essere umano o collegio di esseri umani nelle attività di archiviazione, indagine e analisi delle informazioni giudiziarie; l’uniformità, perché per definizione l’IA elimina spazi di creatività e fornisce risposte prevedibili.
Tuttavia, l’affidarsi a sistemi di IA nel processo decisionale presenta anche punti di debolezza e pone due problemi: il problema della scatola nera e il problema del pregiudizio dell’automazione. Si parla di scatola nera perché esiste una tensione intrinseca tra il dovere del giudice di motivare le proprie decisioni e la limitata «spiegabilità» di alcuni sistemi di IA. Il procedimento trasformativo degli input in output può risultare opaco al punto tale che gli esseri umani, compresi pure quelli che hanno ideato e progettato il sistema, non sono in grado di capire quali variabili abbiano esattamente condizionato e determinato il risultato finale. Questa opacità limita, se addirittura non impedisce, la capacità del giudice che si serve del sistema di IA di giustificare le decisioni assunte sulla scorta del sistema.
Il pregiudizio dell’automazione allude invece al fenomeno generale per cui gli esseri umani sono propensi ad attribuire una certa autorità intrinseca ai risultati suggeriti dai sistemi di IA e nella nostra quotidianità abbondano esempi di questo sottile condizionamento. Di conseguenza, l’applicazione dei sistemi IA nel campo della giustizia può soffocare l’aggiornamento valoriale, visto che i sistemi di IA imparano dal passato e tendono a riprodurre il passato. Se nel futuro un giudice facesse affidamento, sia pure inconsciamente, solo sui sistemi di IA, il cosiddetto effet moutonnier [una naturale tendenza a conformarsi alla maggioranza, ndr] spingerebbe i giudici verso un non desiderabile conformismo giudiziario, sordo alle trasformazioni sociali ed economiche.
Se queste sono le questioni poste dalla giustizia artificiale, le soluzioni offerte dal diritto risultano significative, anche se non sempre facili da applicare. I sistemi di IA destinati all’amministrazione della giustizia, tranne quelli impiegati per attività puramente strumentali (l’anonimizzazione o la pseudonimizzazione di decisioni, documenti o dati giudiziari, le comunicazioni tra il personale e così via), sono reputati ad alto rischio e come tali sono sottoposti a rilevanti limiti e obblighi. Secondo il Regolamento «il processo decisionale finale deve rimanere un’attività a guida umana» e quindi l’IA può fornire sostegno ma mai sostituire il giudice. Questa riserva d’umanità, ora solennemente proclamata dal legislatore europeo, sottende la consapevolezza che l’attività giudiziaria ha una sua unicità, non è formalizzabile a priori e non è riproducibile artificiosamente. Per giudicare non sono sufficienti solo conoscenze giuridiche, perché il ragionamento giudiziario richiede una varietà di tecniche cognitive, l’apprezzamento dei fatti complessi e sempre diversi, l’impiego dell’induzione e dell’analogia, l’impegno nell’argomentazione, l’uso di ragionevolezza e proporzionalità.
Tuttavia, nel passaggio dal piano astratto proclamatorio al concreto piano applicativo riemergono alcune questioni irrisolte. Anzitutto, non è immediato individuare né quale soggetto istituzionale sia legittimato a controllare il rispetto della riserva d’umano nelle decisioni giudiziarie, né quali strumenti efficaci possano essere impiegati a tal fine. In secondo luogo, non può dirsi superato il rischio del pregiudizio dell’automazione, perché l’effetto gregge potrebbe spingere il giudice ad aderire al risultato algoritmico e a non assumersi la responsabilità di discostarsene anche quando tale risultato non risulti cucito su misura sulle specificità della lite in esame. Ancora, per quanto l’AI Act abbia introdotto specifici obblighi per i fornitori di IA e in particolare l’obbligo di procurare ai giudici e alle autorità di vigilanza le «istruzioni per l’uso», comprensive delle specifiche «per i dati di input o qualsiasi altra informazione pertinente in termini di set di dati di addestramento, convalida e prova», queste fondamentali informazioni vanno condivise solo «ove opportuno». In altri termini, il Regolamento rende non necessaria, ma discrezionale la resa di informazioni proprio di quei dati di input che determinano in modo significativo gli output con cui i giudici dovranno fare i conti. Torna così anche il problema della scatola nera, quella tensione intrinseca tra il dovere del giudice di motivare le proprie decisioni e la limitata comprensibilità e, di conseguenza, spiegabilità di alcuni sistemi di IA.
In ultima analisi, i detentori della tecnologia – sviluppatori di sistemi di IA – si ergono a veri e propri poteri privati, rispetto ai quali l’ordinamento giuridico, ma ancora prima la politica, devono ancora ingegnarsi a trovare efficaci contrappesi.
Anche se non possiamo realisticamente ritornare a un mondo senza intelligenza artificiale, sia in generale, sia in campo giudiziario, le questioni da affrontare sono ancora tante e il diritto è solo uno dei tanti strumenti per cercare di risolverle.”

Gemme n° 300

i-segreti-di-gray-mountain-1417549563

Ho portato il libro I segreti di Gray mountain di John Grisham non tanto per il contenuto quanto per la professione della protagonista. Lei, giovane avvocato, è costretta a trasferirsi a causa della crisi del 2008 da New York ai monti Appalachi, dove lavora gratis come assistente legale. Io vorrei diventare avvocato o giudice per garantire anche chi non può permettersi un avvocato: sono persone che vanno tutelate. Per me la giustizia è alla base di tutto; non so come mi sia nata questa mia passione. Farei di tutto per raggiungere l’obiettivo. Mi pongo però una domanda quando sento di alcuni giudici corrotti: come fanno dopo tanti studi e preparazione?”. Questa la gemma di E. (classe terza).
Amo i libri di Grisham, ne ho letti parecchi. Riporto da uno di essi, L’ultimo giurato, una citazione che mi sta molto a cuore: “Questi due capisaldi del diritto, la presunzione d’innocenza e la prova oltre ogni ragionevole dubbio, erano fattori di garanzia per tutti, giurati inclusi, sanciti da quegli uomini depositari di saggezza che avevano scritto la nostra Costituzione e la Carta dei diritti.”

“Sia circonciso tra voi ogni maschio”

Cosa deve fare un medico se si presenta una coppia che chiede di circoncidere il figlio? Ferdinando Fava è Antropologo all’Università di Padova e su Popoli ha risposto alla domanda, facendo riferimento alla sentenza di un tribunale tedesco.

circoncisione (copia).jpg“È lecito per un medico circoncidere un bambino per motivi religiosi su richiesta dei suoi genitori? Secondo un tribunale tedesco, questa pratica contiene alcuni elementi per la configurazione di un reato, ma poiché la giurisprudenza al riguardo non è uniforme, se il medico accettasse commetterebbe un inevitabile errore di diritto, proprio per questa mancanza di omogeneità. Egli agirebbe dunque non solo senza intenzionalità dolosa, ma neppure per negligenza o superficialità. Così si conclude la sentenza pronunciata il 7 maggio 2012 dal tribunale regionale di Colonia, resa pubblica il 26 giugno successivo, e che è immediatamente rimbalzata, in parte deformata, nel circuito mediatico scatenando reazioni molto contrastanti e dai toni molto duri. Perché questa sentenza e questa risonanza? I fatti cui si riferisce risalgono al novembre 2010. I giudici del tribunale respingevano il ricorso della procura contro l’assoluzione, in primo grado, di un medico incriminato di avere arrecato lesioni personali a un bambino di quattro anni, nella sentenza indicato come «K1» (per tutelarne la minore età), circoncidendolo nel proprio ambulatorio. I genitori del bambino, a distanza di due giorni dall’intervento, erano dovuti ricorrere al pronto soccorso del dipartimento pediatrico dell’ospedale universitario della città per arginare un’inarrestabile emorragia. Il perito esterno cui i giudici si erano rivolti confermava che il medico aveva agito correttamente secondo gli standard sanitari correnti (l’anestesia locale, la sutura di quattro punti e la visita domiciliare la sera stessa del giorno dell’intervento) ma asseriva anche che la circoncisione, almeno in Europa centrale, non è assolutamente necessaria come cura profilattica. I giudici respingevano l’appello confermando il giudizio di assoluzione del tribunale di primo grado.

Il dispositivo della sentenza è proprio ciò che è all’origine del dibattito che ne è seguito, multiforme e dai toni molto aspri. Ci sembra utile ripercorrerlo brevemente. La corte stabiliva che il bisturi usato con perizia dal medico incriminato non poteva essere considerato uno strumento pericoloso (come sostenuto invece dalla procura), ma riconosceva ciononostante che al bambino era stata certo arrecata una lesione personale. Secondo il tribunale, l’adeguatezza sociale della circoncisione per motivi religiosi, anche se operata in modo corretto da un medico su un bambino incapace di dare il proprio consenso e quindi solo grazie a quello dei suoi genitori, non la assicura dal non presentare elementi di reato. Detto diversamente, per la circoncisione non si prospetta apparentemente il problema della sua corrispondenza a un’ipotesi di reato, perché essa «va da sé» cioè è «socialmente invisibile, generalmente accettata e storicamente approvata e quindi non soggetta allo stigma formale della legge». Questo, però, non implica che la sua conformità alla aspettativa sociale la preservi dalla presenza di possibili elementi di reato: per il tribunale questa conformità dice proprio l’impossibilità di formulare un giudizio di disapprovazione legale. L’azione del medico inoltre, secondo il tribunale, non può essere giustificata dal consenso: il bimbo di quattro anni non ha la maturità per darlo, e quello dei genitori non giustifica la lesione personale che ne consegue. Il diritto all’educazione dei figli concerne quelle misure prese nel loro migliore interesse e questo non può risolversi in una lesione personale permanente.

Pertanto per il tribunale, a questo punto facendo appello alla letteratura accademica, la circoncisione di un bambino non capace di consenso non è una pratica che promuove il suo più grande interesse, che sia quello di evitare la sua esclusione dalla sua stessa comunità religiosa o di adempiere il diritto costituzionale dei genitori alla sua educazione. Questo diritto fondamentale è, infatti, secondo la corte, ristretto da quello altrettanto fondamentale del bambino alla propria integrità fisica e all’autodeterminazione. I diritti civili e politici non sono limitabili dall’esercizio della libertà religiosa: vi sarebbe dunque una fondamentale «barriera costituzionale» al diritto all’educazione dei genitori. Nel giudizio di proporzionalità cui ricorrere quando questi due diritti fondamentali vengono a collidere, la violazione irrimediabile dell’integrità fisica del bambino dovuta alla circoncisione implicata per la sua educazione religiosa, non è commisurata a questo fine anche se necessaria. Essa, infatti, cambia il suo corpo in modo irreversibile e irreparabile: cambiamento che potrebbe in seguito essere contrario agli interessi stessi del bambino, al suo decidersi indipendente, più avanti negli anni, circa la propria appartenenza religiosa. Il diritto fondamentale dei genitori, secondo i giudici, non sarebbe inaccettabilmente meno leso nel chiedere loro di aspettare il momento in cui il figlio possa decidere da se stesso l’assunzione di un segno visibile della propria affiliazione alla religione, in questo caso, musulmana. Il tribunale confermava così l’assoluzione del medico, senza colpa, per avere commesso allora un inevitabile errore sulla legge penale.

Il dibattito che la sentenza ha scatenato è apparso subito composito, sviluppandosi su piani interpretativi molteplici e correlati: quello giuridico, quello religioso, quello socio-culturale e politico. Ma non poteva essere diversamente. Nella sentenza, infatti, si cristallizzano le tensioni chiave che segnano il divenire oggi delle nostre democrazie liberali e i cui tentativi di soluzione, a loro volta, contribuiscono a costruirne la coesione e l’identità: la tensione e l’articolazione tra i diritti universali (umani, civili e politici) e quelli particolari (religiosi e culturali), tra il diritto del singolo, quello del suo gruppo culturale e della società più ampia in cui sono situati, la natura e i limiti dell’intervento dello Stato sull’educazione dei figli nella privacy famigliare. E tutto questo in una congiuntura storica nella quale i giudici, bisogna notarlo, proprio per l’oggetto, il dispositivo della sentenza e il contesto politico e geografico, si espongono all’accusa, tanto superficiale quanto politicamente strumentale, di islamofobia, di antisemitismo, o più in generale d’intolleranza alla religione di matrice razionalistica e liberale.

La sentenza tenta di definire una posizione terza non riconducibile alla separazione rigida e riduttiva che pone in tensione la legge dello Stato da una parte e le pratiche culturali e religiose dei suoi cittadini dall’altra. Essa appare molto più articolata delle caricature che di essa sono state fatte in molte delle sue critiche roventi. Non è nostro obiettivo valutare se essa riesca a salvare tutti i diritti in gioco e se l’argine che pone, la priorità dell’integrità fisica del bambino, sia giuridicamente fondato. Ma certo è che essa, mettendo in primo piano la circoncisione maschile religiosa, non solo ci invita ad approfondire il senso di una pratica che agli orecchi europei suona ancora scontata, innocua o salutistica, sopratutto nella sua versione medicalizzata routinaria, ma anche – e da qui allargando il cerchio dell’analisi -, a sollevare il problema dell’equità di genere rispetto alla facile criminalizzazione della sola circoncisione religioso-culturale femminile o ancora, estendendo l’ascolto e lo sguardo, ad analizzare l’iscrizione corporea del rapporto tra individuo e società come esso si configura proprio nella sempre più diffusa e invadente chirurgia estetica genitale. Insomma, è l’occasione per interrogarci oggi sulle pratiche di manipolazione dei corpi. Anche attraverso queste, il «corpo sociale» ormai globalizzato mantiene le sue molteplici gerarchie e pone in essere i propri confini, inscrivendoli nel corpo individuale proprio perché corpo sessuato. Quest’ultimo è portatore, infatti, rispetto al primo, di un’irriducibile ambiguità: fonte rassicurante della riproduzione del corpo sociale, esso è anche la costante minaccia del suo disfacimento. L’iscrizione corporea ordina il corpo sessuato al corpo sociale, ma di quest’ultimo ne dissimula così la radicale precarietà e dipendenza. Queste pratiche del corpo sono dunque «fatti ambivalenti»: sono fatti sicuramente religiosi e culturali, i cui rituali cristallizzano ideologie e dotano gli individui d’istruzioni per agire circa la personalità, i rapporti di genere, la cosmologia, lo status sociale, ma sono anche «fatti» irriducibilmente fisio-anatomici, modifiche irreversibili, che non possono non interpellare la riflessione etica e l’impalcatura giuridica, trovando nei diritti umani quel possibile fondamento condiviso, tanto universale quanto precario e problematico.”