L’avvento degli algoritmi nei sistemi giudiziari e nel welfare

L’uso dell’intelligenza artificiale (IA) è un tema di grande attualità che sta avendo un profondo impatto sulla nostra società e sulle nostre vite. Come riporta l’articolo del New York Times La Libertà Appesa agli Algoritmi, l’impiego di strumenti di IA nei settori della giustizia e della sicurezza pubblica è sempre più diffuso tra gli Stati, europei e non. A tale proposito, abbiamo rivolto alcune domande Nicolas Kayser-Bril reporter ad AlgorithmWatch, un’organizzazione no-profit con sede a Berlino, per indagare meglio l’attuale contesto, il futuro e i problemi più rilevanti che si prospettano in tale ambito.

In termini generali, l’adozione di sistemi di IA può essere definita come la creazione di programmi in grado di simulare le capacità umane, il ragionamento e il comportamento. La vostra organizzazione ha identificato 16 Stati europei che stanno utilizzando algoritmi per questi scopi. Quali sono questi paesi e come i rispettivi governi hanno deciso di introdurre tali algoritmi?

Nella nostra prossima pubblicazione “Automating Society: Taking Stock of Automated Decision-Making in the EU” (“L’Automatizzazione della Società: il Processo Decisionale Automatizzato nell’UE”) identifichiamo i 16 Paesi. Abbiamo condotto ricerche in Francia, Italia, Germania, Estonia, Belgio, Paesi Bassi, Slovenia, Grecia, Portogallo, Spagna, Svezia, Finlandia, Polonia, Regno Unito, Danimarca e Svizzera. L’aspetto più importante è che esempi di sistemi decisionali automatizzati (Automated Decision-Making Systems, ADMS) sono stati trovati in ognuno di questi paesi. Non c’è motivo di credere che altri Paesi europei non utilizzino ADMS.

La scelta di introdurre ADMS varia notevolmente da Stato a Stato. Vi possono essere comuni che automatizzano i sistemi di erogazione del welfare, come a Trelleborg in Svezia, o governi che insistono affinché il parlamento approvi l’apprendimento automatico per individuare le frodi fiscali (come in Francia). La versione precedente del rapporto, pubblicata l’anno scorso, contiene decine di esempi provenienti da 12 Paesi.

L’intelligenza artificiale era un tema molto caro anche al fisico britannico Stephen Hawking. Nel discutere, in ottobre 2016, il futuro dell’umanità presso il Centro Leverhulme per il futuro dell’intelligenza (Centre for the Future of Intelligence, CFI), Hawking, accanto ai benefici derivanti dall’utilizzo di sistemi artificiali intelligenti, mise in evidenza i gravi rischi a cui gli esseri umani potevano andare incontro nel caso in cui avessero abusato e sottovalutato gli impatti dell’intelligenza artificiale. Disse: “Lo sviluppo della piena intelligenza artificiale potrebbe significare la fine della razza umana”. Qual è il futuro di questi strumenti e concorda con il pensiero di Hawking?

Quando o se la “piena intelligenza artificiale” arriverà è una questione dibattuta. Alcuni studiosi, come Mireille Hildebrandt, professoressa alla Vrije Universiteit Brussel, ritengono che anche parlare di intelligenza artificiale sia controproducente. La prof. sostiene infatti che l’IA riguardi “inferenze automatizzate”. Afferma che conclusioni tratte da un codice possono fornire autonomia ma non sono in grado di offrire un significato, evidenziando la differenza fondamentale tra uomo e macchina (si veda a tal proposito L’Intelligenza Artificiale del Diritto dell’Unione Europea, Giornale di Diritto Tedesco, 2020, 21 vol, no 1, p. 74-79).

Nel dicembre 2018, la Commissione Europea per l’efficienza della giustizia (European Commission for the Efficiency of Justice, CEPEJ) ha adottato la Carta Etica Europea per l’uso dell’intelligenza artificiale nei sistemi giudiziari e nei loro ambienti. La Carta include 5 importanti principi, vale a dire il principio del rispetto dei diritti fondamentali; il principio di non discriminazione; il principio di qualità e sicurezza; il principio di trasparenza e il principio di garanzia dell’intervento umano. Su tali basi, ritiene che la figura dell’Ombudsman (Mediatore europeo) possa essere un valido alleato per la tutela dei diritti umani nel campo dell’IA?

Qualsiasi legittimo sforzo volto a promuovere un uso responsabile della tecnologia e preservare i diritti fondamentali dei cittadini e dei residenti dell’UE deve essere visto e accolto con favore. Tuttavia, tali sforzi devono essere collegati a meccanismi di esecuzione per essere ritenuti producenti. Mentre vi è un ampio sostegno nel voler frenare l’utilizzo degli algoritmi, il governo e le istituzioni internazionali devono ancora fornire i mezzi necessari per far rispettare le loro linee guida e convenzioni.

Nel suo Rapporto dell’ottobre 2019 sulla povertà estrema e i diritti umani, il Relatore speciale delle Nazioni Unite, Philip Alston, ha messo in guardia contro l’introduzione dello “stato assistenziale digitale” (digital welfare state). Ha scritto, tra l’altro: “in un mondo del genere, i cittadini diventano sempre più visibili ai loro governi, ma non il contrario”. Il Comitato Globale per lo Stato di Diritto è impegnato da quattro anni all’ONU a Ginevra e all’Assemblea Parlamentare del Consiglio d’Europa a Strasburgo per il riconoscimento del “diritto alla conoscenza” come diritto umano e civile fondamentale. Cosa ne pensa di questa iniziativa?

Come detto nella risposta precedente, tali iniziative sono molto lodevoli, in quanto affrontano la questione concreta della salvaguardia dei diritti fondamentali in un contesto sociale e tecnologico in evoluzione. Tuttavia, senza un’adeguata applicazione, queste rischiano di causare confusione sul loro effettivo obiettivo. A questo proposito, il Regolamento Generale sulla Protezione dei Dati (RGPD) è esemplare. Benché le sue disposizioni siano state accolte in gran parte dalle organizzazioni per i diritti civili, l’attuazione è estremamente carente e sta portando ad uno “stallo normativo”, come riportato dall’Autorità di regolamentazione tedesca per la protezione dei dati all’inizio di questo mese. Su questo si può leggere l’articolo L’autorità di regolamentazione tedesca afferma che la commissione irlandese per la protezione dei dati è “sopraffatta” dal compito di regolamentare la grande tecnologia sull’Irish Times.

Federica Donati

Add Comment