Un risvolto di forse non immediata lettura, segnalato con forza da papa Leone (n. 102), è l’impatto che l’IA ha sulla vita umana e sui diritti della persona. I processi di un sistema automatizzato incidono notevolmente sulle scelte che riguardano il lavoro, l’accesso ai servizi, la reputazione stessa delle persone, al punto che selezionando chi merita e chi no possono produrre nuove forme di scarto. Il Pontefice parla di usi apertamente antiumani come la manipolazione dell’informazione e la violazione della privacy, ma anche dell’insidia nascosta dovuta al fatto che i sistemi di IA si presentano come oggettivi e neutrali, mentre rispecchiano e rafforzano gli stereotipi e le ideologie di chi li ha progettati. “E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte” (n. 103).
Responsabilità politica dell’AI
“Da questo deriva una conseguenza semplice ma stringente: non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento “da usare bene”: introduce già un criterio che contraddice la dignità inalienabile della persona. Per questo, il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano” (n. 104).
“Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo” (n. 106).
Una parola cara a papa Leone: “Disarmare” l’AI
“Vorrei, infine, usare una parola che mi sta a cuore: “disarmare”. Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita.
Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale” (n. 110).