Papa Leone: restiamo umani

Ho letto la parte dell’Enciclica di Papa Leone che riguarda l’intelligenza artificiale. Ne riporto qui alcuni passaggi, perchè a mio parere contengono alcuni temi di fondamentale importanza per l’umanità nei prossimi anni.

96. Di fronte a questa concentrazione di potere nel mondo digitale, i grandi principi della Dottrina sociale diventano criteri per giudicare e discernere il nuovo scenario: la dignità inalienabile della persona, il bene comune, la destinazione universale dei beni, la sussidiarietà, la solidarietà e la giustizia sociale. […] Mi limito a richiamare alcuni elementi essenziali per un discernimento morale e sociale che custodisca il primato della persona, affinché sia sempre l’intelligenza umana, con la sua coscienza e la sua libertà, a guidare le innovazioni tecniche e a stabilirne con responsabilità l’uso e i limiti. […]

99. Non è possibile dare una definizione univoca e completa dell’IA. Ciò che possiamo affermare è che occorre evitare l’equivoco di equiparare questa “intelligenza” a quella umana. Questi sistemi imitano alcune funzioni dell’intelligenza umana. Nel farlo, spesso la superano per velocità e ampiezza di calcolo, offrendo benefici concreti in numerosi campi. E tuttavia, questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze. Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente. Anche quando tali strumenti vengono presentati come capaci di “apprendere”, il loro modo di farlo è diverso da quello della persona umana. Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà; è piuttosto un adattamento statistico a partire da dati e riscontri, che può essere molto efficace, ma non implica una crescita interiore.

[…] Nell’uso personale, tre aspetti, in particolare, devono essere tenuti in debita considerazione: la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana. La velocità e la semplicità con cui è possibile ottenere indicazioni, elaborazioni complesse, contenuti mediatici e forme di assistenza concreta semplificano le nostre vite, ma possono anche abituarci a delegare troppo e a cercare risposte pronte, indebolendo il giudizio personale e la creatività. L’impressione di oggettività che le risposte e le proposte di questi sistemi possono suscitare rischia di farci dimenticare che esse riflettono i parametri culturali di chi li ha progettati e addestrati, con tutti i loro pregi e difetti. L’imitazione artificiale di una comunicazione umana positiva – parole di consiglio, di empatia, di amicizia, di amore – può risultare gratificante e persino utile, ma in utenti poco consapevoli può trarre in inganno e illudere di essere in relazione con un autentico soggetto personale. Quando la parola viene simulata, essa non costruisce una relazione, ma una sua parvenza. L’imitazione artificiale della relazione di cura o di accompagnamento può diventare pericolosa quando si insinua in un contesto povero di relazioni e di affetti reali: allora il rischio non è tanto che una persona creda di parlare con un’altra persona, ma che perda il desiderio stesso di cercare davvero l’altro.

[…]

102. L’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono «la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona», [125] e possono così produrre nuove forme di scarto. Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati.

103. Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte.

104. Da questo deriva una conseguenza semplice ma stringente: non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento “da usare bene”: introduce già un criterio che contraddice la dignità inalienabile della persona. Per questo, il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano.

[…]

106. Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo.

107. Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi.

108. In effetti, come accade per ogni grande svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Alla luce del bene comune e della destinazione universale dei beni, questo fenomeno desta seria preoccupazione: piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli.

[…]

112. Dopo aver richiamato le questioni della responsabilità e del governo dell’IA, è necessario tornare al nostro tema centrale: che cosa significa custodire l’umano. Il rischio non è solo che alcune tecnologie siano usate male, ma che il paradigma tecnocratico in cui siamo immersi, potenziato dalla rivoluzione digitale e dall’IA, faccia sembrare giusta e normale una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, eliminare l’imprevisto, controllare ogni cosa. Quando l’efficienza diventa misura del valore, l’essere umano è tentato di pensarsi come un progetto da ottimizzare più che come una creatura chiamata alla relazione e alla comunione.

[…]

114. La qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione. La capacità di saperci prendere cura gli uni degli altri è una dimensione importante del nostro essere umani. Questa capacità si apprende e si perfeziona con l’esperienza. Leggere le fiabe a un bambino, fare compagnia a una persona anziana, rendere accogliente uno spazio, sono gesti che si vivono in ambiente familiare, ma che ci aiutano ad apprendere e a interiorizzare l’importanza della cura a livello sociale e ci allenano a riconoscere l’altro come persona degna di attenzione. La tecnologia può sostenere anche la cura reciproca tra persone, ad esempio se offre strumenti che aiutano a prevedere e organizzare, ma senza esautorare la libertà e il giudizio dell’essere umano, soggetto delle relazioni e responsabile delle decisioni.

Qui l’Enciclica completa