Antiqua et Nova è il nuovo documento dei Dicasteri per la Dottrina della Fede e per la Cultura e l’Educazione, che affronta il rapporto tra intelligenza artificiale (IA) e intelligenza umana, in una prospettiva che combina i principi etici, teologici e antropologici propri della dottrina cattolica. Il titolo Antiqua et Nova (che significa “Cose antiche e cose nuove”) sottolinea la continuità tra i principi eterni della morale cristiana e le sfide inedite poste dal progresso tecnologico. La nota si concentra su questioni fondamentali legate allo sviluppo, all’uso e alle implicazioni dell’intelligenza artificiale nella società contemporanea, con particolare attenzione a
- Centralità della persona umana: L‘intelligenza artificiale non può sostituire l’intelligenza umana né scavalcare la dignità intrinseca della persona. Ogni progresso tecnologico deve essere al servizio del bene comune e della crescita umana integrale.
- Etica e responsabilità: Sottolinea la necessità di sviluppare un approccio etico all’intelligenza artificiale, affinché il suo utilizzo rispetti i valori fondamentali della vita umana, della giustizia sociale e del rispetto per la creazione.
- Rischi e opportunità: Il documento evidenzia sia le opportunità offerte dalla tecnologia, come il miglioramento della qualità della vita, sia i rischi, come la manipolazione dei dati, la discriminazione algoritmica e la possibile disumanizzazione dei rapporti sociali.
- Visione integrale dell’uomo: Richiama l’importanza di riconoscere che la creatività e la razionalità umana riflettono l’immagine di Dio, e che la tecnologia, inclusa l’IA, non deve mai distorcere questa verità fondamentale.
- Collaborazione internazionale: Invita a un dialogo globale tra governi, scienziati, filosofi, teologi e imprenditori per costruire un quadro normativo che garantisca che l’intelligenza artificiale sia utilizzata per il bene dell’intera famiglia umana.
La Chiesa incoraggia il progresso scientifico e tecnologico come contributo alla creazione, ma sottolinea la necessità di un uso responsabile che rispetti la dignità umana e promuova il bene comune. Ma c’è intelligenza e intelligenza. Papa Francesco ricordara che la ricchezza della tradizione filosofica e della teologia cristiana offre una visione più profonda e comprensiva dell’intelligenza, come parte dell’essere umano, nella sua integralità creato “a immagine di Dio”. Nel caso dell’IA, l“intelligenza” di un sistema è valutata sulla base della sua capacità di produrre risposte appropriate, a prescindere dalla modalità con cui tali risposte vengono generate. Anche se l’IA elabora e simula alcune espressioni dell’intelligenza, essa rimane fondamentalmente confinata in un ambito logico-matematico, il quale le impone alcune limitazioni intrinseche. Mentre l’intelligenza umana continuamente si sviluppa in modo organico nel corso della crescita fisica e psicologica della persona ed è plasmata da una miriade di esperienze vissute nella corporeità, l’IA manca della capacità di evolversi in questo senso. Le sue caratteristiche avanzate conferiscono all’IA sofisticate capacità di eseguire compiti, ma non quella di pensare. Inoltre, qualsiasi addestramento artificiale è essenzialmente diverso dallo sviluppo di crescita dell’intelligenza umana, essendo questa plasmata dalle sue esperienze corporee: stimoli sensoriali, risposte emotive, interazioni sociali e il contesto unico che caratterizza ogni momento.
La rapida evoluzione dell’IA, con impatti in molti ambiti della vita, rappresenta un “cambiamento d’epoca” e richiede un discernimento attento per garantire che il suo sviluppo serva il progresso umano e il bene collettivo e il capitolo forse più interessante della Nota è il quinto, con una serie di proposte concrete su come l’IA possa sostenere la dignità umana e promuovere il bene comune.
L’IA e la società: un modo per servire o controllare la società? Se l’IA sta aiutando la società “a introdurre importanti innovazioni nell’agricoltura, nell’istruzione e nella cultura, un miglioramento del livello di vita di intere nazioni e popoli, la crescita della fraternità umana e dell’amicizia sociale”, tuttavia può essere usata per protrarre situazioni di marginalizzazione e discriminazione, “per creare nuove forme di povertà, per allargare il divario digitale e aggravare le disuguaglianze sociali”. Attualmente la maggior parte del potere dell’IA è concentrato nelle mani di poche e potenti aziende e questo solleva notevoli preoccupazioni etiche. Questa mancanza di una responsabilità (accountability) ben definita produce il rischio che l’IA possa essere manipolata per guadagni personali o aziendali, o per orientare l’opinione pubblica verso l’interesse di un settore, “creando meccanismi di manipolazione delle coscienze e del processo democratico”.
L’IA e le relazioni umane: il rischio di ritirarci in mondi artificiali. Come altri mezzi tecnologici, l’IA ha la capacità di favorire le connessioni all’interno della famiglia umana, ma allo stesso tempo “portare le persone a «una profonda e malinconica insoddisfazione nelle relazioni interpersonali, o un dannoso isolamento”. L’antropomorfizzazione dell’IA pone particolari problemi per la crescita dei bambini, i quali possono “sentirsi incoraggiati a sviluppare schemi di interazione che intendono le relazioni umane in modo utilitaristico, così come avviene con i chatbot”. Invece le relazioni genuine sono essenziali ed insostituibili nel favorire un pieno sviluppo della persona. “L’empatia richiede capacità di ascolto, di riconoscere l’irriducibile unicità dell’altro, di accogliere la sua alterità e anche di capire il significato dei suoi silenzi”. Pertanto, se l’IA è usata per favorire contatti genuini tra le persone, essa può contribuire in modo positivo alla piena realizzazione della persona; “viceversa, se al posto di tali relazioni e del rapporto con Dio si sostituiscono le relazioni con i mezzi della tecnologia, rischiamo di sostituire l’autentica relazionalità con un simulacro senza vita” e di non coinvolgerci in modo serio ed impegnato col mondo.
IA, economia e lavoro: l’IA ruberà il lavoro agli uomini e alle donne? Una prima reale criticità è che, per via della concentrazione dell’offerta in poche aziende, siano queste sole a beneficiare del valore creato dall’IA; tuttavia consegnare l’economia e la finanza totalmente nelle mani della tecnologia digitale significherebbe “ridurre la varietà e ricchezza di una comunità legata a un luogo particolare e a una storia concreta, con un cammino comune caratterizzato da valori e speranze condivisi, ma anche da inevitabili disaccordi e divergenze”. Inoltre, mentre l’IA promette di dare impulso alla produttività facendosi carico delle mansioni ordinarie, “i lavoratori sono spesso costretti ad adattarsi alla velocità e alle richieste delle macchine, piuttosto che siano queste ultime a essere progettate per aiutare chi lavora”. L’IA sta eliminando la necessità di alcune attività precedentemente svolte dagli esseri umani e se essa viene usata per sostituire i lavoratori umani piuttosto che per accompagnarli, “c’è il rischio sostanziale di un vantaggio sproporzionato per pochi a scapito dell’impoverimento di molti, vite umane sono preziose in se stesse, al di là del loro rendimento economico”. Inoltre Papa Francesco avverte che, come conseguenza di questo paradigma tecnocratico, “oggi non sembra abbia senso investire affinché quelli che rimangono indietro, i deboli o i meno dotati possano farsi strada nella vita”, venendo così a mancare il rispetto della dignità dei lavoratori, l’importanza dell’occupazione per il benessere economico delle persone, delle famiglie e delle società, la sicurezza degli impieghi e l’equità dei salari.
L’IA e la sanità: l’IA sembra detenere un enorme potenziale in svariate applicazioni in campo medico. “Ad esempio in aiuto all’attività diagnostica degli operatori sanitari, facilitando il rapporto tra pazienti e personale medico, offrendo nuovi trattamenti ed ampliando l’accesso a cure di qualità anche a coloro che soffrono situazioni di isolamento o marginalità”. Tuttavia, qualora l’IA venisse usata non per migliorare, ma per sostituire interamente la relazione tra pazienti e operatori sanitari – lasciando che i primi interagiscano con una macchina – si verificherebbe la riduzione di una struttura relazionale umana assai importante. Oltre a ciò, “l’uso dell’IA per determinare chi debba ricevere cure, basandosi prevalentemente su criteri economici o di efficienza”, è un caso particolarmente problematico che dovrebbe essere rifiutato. Ottimizzare le risorse significa utilizzarle in modo etico e solidale e non penalizzare i più fragili.
IA ed educazione: verso l’atrofizzazione delle menti. L’educazione è formazione integrale della persona nelle sue diverse dimensioni (intellettuale, culturale, spirituale…). Al centro di questo lavoro si trova l’indispensabile relazione tra insegnante e studente. “Gli insegnanti non si limitano a trasmettere la conoscenza, ma sono anche modelli delle principali qualità umane e ispiratori della gioia della scoperta”. Se usata in maniera prudente, all’interno di una reale relazione tra insegnante e studente e ordinata agli scopi autentici dell’educazione, l’IA può diventare una preziosa risorsa educativa, “migliorando l’accesso all’istruzione e offrendo un supporto personalizzato e riscontri immediati agli studenti”. Ma l’ampio ricorso all’IA in ambito educativo potrebbe portare “a un’accresciuta dipendenza degli studenti dalla tecnologia, intaccando la loro capacità di svolgere alcune attività in modo autonomo e un peggioramento della dipendenza dagli schermi”, visto che questi programmi si limitano a fornire risposte, invece di spingere gli studenti a reperirle da sé, oppure a scrivere essi stessi dei testi. Invece di allenare i giovani ad accumulare informazioni e a fornire veloci risposte, l’educazione dovrebbe “promuovere libertà responsabili, che nei punti di incrocio sappiano scegliere con buon senso e intelligenza”.
IA, disinformazione, deepfake e abusi: gli attuali programmi di IA possono fornire informazioni distorte o artefatte, inducendo ad affidarsi a contenuti inesatti. “In questo modo, non solo si corre il rischio di legittimare delle fake news e di irrobustire il vantaggio di una cultura dominante, ma di minare altresì ogni processo educativo in nuce”. Il pericolo costituito dai deepfake è particolarmente evidente quando sono usati per colpire o danneggiare qualcuno: “sebbene le immagini o i video possano essere in sé artificiali, i danni da questi provocati sono reali, e lasciano profonde cicatrici nel cuore di chi lo subisce», che così si sente «ferito nella sua dignità umana». Coloro che producono e condividono materiale generato con l’IA dovrebbero sempre avere cura di controllare la veridicità di quanto divulgano e, in ogni caso, dovrebbero «evitare la condivisione di parole e immagini degradanti per l’essere umano, ed “escludere quindi ciò che alimenta l’odio e l’intolleranza, svilisce la bellezza e l’intimità della sessualità umana, sfrutta i deboli e gli indifesi”.
IA, privacy e controllo: un Grande Fratello globale. La riservatezza gioca un ruolo centrale nel proteggere i confini della vita interiore delle persone, nel garantire la loro libertà a relazionarsi, a esprimersi e a prendere decisioni senza essere controllati in modo indebito. “Il rischio di un eccesso di sorveglianza deve essere monitorato da appositi enti di controllo, in modo da garantire trasparenza e pubblica responsabilità. Gli incaricati di tale controllo non dovrebbero mai eccedere la propria autorità, la quale deve sempre essere a favore della dignità e della libertà di ogni persona, in quanto base essenziale di una società giusta e a misura d’uomo”. In particolare occorre rifiutare che l’unicità della persona venga identificata con un insieme di dati, cosa che si applica in modo particolare a quegli usi dell’IA relativi al social scoring o “credito sociale”: la valutazione delle singole persone o gruppi sulla base del loro comportamento, caratteristiche o storia, successi e guadagni.
L’IA e la protezione della casa comune: un gigante sempre più affamato. Gli attuali modelli di IA e il sistema hardware che li supporta richiedono ingenti quantità di energia e di acqua e contribuiscono in modo significativo alle emissioni di CO2, oltre a consumare risorse in modo intensivo. Una tale realtà è spesso celata dal modo in cui questa tecnologia è presentata nell’immaginario popolare, laddove parole del tipo il cloud (letteralmente: la nuvola) possono dare l’impressione che i dati siano conservati ed elaborati in un reame intangibile. “Invece, il cloud non è un dominio etereo separato dal mondo fisico, bensì, come ogni dispositivo informatico, ha bisogno di macchine, cavi ed energia”. Lo stesso dicasi per la tecnologia alla base dell’IA: man mano che tali sistemi crescono in complessità, essi richiedono sempre più imponenti infrastrutture di stoccaggio (storage) dei dati. Considerando il pesante tributo che tali tecnologie esigono dall’ambiente, lo sviluppo di soluzioni sostenibili è vitale per ridurre il loro impatto sulla “casa comune”.
L’IA e la guerra: anche le armi sono diventate intelligenti. Papa Francesco ha osservato che “la possibilità di condurre operazioni militari attraverso sistemi di controllo remoto ha portato a una minore percezione della devastazione da essi causata e della responsabilità del loro utilizzo, contribuendo a un approccio ancora più freddo e distaccato all’immensa tragedia della guerra”. Una facilità permette di usare le risorse belliche ben oltre la portata del controllo umano e accelerando una corsa destabilizzante agli armamenti con conseguenze devastanti per i diritti umani; in particolare, “i sistemi di armi autonome e letali, in grado di identificare e colpire obiettivi senza intervento umano diretto, sono grave motivo di preoccupazione etica, poiché essi mancano della «esclusiva capacità umana di giudizio morale e di decisione etica”. Ormai è breve lo scarto tra macchine in grado di uccidere con precisione in modo autonomo e altre capaci di distruzione di massa, tanto che “alcuni ricercatori impegnati nel campo dell’IA hanno espresso la preoccupazione che tale tecnologia rappresenti un “rischio esistenziale”, essendo essa in grado di agire in modi che potrebbero minacciare la sopravvivenza dell’umanità o di intere regioni”. L’IA è un’estensione del potere dell’umanità e, anche se non si può prevedere tutto ciò che essa riuscirà a compiere, purtroppo è ben noto dalla storia ciò che gli esseri umani sono in grado di fare.
L’IA e il rapporto dell’umanità con Dio: il nuovo Deus ex machina. All’interno di alcuni circoli si respira un certo ottimismo a proposito delle potenzialità dell’intelligenza artificiale generale (AGI), “una forma ipotetica di IA che potrebbe raggiungere o superare l’intelligenza umana in grado di portare a progressi al di là di ogni immaginazione”. Alcuni ipotizzano addirittura che l’AGI sarebbe capace di raggiungere capacità super-umane. Man mano che la società si allontana dal legame con il trascendente, alcuni sono tentati di rivolgersi all’IA alla ricerca di senso o di pienezza, desideri che possono trovare la loro vera soddisfazione solo nella comunione con Dio. L’IA può risultare ancora più seducente rispetto agli idoli tradizionali: infatti, a differenza di questi che “hanno bocca e non parlano, hanno occhi e non vedono, hanno orecchi e non odono (Sal 115,5-6), l’IA può “parlare”, o, almeno, dare l’illusione di farlo (cf. Ap 13,15)”. Tuttavia, la presunzione di sostituire Dio con un’opera delle proprie mani è idolatria, dalla quale la Sacra Scrittura mette in guardia. Invece, occorre ricordare che l’IA non è altro che un pallido riflesso dell’umanità, essendo prodotta da menti umane, addestrata a partire da materiale prodotto da esseri umani, predisposta a stimoli umani e sostenuta dal lavoro umano. Ed è anche fallibile. Per cui, ricercando in essa un “Altro” più grande con cui condividere la propria esistenza e responsabilità, “l’umanità rischia di creare un sostituto di Dio. In definitiva, non è l’IA a essere divinizzata e adorata, ma l’essere umano, per diventare, in questo modo, schiavo della propria stessa opera”.
In conclusione, come scrisse Georges Bernanos, “il pericolo non si trova nella moltiplicazione delle macchine, ma nel numero sempre crescente di uomini abituati, fin dall’infanzia, a non desiderare altro che ciò che le macchine possono dare”. In un mondo segnato dall’IA, Papa Francesco ci ricorda che ciò che misura la perfezione delle persone “è il loro grado di carità, non la quantità di dati e conoscenze che possono accumulare, il modo in cui si adotta l’IA per includere gli ultimi, cioè i fratelli e le sorelle più deboli e bisognosi”. Questo è la misura rivelatrice della nostra intelligenza e della nostra umanità.