Algoritmi e compassione

Immaginiamo di essere in una stanza d'ospedale.

Abbiamo appena ricevuto una notizia che non ci aspettavamo. Siamo preoccupati, forse spaventati. Prendiamo il telefono e scriviamo quello che stiamo provando.

Dall'altra parte non c'è una persona.

C'è un sistema di intelligenza artificiale.

Eppure la risposta arriva immediatamente. Le parole sono attente, il tono è rassicurante, non c'è fretta. Il sistema sembra aver capito che non stiamo semplicemente chiedendo un'informazione: stiamo cercando qualcuno che ci aiuti a stare dentro a quel momento.

La risposta ci fa stare meglio.

A questo punto arriva una domanda che fino a pochi anni fa sarebbe sembrata quasi fantascientifica.

Può una macchina prendersi cura di noi?

La domanda non riguarda più soltanto il futuro.

L'intelligenza artificiale è già entrata nella sanità: viene utilizzata per supportare diagnosi, attività cliniche, ricerca, gestione dei servizi e comunicazione con i pazienti. Esistono anche strumenti progettati per interagire con le persone utilizzando un linguaggio sempre più naturale e risposte apparentemente empatiche. L'Organizzazione Mondiale della Sanità ha persino presentato un prototipo di promotore digitale della salute capace di offrire risposte con caratteristiche definite "empatiche".

Il punto, però, non è stabilire se una macchina sappia parlare con gentilezza.

Lo sa fare.

Il punto è capire cosa intendiamo davvero quando diciamo prendersi cura.

Perché una cosa è riconoscere la sofferenza, un'altra è comprenderla, e un'altra ancora è condividere, in qualche modo, il peso di ciò che una persona sta vivendo.

Un algoritmo può analizzare le parole che utilizziamo, riconoscere determinati schemi, individuare segnali linguistici associati a tristezza, paura o disagio e produrre una risposta coerente con ciò che abbiamo scritto.

Può persino ricordare ciò che gli abbiamo raccontato in precedenza e modificare la conversazione sulla base di quelle informazioni.

Ma cosa significa, esattamente, "capire" una persona?

È qui che la tecnologia incontra la filosofia.

Perché forse la compassione non è soltanto una risposta corretta alla sofferenza di qualcun altro. Non è semplicemente scegliere le parole giuste. È anche la relazione che si crea tra due esseri umani, la possibilità di riconoscere nell'altro qualcosa che potremmo vivere anche noi.

Una macchina può imitare i segnali della compassione, ma deve necessariamente provarla?

La domanda sembra teorica, finché non entra in una stanza d'ospedale.

Pensiamo a un paziente che si sente solo. A una persona che aspetta un esame. A qualcuno che riceve una diagnosi difficile. A un familiare che, nel cuore della notte, cerca una risposta perché non sa a chi rivolgersi.

Se un sistema artificiale riesce a rispondere immediatamente, senza giudicare, senza stancarsi e senza perdere la pazienza, perché dovremmo considerarlo necessariamente un problema?

Forse, in alcuni casi, può essere un aiuto reale.

L'IA può offrire informazioni, orientamento, supporto e continuità. Può essere disponibile quando una persona non riesce a trovare subito un professionista. Può contribuire a ridurre alcune barriere di accesso e può affiancare il lavoro degli operatori sanitari. L'OMS riconosce proprio questo potenziale, ma sottolinea contemporaneamente la necessità di sicurezza, equità, trasparenza, tutela dei diritti e responsabilità umana.

Il problema nasce quando iniziamo a confondere l'effetto della cura con la cura stessa.

Se una risposta artificiale ci fa sentire meno soli, quella sensazione è reale.

Anche se dall'altra parte non c'è nessuno che si sente coinvolto.

È un paradosso difficile da ignorare.

Un'emozione può essere autentica anche quando l'interlocutore che l'ha provocata non prova nulla e questo cambia profondamente il modo in cui dovremo pensare alla relazione tra tecnologia e salute.

Forse non dovremo più chiederci soltanto se una macchina sia capace di essere empatica.

Dovremo chiederci che cosa succede a noi quando iniziamo a sentirci compresi da qualcosa che non può comprenderci nel senso umano del termine.

La questione diventa ancora più delicata quando l'intelligenza artificiale entra negli spazi più vulnerabili della vita.

Perché una persona malata non è soltanto un insieme di dati, non è la somma dei sintomi, dei parametri, della storia clinica e delle parole che utilizza ma c'è un volto.

C'è una paura, c'è una famiglia, ci sono ricordi e ci sono silenzi che non vengono pronunciati e che spesso, nella relazione di cura, dicono più delle parole.

La tecnologia può essere straordinariamente brava a elaborare ciò che è visibile.

La cura, però, spesso comincia proprio davanti a ciò che non è facilmente misurabile.

Per questo la questione non dovrebbe essere se l'intelligenza artificiale sostituirà l'empatia umana.

È una domanda quasi troppo semplice.

La domanda più interessante è quale parte della cura vogliamo affidarle.

Possiamo delegare un'informazione, possiamo delegare una previsione, possiamo delegare una parte della burocrazia e possiamo persino delegare alcune forme di ascolto, ma siamo sicuri di voler delegare anche il momento in cui una persona ha bisogno di sentire che, dall'altra parte, c'è qualcuno che considera importante ciò che le sta accadendo?

L'Europa sta già affrontando questo problema anche dal punto di vista normativo. L'AI Act adotta un approccio basato sul rischio e considera ad alto rischio diverse applicazioni dell'intelligenza artificiale che possono incidere sulla salute, sulla sicurezza e sui diritti fondamentali; tra gli ambiti considerati compare anche il riconoscimento delle emozioni in determinate circostanze.

Non è un dettaglio, significa che non stiamo discutendo soltanto di innovazione tecnologica ma stiamo decidendo quali parti della nostra esperienza possono essere trasformate in dati, quali decisioni possono essere affidate a un sistema e quali confini devono rimanere chiaramente umani.

Forse, però, la tecnologia ci sta costringendo a riscoprire qualcosa che avevamo smesso di definire.

Che cosa significa davvero prendersi cura?

È dare la risposta giusta? È essere disponibili ventiquattro ore su ventiquattro? È ricordare ogni dettaglio? È trovare le parole che fanno sentire meglio?

Oppure è anche esserci, con tutto ciò che comporta essere umani: l'incertezza, la vulnerabilità, la possibilità di sbagliare, il silenzio, la presenza fisica, persino il non sapere cosa dire?

Forse il futuro della sanità non sarà una scelta tra persone e algoritmi.

Sarà molto più complicato.

Potremmo avere macchine capaci di vedere ciò che noi non vediamo, sistemi capaci di ricordare ciò che dimentichiamo, strumenti capaci di prevedere un rischio prima che diventi evidente.

E contemporaneamente avremo ancora bisogno di qualcuno che, davanti a una persona spaventata, sappia quando parlare e quando semplicemente rimanere lì.

L'intelligenza artificiale potrebbe diventare sempre più brava a simulare una conversazione umana.

La vera sfida sarà fare in modo che questa capacità aumenti la qualità della cura senza farci dimenticare che una simulazione e una relazione non sono necessariamente la stessa cosa.

Forse un giorno non ci chiederemo più se un algoritmo sia capace di essere compassionevole.

Lo daremo per scontato.

E proprio allora dovremo porci la domanda più difficile: quando ci sentiremo davvero ascoltati, sarà ancora importante sapere chi, o che cosa, ci sta ascoltando?