Protagoniste di narrazioni apocalittiche e speranze messianiche, le intelligenze artificiali (in inglese AI, Artificial Intelligence), continuano a diffondersi e toccare sempre più parti della società. Come impatteranno il mondo del welfare? Alle molte prospettive di rafforzamento, innovazione e sburocratizzazione dei servizi sociosanitari, si affiancano altrettanti problemi.
La sfida per il welfare italiano, che paga un ritardo in termini di digitalizzazione, è farsi trovare pronto per prendere il meglio dalle AI senza subirle, e mantenere l’approccio all’uso delle tecnologie antropocentrico impostato dall’AI Act europeo. A che punto siamo?
Le applicazioni dell’AI ai servizi di welfare
“Lo scenario delle possibili applicazioni è sterminato” scriveva la ricercatrice Elena Amalia Ferioli riguardo l’uso delle AI per il welfare in uno studio del 2019. Cinque anni dopo, quelle applicazioni sono sempre più una realtà, a volte anche in Italia.
Un primo esempio è l’integrazione delle intelligenze artificiali nelle piattaforme che connettono gli utenti agli erogatori di servizi, anche attraverso chatbot, migliorando la connessione tra domanda e offerta. Se qui l’AI è un semplice ponte per facilitare l’accesso alle prestazioni, in altri contesti, come l’assistenza domiciliare di persone anziane e non autosufficienti, può portare a un cambio di paradigma del servizio stesso.
Il Fondo per la Repubblica Digitale punta sull’intelligenza artificiale
“Sul piano sociale, la grandissima potenzialità di queste tecnologie è nelle cure domiciliari. Questa è una rivoluzione massiccia perché comporta un’innovazione del modello di servizio per l’assistenza” spiega Ferioli. Grazie alla domotica e all’internet of things1 l’AI può aiutare l’indipendenza delle persone non autosufficienti in vari modi: monitorare a distanza le terapie e i parametri vitali dell’assistito, ricordare l’orario delle medicine, segnalare se non sono state assunte, fornire aiuto nelle faccende domestiche o contattare i caregiver e i familiari in caso di bisogno. La persona è quindi resa più autonoma a casa propria, riducendo il ricorso a strutture e i relativi costi.
Anche in ambito sanitario, l’uso dell’AI ha un potenziale enorme: la raccolta e analisi dei dati sulla salute degli individui può aiutare la prevenzione di malattie e l’elaborazione di diagnosi e trattamenti personalizzati. A queste opportunità, va aggiunto che l’AI aumenterà l’autonomia operativa dei robot chirurigici, come da Vinci, un sistema robotico già in uso anche in Italia per interventi di chirurgia mininvasiva, per esempio in ambito ginecologico o urologico.
Infine, ci sono tutte le applicazioni di AI volte a riorganizzare e semplificare l’amministrazione pubblica, per migliorare i processi di selezione del personale sanitario e socio-assistenziale e la distribuzione di risorse e servizi. Per esempio, con modelli che valutano chi deve avere priorità nel beneficiare di sussidi, esenzioni fiscali o particolari prestazioni sanitarie. In Veneto è già in uso il RAO (Raggruppamento Attesa Omogenei), un sistema di AI che valuta il quadro clinico dei pazienti e gestisce le prenotazioni e le liste di attesa per i servizi ambulatoriali.
Quali sono i rischi?
Oltre a queste opportunità, l’impatto dell’AI sul mondo del welfare porta con sé anche delle insidie. Alcune sono problemi per cui esistono già leggi, come il regolamento europeo GDPR per la protezione dei dati sensibili. In Italia l’attenzione è alta: per esempio, il precitato RAO è da un anno oggetto di un’istruttoria del Garante della Privacy per potenziali violazioni del GPDR e del Decreto Trasparenza.
Nel marzo 2024 è stato inoltre approvato l’AI Act europeo, che classifica “ad alto rischio” le applicazioni AI ai servizi pubblici essenziali, tra cui quelli sociali e sanitari. Alto rischio significa che i prodotti AI in questi settore devono rispettare una serie di obblighi prima e dopo l’ingresso nel mercato, per verificare che non impattino sui diritti umani degli utenti. Di errori e discriminazioni commessi dalle istituzioni con sistemi automatizzati esistono già casi eclatanti: nei Paesi Bassi, un algoritmo governativo ha accusato migliaia di persone di frodare le autorità fiscali, e in particolare le minoranze etniche di truffe legate ai sussidi per minori; caso simile è avvenuto in Australia, con il sistema Robodept.
Queste distorsioni sono i pericoli di una “distopia da welfare digitale” da cui l’ONU metteva in guardia già nel 2019. Nel caso delle AI, derivano da errori a monte nella progettazione dei modelli: semplificando, i bias o pregiudizi umani si riflettono nei dati con cui gli algoritmi imparano a fare scelte e previsioni, che possono rafforzare quegli stessi pregiudizi. Come? Uno studio della Rivista Italiana delle Politiche Sociali lo spiega con un esempio: se un sistema aumenta la sorveglianza di un quartiere ritenuto degradato, troverà più crimini lì perché il quartiere sarà più pattugliato degli altri, e questi dati rafforzeranno e renderanno “oggettivi” i bias sul degrado del quartiere.
Disuguaglianze e deumanizzazione
Secondo Ferioli, la normativa europea è attenta a questo tipo di discriminazioni insite nel design dei prodotti AI. “Se però guardiamo a come le tecnologie devono essere calate nei servizi pubblici, il loro utilizzo nelle politiche sociali tocca il principio di uguaglianza da almeno altri due punti di vista” continua la ricercatrice.
“Il primo rischio è che il digital divide [il divario nelle competenze digitali tra cittadini, ndr] si trasformi in social divide”. In altre parole, vincolare l’accesso di servizi sociosanitari alle tecnologie può diventare un ostacolo per chi non ha dispositivi e competenze digitali adeguate.
“Le leggi italiane garantiscono sufficientemente una gradualità nell’accesso ai servizi tecnologicamente avanzati, evitando esclusioni e trattamenti discriminatori verso una parte dei cittadini? Questa è una delle sfide regolatorie e delle istituzioni pubbliche del nostro welfare”, prosegue Ferioli. “L’altro aspetto d’impatto sul principio di uguaglianza riguarda la differenziazione territoriale nell’utilizzo di queste tecnologie”, aggiunge. L’adozione dell’AI rischia cioè di aggravare le già note differenze tra Regioni nell’offerta di servizi sociali e sanitari. Per la ricercatrice, occorre quindi una definzione nazionale dei Livelli Essenziali di Assistenza tecnologicamente avanzata, che garantisca che le opportunità dell’AI siano accessibili ovunque, e non solo nei servizi sociosanitari delle Regioni più ricche.
Oltre a queste profili di discriminazione, l’AI pone un tema di possibile di deumanizzazione dei servizi di cura, nel senso di perdita del rapporto umano tra operatore e utente. La maggior parte della letteratura, spiega Ferioli, riconosce alle AI un ruolo positivo di empowerment della persona, che riceve servizi e cure personalizzate e diventa più consapevole e autonoma nel soddisfacimento dei propri bisogni. Allo stesso tempo, questo uso delle tecnologie, per esempio nell’assistenza domiciliare o nella telemedicina, muta inevitabilmente le relazioni umane tra operatori e cittadini che usano i servizi sociali e sanitari.
“Fino a che punto deve spingersi questa trasformazione? La normativa attuale in Italia è idonea a regolarla?” si chiede Ferioli. “Lasciare la persona al centro delle politiche di welfare richiede una salvaguardia della relazione di cura, la presenza umana nella relazione del cittadino-utente-paziente con il caregiver”, risponde la docente.
Una marginalizzazione degli attori del welfare?
C’è infine un ultimo grande tema nella penetrazione delle intelligenze artificiali nel mondo del welfare: queste tecnologie, che tanto possono contribuire al bene pubblico, sono in mano a poche aziende private e, in prospettiva, questo può snaturare i servizi stessi e togliere centralità agli attori del welfare.
“Si apre un rischio di marginalizzazione della dimensione pubblica rispetto agli interessi economici dei privati coinvolti nel know-how e nella fornitura di queste tecnologie” spiega Ferioli. La natura di utilità sociale del welfare state rischia cioè di perdere rilievo in favore degli interessi delle aziende che vendono alle istituzioni i servizi di AI.
Terzo Settore e digitale: per la prima volta, dei dati Istat su cui riflettere
Non solo: anche il Terzo Settore rischia di diventare marginale se non accoglierà la sfida della digitalizzazione e del potenziamento tecnologico. Una sfida che, spiega Ferioli, passa sia dalla formazione di operatori in grado di interfacciarsi con le nuove tecnologie, sia dall’aggiornamento dei servizi che il terzo settore può offrire. Per esempio, i telefoni di primo aiuto e orientamento, come quelli forniti dalla onlus Telefono Azzurro, spesso gestiti da associazioni in convezione con i comuni, potrebbero diventare inutili con la diffusione delle piattaforme digitali.
Lo scorso marzo, Italia non Profit ha presentato un’indagine sulla digitalizzazione degli enti del terzo settore italiani: su un campione di 459 organizzazioni no profit intervistate, oltre l’80% ritiene di avere competenze scarse o molto scarse di intelligenze artificiale. L’AI è risultata per distacco la competenza digitale meno nota alle organizzazioni, sia grandi che piccole.
Per questo, secondo Ferioli, la sfida per un giusta integrazione delle intelligenze artificiali nel welfare, passerà dalle capacità di governance delle istituzioni pubbliche ma anche da quelle di aggiornamento del privato sociale.
Note
- Sistemi di dispositivi e sensori in comunicazione tra loro che permettono di automatizzare e controllare le funzioni di una casa