SANITÀ. SE GOOGLE SA PIÙ DEL MEDICO: PRO E CONTRO DELLA INTELLIGENZA ARTIFICIALE

Roma – Una giornata di approfondimento sui temi legati all’applicazione dell’Intelligenza Artificiale in ambito sanitario con una serie di interventi di esperti moderati dalla vice presidente di Anorc Professioni, Sarah Ungaro, per offrire un quadro completo del fenomeno, dalle iniziative in essere per lo sviluppo della IA in Italia alle linee guida etiche indicate dall’Ue, dai principi di machine learning alle questioni legate alla protezione dei dati personali, alla sicurezza dei dispositivi (come i robot per la chirurgia o i wearable) e il flusso di dati che essi generano. Infine, gli aspetti giuridici legati alla funzione di controllo dei sistemi e i possibili scenari in caso di errore. Questo e’ stato il webinar ‘L’Intelligenza Artificiale a servizio della Sanita” andato in streaming lo scorso 20 novembre sul canale YouTube di Anorc.
La prima ad intervenire e’ stata Enrica Massella Ducci Teri, responsabile Servizio Gestione Ecosistemi Area Trasformazione Digitale presso AgID, sul tema del fascicolo elettronico sanitario e delle regole di interoperabilita’. “Il lavoro che e’ stato fatto finora- ha detto la dottoressa Massella- ha portato a realizzare l’infrastruttura nazionale e a far si’ che tutte le regioni si siano dotate del fascicolo sanitario elettronico che e’ stato sviluppato coerentemente secondo regole di interoperabilita’ comuni. Attualmente, anche grazie al decreto rilancio che ha previsto proprio una serie di misure per agevolare l’attivazione e la diffusione del fascicolo elettronico sanitario. Il fascicolo- ha aggiunto- sta rappresentando il punto di convergenza di una grande ricchezza di informazioni. Ma occorre passare dalla logica del documento alla logica del dato. Da sempre si e’ lavorato affinche’ questa enorme mole di dati che via via sta crescendo possa poi essere messa a disposizione dello stesso sistema sanitario nazionale, ma soprattutto del mondo della ricerca. Riguardo alla sicurezza dei dati- ha continuato Massella- in tutte le iniziative che vengono portate avanti c’e’ il costante raccordo con il Garante della Privacy perche’ la sicurezza informatica e’ da sempre il punto di attenzione massimo. Ora- ha proseguito- e’ necessaria la standardizzazione dei documenti secondo il formato che e’ stato stabilito a livello europeo. È importante che il fascicolo rivesta un ruolo centrale in quanto e’ il punto unico di accesso delle informazioni critiche dell’assistito e puo’ servire ad arrivare a cure sempre piu’ personalizzate soprattutto per i pazienti cronici. Quindi non deve essere un mero contenitore di dati ma una infrastruttura di servizio”.
Il medico e ricercatore, esperto indipendente dell’osservatorio Software As Medical Device realizzato da ministero della Salute e Iss, Sergio Pillon, nell’intervento successivo ha testimoniato proprio l’efficacia della condivisione dei dati, raccontando che “con il Cnr abbiamo provato a processare con IA le Tac e le risonanze fatte in Pronto Soccorso per altri motivi provando ad estrarre informazioni relative alla diagnostica precoce di un carcinoma del polmone, lesione per cui ancora oggi la cura e’ proprio la diagnosi precoce”. La ricerca ha portato a concludere che “un servizio di rete messo a disposizione delle aziende ospedaliere consente fattivamente la possibilita’ di una diagnosi precoce”. Ma il problema numero uno sul fascicolo elettronico sanitario, secondo Pillon, e’ la “computabilita’ dei dati che si raccolgono che devono essere analizzabili attraverso meccanismi di machine learning. Un’altra fonte importantissima di dati- ha aggiunto- non e’ contenuta nell’alveo prettamente sanitario. I dati sanitari sono la punta dell’iceberg, a noi medici interessa quello che c’e’ sotto e Google e Apple lo sanno molto meglio di noi. Si tratta di quei dati provenienti dai dispositivi che indossiamo i cosiddetti “wearable”, ai quali secondo Pillon sarebbe utile avere accesso per scopi sanitari.
Stefano Quintarelli, del Comitato scientifico copernicani e Member of the AI High Level Expert Group at European Commission, ha posto l’attenzione sulla funzione predittiva dell’IA. ‘L’intelligenza artificiale e’ un modo diverso di fare software reso attuale dalla potenza di calcolo- ha precisato Quintarelli- che consente di affrontare problemi nuovi di percezione e classificazione basandosi sull’estrazione di correlazioni tra i dati osservati nella realta’ per fare delle previsioni’. Trattandosi di un sistema statistico, tuttavia, e’ per definizione soggetto all’errore, che e’ fisiologico, e pertanto non deve scoraggiare dall’utilizzare le tecnologie. ‘Chi utilizza questi strumenti- ha detto- deve essere consapevole che questi meccanismi sbagliano, anche se poco’. Ci deve essere sempre un medico, dunque, a confermare la validita’ dei dati.
Tema centrale assieme a quello delle applicazioni e’ la sicurezza. Ne ha parlato Andrea Rigoni, esperto in Cybersecurity, componente dell’osservatorio Mise sull’Intelligenza Artificiale. ‘L’intelligenza artificiale- ha spiegato- e’ come un bambino che si nutre di dati, e’ in grado di produrre delle analisi basate su di essi, ma e’ anche in grado di apprendere e quindi di crescere proprio come avviene in eta’ scolare. Questo e’ un cambio di paradigma anche da un punto di vista di sicurezza informatica: cambia quello che cerchiamo di proteggere, che non e’ piu’ solo l’algoritmo, ma sono anche i suoi effetti. Perche’ nell’intelligenza artificiale con un determinato input avro’ degli output che continueranno a cambiare. Oggi- ha considerato Rigoni- dobbiamo porci due problemi sulla cyber sicurezza: il primo sulla protezione dei dati a breve termine. Il secondo, a medio e lungo termine, che guarda la pedagogia degli algoritmi’. Secondo l’esperto bisogna preoccuparsi della qualita’ delle informazioni con cui nutriamo intelligenza artificiale perche’ da questa dipende il comportamento dell’algoritmo. ‘La mia preoccupazione- ha detto- e’ che ad una forte attenzione allo sviluppo della intelligenza artificiale, non corrisponde altrettanta attenzione agli aspetti di security e safety. Dobbiamo preoccuparci di sviluppare modelli di safety e security che non scimmiottano quelli tradizionali. Dobbiamo alzare l’attenzione sul tema, per esempio inserendo non solo dei requisiti, ma degli incentivi a fare ricerca in questo ambito. Abbiamo bisogno oggi di strumenti e di cominciare a stabilire dei principi di security che possono considerare scenari che oggi possono sembrare di fantascienza’.
Sul tema della progettazione e delle applicazioni dell’Intelligenza Artificiale e’ intervenuto Antonio Bartolozzi, contract professor dell’Universita’ di Trieste, Medical Device Software Design-Software Consulting Services. ‘L’Intelligenza artificiale- ha dichiarato- non solo aiuta la gestione dei dati ma si puo’ sostituire al medico nel caso in cui si accorge di un errore. L’esempio potrebbe essere la prescrizione di un farmaco da parte di un medico: il sistema vede che la dose prescritta non e’ compatibile con i parametri vitali del paziente (esempio: farmaco che abbassa la pressione per un paziente con la pressione troppo bassa) e potrebbe quindi sostituire il medico, prendere l’iniziativa e correggere la quantita”. Ma perche’ sistemi di questo tipo siano veramente efficienti ci vuole, secondo Bartolozzi, progettazione, zelo nell’adozione degli standard e continue analisi dei rischi. Come avviene per l’elaborazione dei sistemi di pilotaggio automatico degli aerei. L’intervento si e’ concluso con una riflessione sul potenziale del computer, che Turing creo’ per primo per crackare il sistema Enigma. Ma l’eredita’ che ci ha lasciato Turing e’ la consapevolezza, secondo Bartolozzi, ‘che non esiste un algoritmo in grado di decidere su proprio funzionamento, il computer non puo’ capire se’ stesso e non puo’ evitare gli errori’.
Lorenzo Paganelli, esperto di I.A. della societa’ Gmed Srl, ha portato la sua attuale esperienza di collaborazione con i Ssn regionali, in particolare per il sostegno all’attivita’ di contact tracing per i casi di Covid-19. Un’altra funzione dell’IA rispetto a quella predittiva, resa possibile dalla creazione di un ‘assistente virtuale’ capace di contattare per via telefonica il cittadino risultato positivo al virus, informarlo della normativa vigente in materia, acquisire la lista di contatti avuti nelle ultime 48 ore, contattare quelli stretti, ottenuti nel secondo passaggio, inserire i dati nel software gestionale dell’azienda sanitaria di riferimento. Funziona per le chiamate in entrata e in uscita, percio’ ‘si possono- ha spiegato Paganelli– gestire i casi di giorno e di notte. Pensiamo agli operatori che in questo momento sono assaliti da telefonate’.

L’altra faccia della medaglia sul tema della sicurezza, oltre il punto di vista tecnologico e informatico, e’ quello dei rischi per i diritti e la liberta’ delle persone. Di questo ha parlato il dottor Franco Cardin, coordinatore del Consiglio Direttivo Anorc. ‘Il rispetto del Gdpr non impedisce l’utilizzo di tecnologie di IA in sanita’ per finalita’ di miglioramento dei processi di cura’ ha dichiarato l’esperto privacy in ambito sanitario. Secondo Cardin, ‘Gdpr e IA sono compatibili a condizione che si applichi davvero il Gdpr, in modo sostanziale. In altre parole, a patto che si rispetti, oltre che tutti i principi di carattere generale, soprattutto il principio di responsabilizzazione, cioe’ l’accountability’. Queste tecnologie insomma devono essere utilizzate nel rispetto dei diritti fondamentali delle persone, in particolar modo nell’ambito sanitario. ‘Nel Gdpr- ha detto Cardin- troviamo una serie di strumenti che se utilizzati in modo sostanziale consentono di garantire che i diritti e le liberta’ delle persone fisiche, tra cui quello alla protezione dei dati personali, vengano rispettati’. L’esempio portato dall’esperto e’ quello relativo al parere del Garante rispetto alla decisione della provincia di Trento di una soluzione che prevede l’utilizzo di dati personali con strumenti di IA. In quel caso, ‘il Garante ha evidenziato una novita’ introdotta dal Gdpr, cioe’ ogni qualvolta si intenda utilizzare i dati personali con determinate tecnologie va fatta una valutazione di impatto sulla protezione di quei dati’.
Gli interventi del webinar si sono conclusi con le riflessioni di Marco Scialdone, avvocato e PhD, docente dell’Universita’ europea di Roma e componente dell’osservatorio Mise sull’IA. ‘Cio’ che determina la nuova primavera dell’Intelligenza Artificiale- ha premesso- e’ da un lato la potenza di calcolo e dall’altro la grandissima quantita’ di dati di cui si dispone e le tecniche per gestirli’. La questione, secondo Scialdone, e’ che il confine tra dati sensibili, appartenenti a categorie particolari, e dati ordinari diventa molto piu’ sottile laddove l’analisi sia massiva e venga effettuata con IA perche’ in realta’ e’ possibile non solo
che il dato normale generi indirettamente un dato sanitario, ma che attraverso questo si possa arrivare ad analisi predittive sui comportamenti del soggetto, anche di natura non strettamente sanitaria, legati alla sfera del consumo. In questo mondo la distinzione tra dato sanitario e non sanitario comincia a sfuggire. Scialdone ha dunque concluso ricordando che nella strategia Ue lanciata lo scorso febbraio dalla Commissione c’e’ l’intenzione di costruire “spazi europei dei dati” nei settori di rilevanza strategica e uno di questi e’ quello sanitario. ‘Su questo si e’ espresso il Garante europeo, cioe’ sulle modalita’ secondo cui questo spazio dovra’ realizzarsi. E l’aspetto interessante e’ che il Garante dice espressamente che la base giuridica del trattamento dei dati non deve essere il consenso. Una presa di coscienza del fatto che in alcuni ambiti il consenso deve lasciare il passo ad altre basi giuridiche che attengono a garanzie rimesse non solo al singolo, ma anche a quelle esterne che lo Stato deve offrire a tutela della dignita’ del cittadino a prescindere dalla volizione. Cioe’ in alcuni ambiti lo Stato deve farsi carico di stabilire le garanzie per raggiungere il bilanciamento tra Gdpr e intelligenza artificiale’.
Secondo Sarah Ungaro, moderatrice dell’evento, ‘i preziosi e interessantissimi spunti offerti dai relatori durante il webinar dimostrano quanto sia indispensabile trattare i temi dell’Intelligenza artificiale in ambito sanitario nella loro affascinante complessita’, con esperti e professionisti che possano contribuire ad interpretare tali questioni con approcci diversi e trasversali. Per questo e per altri approfondimenti diamo appuntamento a tutti al prossimo Dig.eat, che quest’anno si terra’ dal 18 gennaio al 12 febbraio 2021, e sara’ il primo evento digitale diffuso, con un calendario ricchissimo di appuntamenti e approfondimenti sulla nostra realta’ digitale’.