Intelligenza Artificiale In Medicina: Rischi Legali Ed Etici

Lacune giuridiche e responsabilità

La legislazione vigente non tiene conto delle specificità delle tecnologie basate sull'apprendimento automatico. La complessità del codice e i modelli innovativi rendono difficile un'interpretazione univoca delle loro soluzioni. Il sistema giuridico non riesce ad adattarsi al progresso tecnologico.

Se un operatore sanitario commette un errore, esiste una procedura di ricorso prestabilita. Nel caso di un algoritmo automatico, la situazione è più complessa, ma deve sempre esserci una persona che si assuma la responsabilità:

• lo sviluppatore del software;
• la struttura sanitaria;
• il professionista che ha utilizzato il sistema;
• l'azienda che ha fornito l'infrastruttura.

Ulteriori complicazioni sorgono in caso di utilizzo transfrontaliero. Un programma creato in un paese può essere utilizzato in una giurisdizione con standard diversi. Non esiste ancora un'armonizzazione internazionale delle norme.

Etica del processo decisionale

Le macchine non sono in grado di dare un giudizio morale, si basano sui dati e non sui valori. Ciò pone una serie di problemi, soprattutto in situazioni in cui esistono molte opzioni possibili. Esempi di tali questioni etiche possono essere:

• è ammissibile affidare all'IA il rifiuto delle cure;
• il paziente ha il diritto di sapere che la diagnosi è stata fatta automaticamente;
• come escludere la discriminazione basata sull'età o sull'origine etnica.

Particolare attenzione è rivolta alla riservatezza. I dati medici personali sono informazioni sensibili e la loro protezione diventa una priorità assoluta. Non sono esclusi vari tipi di violazioni che possono essere causati da:

• un livello di crittografia insufficiente durante la trasmissione dei dati;
• fughe di informazioni dai cloud;
• accesso non autorizzato al sistema di analisi;
• mancanza di controllo sul trasferimento di informazioni a terzi.

Il paziente deve avere un'idea chiara di come viene utilizzato il suo profilo medico. La trasparenza rende la tecnologia più accettabile dal punto di vista morale. Questo principio è già stato implementato con successo dai siti non AAMS, dove i giocatori richiedono chiarezza anche sui dati relativi alle loro scommesse.

Formazione e preparazione del personale

L'integrazione di successo degli algoritmi di IA non è possibile senza il coinvolgimento di professionisti che comprendono tutti i rischi e le opportunità. Medici e tecnici devono parlare la stessa lingua. I problemi sorgono quando manca la qualificazione o quando le raccomandazioni vengono interpretate in modo errato. La gestione dei processi che utilizzano l'intelligenza artificiale deve prevedere:

• la formazione dei dipendenti nel campo della medicina digitale;
• lo sviluppo di istruzioni operative per l'uso sicuro dell'IA;
• l'accesso ai risultati del lavoro dell'algoritmo in una forma comprensibile.

Senza una formazione sistematica, non è possibile garantire il funzionamento affidabile anche delle soluzioni più avanzate. Il controllo, l'analisi e il feedback sono elementi obbligatori dell'implementazione tecnologica.

L'intelligenza artificiale è in grado di cambiare radicalmente il settore medico, ma senza una base giuridica ed etica chiara, il suo utilizzo può portare a conseguenze imprevedibili.