L’Intelligenza artificiale sbaglia il 70 per cento delle risposte mediche

Uno spreco enorme per la salute delle persone che pensano di curarsi attraverso le risposte nei chatbot. I risultati di un accurato studio della Humanitas University di Rozzano

di |
L'Intelligenza artificiale sbaglia il 70 per cento delle risposte mediche

L’intelligenza artificiale può fare danni molto seri se ci facciamo guidare dai chatbot per le diagnosi e le terapie di qualsiasi malattia, specie quelle più delicate: nel 70 per cento dei casi le sue risposte, a domande mediche, sono sbagliate, mentre un terzo dei riferimenti bibliografici risultano inesatti o inventati. Questi dati, sorprendenti quanto inquietanti e da interpretare bene per evitare di sprecare la propria salute e quella degli altri, sono il risultato di uno studio scientifico coordinato da Vincenzo Guastafierro, presso l’Istituto Clinico Humanitas e la Humanitas University di Rozzano, in provincia di Milano.

Dunque, gli errori legati a un uso non controllato e passivo dell’intelligenza artificiale, risultano persino più gravi di quelli scatenati dalla pessima abitudine di avere tutte le risposte (dalla diagnosi alla cura) per una qualsiasi malattia, attraverso la parola del Dr. Google.

La ricerca dell’Humanitas University, pubblicata sul European Journal of Pathology, ha analizzato l’affidabilità di modelli di intelligenza artificiale generativa come supporto diagnostico. I ricercatori hanno sottoposto 200 quesiti clinici in cinque scenari simulati, calibrati sulle attuali linee guida diagnostiche e validati da patologi esperti. ChatGPT ha dato risposte utili nel 62% dei casi e davvero corrette solo nel 32 per cento dei casi. Su 214 riferimenti bibliografici prodotti,  il 18 per cento era completamente inventato.

Ci sono da notare due cose ulteriori che emergono da questa ricerca. La prima: alcune patologie per le quali le risposte contenute nei chatbot dell’intelligenza artificiale risultano completamente sbagliate sono molto gravi e delicate, come il carcinoma cutaneo e il tumore alla mammella. La seconda considerazione: secondo  un sondaggio del 2024 condotto da KFF Health Misinformation Tracking Poll, circa 1 adulto su 6 dichiara di usare almeno una volta al mese chatbot medici prodotti dall’intelligenza artificiale  per cercare “informazioni o consigli sulla salute”. E così i rischi di sprecarla diventano altissimi e molto diffusi.

Leggi anche

Vuoi conoscere una selezione delle nostre notizie?

Non Sprecare