L'intelligence artificielle donne des réponses médicales erronées dans 70 % des cas.

L’intelligence artificielle peut causer de graves dommages si nous nous fions aux chatbots pour nous guider dans le diagnostic et le traitement de toute maladie, en particulier les plus délicates : dans 70 % des cas, ses réponses aux questions médicales sont incorrectes, tandis qu’un tiers des références bibliographiques sont inexactes ou inventées. Ces données, surprenantes et inquiétantes, qui doivent être interprétées avec prudence afin de ne pas compromettre notre santé et celle d’autrui, sont le fruit d’une étude scientifique coordonnée par Vincenzo Guastafierro, à l'Institut Clinique Humanitas et à l'Université Humanitas de Rozzano, dans la province de Milan.

Par conséquent, les erreurs liées à une utilisation incontrôlée et passive de l'intelligence artificielle sont encore plus graves que celles engendrées par la mauvaise habitude de croire détenir toutes les réponses (du diagnostic au traitement) à toute maladie, grâce à la parole de l'intelligence artificielle. Dr Google.

La recherche pourUniversité Humanitas, publié sur Journal européen de pathologieCette étude a analysé la fiabilité des modèles d'intelligence artificielle générative comme outil de diagnostic. Les chercheurs ont posé 200 questions cliniques dans cinq scénarios simulés, calibrés selon les recommandations diagnostiques actuelles et validés par des pathologistes experts. ChatGPT a fourni des réponses utiles dans 62 % des cas, mais seulement 32 % de réponses correctes. Sur les 214 références produites, 18 % étaient entièrement inventées..

Deux autres points importants ressortent de cette recherche. La première: Certaines affections pour lesquelles les réponses fournies par les chatbots d'IA sont totalement incorrectes sont très graves et délicates, comme le cancer de la peau et le cancer du sein. Deuxième considération : d'après une enquête menée en 2024 par Sondage de suivi de la désinformation sur la santé KFF, environ 1 adulte sur 6 Il affirme utiliser des chatbots médicaux alimentés par l'IA au moins une fois par mois pour rechercher des « informations ou des conseils de santé ». De ce fait, les risques de gaspillage deviennent très élevés et généralisés.

Lire aussi

• Quelle quantité d'énergie consomme l'intelligence artificielle ?
• Dans quelle mesure l'intelligence artificielle pollue-t-elle ?
• Waisense : L'intelligence artificielle au service de la réduction du gaspillage d'eau