La inteligencia artificial puede causar graves daños si confiamos en los chatbots para que nos guíen en el diagnóstico y tratamiento de cualquier enfermedad, especialmente las más delicadas: en el 70 % de los casos, sus respuestas a preguntas médicas son incorrectas, mientras que un tercio de las referencias bibliográficas son inexactas o inventadas. Estos datos, sorprendentes y preocupantes, que deben interpretarse con cautela para evitar desperdiciar nuestra propia salud y la de los demás, son el resultado de un estudio científico coordinado por Vincenzo Guastafierro, en el Instituto Clínico Humanitas y la Universidad Humanitas de Rozzano, en la provincia de Milán.
Por lo tanto, los errores ligados a un uso incontrolado y pasivo de la inteligencia artificial son aún más graves que los provocados por la mala costumbre de tener todas las respuestas (desde el diagnóstico hasta el tratamiento) para cualquier enfermedad, a través de la palabra del doctor google.
La búsqueda deUniversidad Humanitas, publicada el Revista Europea de PatologíaAnalizaron la fiabilidad de los modelos de inteligencia artificial generativa como herramienta diagnóstica. Los investigadores realizaron 200 preguntas clínicas en cinco escenarios simulados, calibrados según las directrices diagnósticas actuales y validados por patólogos expertos. ChatGPT proporcionó respuestas útiles el 62 % de las veces y solo correctas el 32 %. De las 214 referencias generadas, el 18 % fueron completamente falsas..
Hay dos cosas más que cabe destacar que surgen de esta investigación. El primero: Algunas afecciones para las cuales las respuestas proporcionadas por los chatbots de IA son completamente incorrectas son muy graves y delicadas, como el cáncer de piel y el cáncer de mama. La segunda consideración: según una encuesta realizada en 2024 por Encuesta de seguimiento de información errónea sobre salud de KFF, acerca de 1 de cada 6 adultos Afirma usar chatbots médicos con inteligencia artificial al menos una vez al mes para buscar información o consejos de salud. Por lo tanto, el riesgo de desperdiciarlos se vuelve muy alto y generalizado.
Lea también
- ¿Cuánta energía consume la inteligencia artificial?
- ¿Cuánto contamina la Inteligencia Artificial?
- Waisense: Inteligencia Artificial para Evitar el Desperdicio de Agua
¿Quieres ver una selección de nuestras novedades?
- Suscríbete a nuestro Newsletter haciendo clic aquí;
- También estamos en noticias de Google, activa la estrella para agregarnos a tus fuentes favoritas;
- Síguenos en Facebook, Instagram e Pinterest.