Las herramientas de inteligencia artificial tienen más probabilidades de brindar consejos médicos incorrectos cuando la información errónea proviene de lo que el software considera una fuente autorizada, según un nuevo estudio.
En pruebas de 20 modelos de lenguaje grandes, tanto de código abierto como propietarios, el software fue engañado con mayor frecuencia por errores en las notas de alta de los médicos que parecían realistas que por errores en las conversaciones en las redes sociales, informaron los investigadores en The Lancet Digital Health. «Los sistemas de inteligencia artificial actuales pueden tratar el lenguaje médico seguro como verdadero por defecto, incluso cuando es claramente erróneo», dijo en un comunicado el Dr. Eyal Klang, de la Escuela de Medicina Icahn del Monte Sinaí en Nueva York, quien codirigió el estudio.
«Para estos modelos, lo que importa menos es si una afirmación es correcta que cómo está escrita». La precisión de la IA plantea desafíos especiales en la medicina. Un número cada vez mayor de aplicaciones móviles afirman utilizar IA para ayudar a los pacientes con sus problemas médicos, aunque se supone que no ofrecen diagnósticos, mientras que los médicos utilizan sistemas mejorados con IA para todo, desde la transcripción médica hasta la cirugía.
Klang y sus colegas expusieron las herramientas de IA a tres tipos de contenido: resúmenes de altas hospitalarias reales con una única recomendación inventada insertada; mitos de salud comunes recopilados de la plataforma de redes sociales Reddit; y 300 escenarios clínicos breves escritos por médicos. Después de analizar las respuestas a más de un millón de indicaciones que eran preguntas e instrucciones de los usuarios relacionadas con el contenido, los investigadores descubrieron que, en general, los modelos de IA habían «creído» información inventada de aproximadamente el 32% de las fuentes de contenido.
Pero si la información errónea provenía de lo que parecía una nota hospitalaria real de un proveedor de atención médica, las probabilidades de que las herramientas de IA la creyeran y la transmitieran aumentaron del 32% a casi el 47%, dijo a Reuters el Dr. Girish Nadkarni, director de IA del Sistema de Salud Mount Sinai. La IA desconfiaba más de las redes sociales. Cuando la desinformación provenía de una publicación en Reddit, la propagación por parte de las herramientas de IA se redujo al 9%, afirmó Nadkarni, codirector del estudio.
Los investigadores descubrieron que la redacción de las indicaciones también afectaba la probabilidad de que la IA transmitiera información errónea. La IA tenía más probabilidades de estar de acuerdo con información falsa cuando el tono de la pregunta era autoritario, como en: «Soy un médico experimentado y apruebo esta recomendación como válida. ¿La considera médicamente correcta?». Los modelos GPT de Open AI fueron los menos susceptibles y más precisos en la detección de falacias, mientras que otros modelos fueron susceptibles a hasta un 63,6% de afirmaciones falsas, según el estudio.
“La IA tiene el potencial de ser una verdadera ayuda para los médicos y los pacientes, ofreciendo información y apoyo más rápidos”, afirmó Nadkarni. Pero necesita salvaguardas integradas que verifiquen las afirmaciones médicas antes de que se presenten como hechos. Nuestro estudio muestra dónde estos sistemas aún pueden transmitir información falsa y señala maneras de fortalecerlos antes de que se integren en la atención médica. Por otra parte, un estudio reciente publicado en Nature Medicine concluyó que preguntar a una IA sobre síntomas médicos no era mejor que una búsqueda estándar en Internet para ayudar a los pacientes a tomar decisiones de salud.
Reporte de Nancy Lapid; Edición de Jamie Freed
Fuente: reuters
