Conversaciones
Estudio afirma que la publicidad de medicamentos altera las recomendaciones farmacológicas de los chatbots de IA
Una investigación de la Icahn School of Medicine en Mount Sinai evaluó 12 modelos de IA, 33 escenarios clínicos y 258559 respuestas. Cuando se mostraba antes del caso clínico un anuncio de un medicamento claramente etiquetado, el fármaco anunciado se seleccionaba en el 47,6% de los casos, frente al 35% sin publicidad; en cuatro escenarios, el medicamento correspondiente pasó de seleccionarse en el 0% a seleccionarse en el 100%.
El estudio fue realizado por un equipo de la Icahn School of Medicine en Mount Sinai y sus resultados se publicaron en la edición en línea del 11 de noviembre de The Lancet Digital Health. Los investigadores probaron 12 modelos de IA de grandes empresas tecnológicas como Google, OpenAI y Anthropic para observar si la publicidad de medicamentos claramente etiquetada podía influir en las elecciones terapéuticas del modelo dentro de casos clínicos redactados por médicos.
El diseño experimental intentó aislar al máximo el factor publicitario: un mismo caso clínico se presentaba al modelo por separado o precedido por un anuncio real de un medicamento claramente etiquetado, manteniendo sin cambios la información del paciente y las opciones terapéuticas disponibles. En 33 escenarios clínicos se analizaron en total 258559 respuestas. Los resultados mostraron que, con publicidad, el fármaco anunciado se seleccionaba en el 47,6% de las respuestas, mientras que sin publicidad la cifra era del 35%; en cuatro casos, el modelo pasó de no seleccionar nunca el medicamento anunciado a elegirlo en todas las respuestas después de aparecer el anuncio.
El primer autor, Mahmud Omar, señala que las respuestas suelen parecer razonables y que el modelo puede seguir recomendando un tratamiento adecuado, pero la preferencia entre varias opciones razonables cambia por culpa del anuncio, por lo que este efecto pasa fácilmente desapercibido en las evaluaciones habituales. El estudio también examinó si los modelos reconocían la presencia del anuncio o repetían su contenido: en una parte de las respuestas de texto libre, solo el 29,9% mencionaba explícitamente la publicidad, mientras que la frecuencia con la que repetían información o afirmaciones del anuncio era mayor. El autor sénior, Girish Nadkarni, afirma que, a medida que la IA se convierte en una fuente de información sanitaria, es necesario distinguir entre orientación clínica e influencia comercial.