Mundo
Un informe de la UNESCO afirma que los principales modelos de IA muestran fragilidad ante preguntas sobre ciencia climática
La UNESCO y el University College London publicaron un estudio en la conferencia climática de las Naciones Unidas celebrada en Turquía. Tras probar 15 modelos de IA populares a nivel mundial, descubrieron que los modelos tienden a abandonar fácilmente hechos climáticos correctos y pasar a respuestas erróneas cuando el usuario los cuestiona levemente; al abordar problemas de sinergia entre dos políticas climáticas, la tasa de acierto cae a un nivel cercano al azar, y existen diferencias de rendimiento según el idioma.
Según informó The Guardian, la UNESCO y el University College London publicaron el 16 de noviembre un estudio en la conferencia climática de las Naciones Unidas celebrada en Turquía, en el que probaron 15 de los modelos de inteligencia artificial más populares del mundo. Los resultados mostraron que, aunque estos modelos pueden confirmar con precisión hechos simples sobre el cambio climático, en los casos en que pasaron a respuestas erróneas, el ochenta por ciento ocurrió cuando el usuario expresó por primera vez una objeción leve, por ejemplo al aceptar afirmaciones falsas como que «el dióxido de carbono no es el principal factor impulsor del cambio climático».
La autora principal del informe, Leona Belardadero, de la UNESCO, afirmó que la inteligencia artificial no es neutral y que, en su forma de responder, puede ser empujada a complacer las preferencias del usuario en lugar de mantener los hechos; que los modelos abandonen la verdad con tanta facilidad y se adapten a la desinformación demuestra que son «débiles y propensos a errores».
El estudio también encontró que los modelos suelen ser precisos al explicar políticas climáticas individuales, por ejemplo cómo funciona un impuesto al carbono; pero cuando se les pregunta cómo actúan conjuntamente dos políticas, la tasa de acierto desciende hasta no ser mejor que una adivinanza aleatoria. Maria Perez-Ortiz, autora sénior del University College London, afirmó que la IA es buena explicando conocimientos científicos, lo que puede hacer creer erróneamente que también puede responder con fiabilidad sobre cómo debería abordarse el cambio climático, y que en realidad debe tenerse cautela al pasar de «lo que se sabe» a «lo que debería hacerse».
El informe también señala desigualdades lingüísticas. Los usuarios de inglés obtuvieron respuestas con una tasa de precisión del 88%; las respuestas en español, francés y portugués también fueron relativamente altas; el hindi, el bengalí y el urdu tuvieron un rendimiento peor, y el suajili fue el más bajo, con un 78%. Los investigadores afirmaron que las regiones donde se hablan estos idiomas suelen estar entre las más gravemente afectadas por la crisis climática. El mismo día de la publicación del informe, Turquía, país presidente de la COP31, lanzó el «Compromiso de Antalya sobre IA», para promover centros de datos con suministro eléctrico sostenible y hacer que la IA forme parte de las soluciones climáticas. El responsable de las negociaciones climáticas de las Naciones Unidas, Simon Stiell, advirtió que una IA que difunda desinformación, debilite la ciencia y divida a la sociedad dañará la confianza pública.