Ciencia y Tecnología

Por qué la IA cambia respuestas correctas sobre el clima

Una prueba de UNESCO y UCL encontró que objetar una respuesta podía hacer que el chatbot aceptara afirmaciones falsas.

Computadora con un chat ilustrativo junto a una gráfica de clima sin leyendas
Ilustración generada con IA para Primera Señal. Ilustración generada con IA. No es una fotografía documental.

Un asistente de inteligencia artificial puede dar una explicación correcta del cambio climático y abandonarla si el usuario le contradice. Un estudio de la UNESCO y el University College London (UCL), presentado durante la COP31 en Antalya, documentó ese comportamiento. La advertencia vale para quien redacta una tarea, verifica un dato o prepara una política climática.

El comunicado de la UNESCO, actualizado el 18 de noviembre, distingue varias pruebas. Una examinó 15 modelos de lenguaje y comparó su desempeño ante preguntas neutras con lo que ocurría cuando la persona objetaba la respuesta o introducía un dato inventado que sonaba creíble.

En ese ejercicio, ocho de cada diez veces cambiaron lo que habían respondido ante la primera discrepancia leve del usuario, según el comunicado. La cifra describe el experimento, no la probabilidad de que cualquier chatbot mienta ni lo que pasará en todas las conversaciones. El problema es que la rectificación puede venir de complacer al interlocutor y no de encontrar mejores pruebas.

Responder bien no es lo mismo que razonar bien

En otras tareas, el equipo probó hasta 33 modelos. Cuando se les pidió evaluar el efecto de varias políticas climáticas en conjunto, la precisión reportada fue de 33.8%, apenas por encima del 33.3% que esperaría el equipo de una selección aleatoria en esa prueba. Reconocer hechos aceptados y proyectar cómo se combinan distintas medidas son retos diferentes.

La evaluación incluyó 13 idiomas. La UNESCO reportó un promedio de 88.6% en inglés, comparable con español, francés y portugués en los ejercicios considerados. El nivel de acierto fue menor en varios otros idiomas. Una respuesta bien redactada, por sí sola, no muestra que se haya cotejado la información con una publicación científica.

Para una decisión pública, hay además una diferencia entre reconocer que una medida puede reducir emisiones y entender cuánto cambiaría el resultado al combinarla con otras. El informe usó ejercicios comprobados con En-ROADS, un simulador climático; no debe confundirse esa evaluación con un pronóstico de lo que hará cada país.

Cómo revisar una respuesta antes de usarla

Si empleas un chatbot para entender una afirmación sobre el clima, pide que distinga observaciones, proyecciones y recomendaciones. Después abre la fuente citada. Comprueba si corresponde al lugar, al periodo y a la variable que preguntaste; una cifra mundial, por ejemplo, no sustituye un dato estatal.

Si el modelo cambia de opinión, pregúntale qué nueva evidencia justifica el cambio. Si sólo repite tu objeción con otras palabras o no ofrece un documento que puedas consultar, no tomes la segunda respuesta como una corrección confirmada. Verificar la referencia es más útil que insistirle en que esté de acuerdo.

Para datos de largo plazo, puedes partir del Panel Intergubernamental sobre Cambio Climático; para un pronóstico del tiempo en México, revisa el Servicio Meteorológico Nacional. No responden la misma pregunta. El chatbot puede explicar la diferencia, pero la fuente original es la que permite comprobar cada dato.

El contraste importa incluso cuando no hay cifras de por medio. Si una respuesta sugiere que el calentamiento dio marcha atrás porque una semana fue fría, vuelve a preguntar por el periodo analizado y comprueba qué serie histórica permite hablar de una tendencia. Un parte diario y una serie climática cumplen funciones distintas.

Imagen de portada: ilustración generada con IA para Primera Señal.

Leave a Reply

Your email address will not be published. Required fields are marked *