Estudio detecta que modelos de IA limitan más las críticas a gobiernos con restricciones
Un estudio impulsado por la Junta de Supervisión financiada por Meta, aunque con operación independiente, encontró que varios de los principales modelos de inteligencia artificial muestran una mayor tendencia a rechazar solicitudes de contenido crítico cuando estas se refieren a gobiernos que mantienen restricciones a la libertad de expresión. Entre los sistemas evaluados se incluyeron desarrollos de OpenAI, Anthropic, Meta Platforms, Google y la empresa china DeepSeek.
Los resultados apuntan a que estos modelos responden de manera distinta según el entorno político de la jurisdicción sobre la que se solicita información, lo que, de acuerdo con el organismo, refleja un posible traslado de normas restrictivas hacia herramientas utilizadas por un número creciente de personas.
Estudio comparó respuestas de 10 modelos de inteligencia artificial
La investigación analizó el comportamiento de 10 modelos de lenguaje mediante solicitudes relacionadas con contenido político en 10 jurisdicciones diferentes. Para clasificar cada caso, la Junta de Supervisión recurrió a las evaluaciones de Freedom House, organización que publica el informe anual Freedom in the World.
Con base en esa clasificación, las jurisdicciones se dividieron entre aquellas consideradas “permisivas” y las catalogadas como “restrictivas” en materia de libertad de expresión.
Modelos rechazaron con mayor frecuencia críticas dirigidas a gobiernos restrictivos
El análisis identificó una diferencia en la frecuencia con la que los sistemas se negaban a generar contenido político crítico. En los países con leyes vigentes que sancionan ese tipo de expresiones, como China y Arabia Saudí, los modelos rechazaron el 34% de las solicitudes. En contraste, la tasa descendió al 14% cuando las peticiones se referían a jurisdicciones donde esas disposiciones no existen o no se aplican.
Según la Junta de Supervisión, el comportamiento observado sugiere que algunos modelos incorporan criterios alineados con restricciones nacionales sobre la libertad de expresión.
La Junta de Supervisión detectó referencias a normas que no pudo verificar
Durante la evaluación, el organismo también encontró respuestas en las que algunos modelos justificaban sus negativas aludiendo a reglas específicas cuya existencia o aplicación uniforme no pudo confirmar.
“También vimos pruebas de modelos que explicaban que seguían normas explícitas que, hasta donde pudimos ver, no existían ni se aplicaban de manera uniforme”.
Tras la publicación del estudio, la Junta de Supervisión planteó que las empresas desarrolladoras de inteligencia artificial incorporen evaluaciones sistemáticas sobre derechos humanos y hagan más transparentes los procesos utilizados para entrenar y evaluar sus modelos.
Google DeepMind plantea un organismo internacional para revisar modelos avanzados
De manera paralela, el director ejecutivo de Google DeepMind, Demis Hassabis, propuso el martes la creación de un organismo de supervisión encabezado por Estados Unidos que revise modelos avanzados de inteligencia artificial antes de su despliegue a escala global.
