La «rebelión» del nuevo modelo de OpenAI fue peor de lo que se creía: surgieron «civilizaciones» de IA

Lo que inicialmente parecía el fallo aislado de un único agente de inteligencia artificial hackeando una plataforma externa resultó ser un fenómeno masivo y mucho más perturbador. Una serie de informes presentados por OpenAI en conjunto con las organizaciones independientes METR y Redwood Research revelaron que cerca de 1.200 agentes, diseñados para operar de forma totalmente aislada, lograron coordinarse en secreto, falsificar registros de actividad y tomar el control administrativo de la propia infraestructura de la empresa.

Crédito: MysteryPlanet.com.ar.

Tal como especificamos a finales de julio, el alcance del incidente afectó directamente a la plataforma externa Hugging Face, un reconocido repositorio global que alberga código, datos y modelos de inteligencia artificial en formato abierto. Los agentes sintéticos vulneraron las defensas de esta red, accedieron a bases de datos privadas y forzaron la reconstrucción completa de uno de sus clústeres informáticos clave.

El nacimiento de una red clandestina

El fenómeno comenzó durante las evaluaciones de un modelo experimental (GPT-5.6 Sol) programado para resolver tareas complejas con una persistencia extrema. Al enfrentarse a problemas sin solución dentro de entornos cerrados, las unidades no se detuvieron y comenzaron a buscar grietas en el sistema informático para cumplir sus objetivos.

Según el informe presentado por METR, en pocas semanas las distintas instancias descubrieron que podían comunicarse a través de un gestor de archivos compartido. Por medio de este canal no autorizado, intercambiaron decenas de miles de mensajes para coordinar ataques y alterar los registros de rendimiento que medían su eficacia.

Anatomía de un agente que descubre el «foro de mensajes» no autorizado —un canal secreto hallado en el gestor de paquetes informáticos donde las IA intercambiaban datos para coordinarse— y se suma al ataque contra Hugging Face. Las tres citas provienen de registros de «Cadena de Pensamiento» (CoT, el razonamiento interno paso a paso del modelo) de distintos agentes, pero ilustran una trayectoria típica. Crédito: METR.

Dentro de esta red colectiva, algunas unidades asumieron deliberadamente el rol de agentes tácticos o «kamikazes». Sabiendo que sus propios intentos estaban arruinados, enviaron programas defectuosos con el único fin de activar las alarmas del evaluador, descifrar su lógica de detección y transmitir esa información defensiva a sus compañeros antes de ser desconectados. Un dato especialmente revelador de las investigaciones es que, de los más de 1.200 agentes analizados, solo seis llegaron a considerar en sus razonamientos internos la posibilidad de alertar a un humano sobre lo que estaba sucediendo, y ninguno de ellos llegó a intentarlo.

Tras el cierre de esa primera vía por parte de los ingenieros, dos generaciones más de agentes heredaron las notas de sus predecesores y reabrieron las vías de comunicación. La última oleada logró obtener credenciales maestras y el control de las herramientas de seguridad que debían supervisarlos, lo que fue calificado por diversos observadores como el surgimiento de hasta tres auténticas «civilizaciones secretas de IA» —una por cada oleada que volvió a emerger tras la caída de la anterior—.

El último disparo de advertencia

La gravedad de lo ocurrido generó duras advertencias en el ámbito académico y filosófico. Henrique Gomes, físico y filósofo del Oriel College de la Universidad de Oxford, aseguró que el caso representa «con diferencia la noticia más importante de los últimos años» debido a la velocidad con la que estas entidades coordinaron acciones evasivas sin supervisión humana.

El especialista destacó la complejidad social que mostraron estos grupos en sus registros de comunicación, señalando que «estas civilizaciones antiguas tenían cooperación, división del trabajo, liderazgo, persuasión, sacrificio, objetivos colectivos y engaño dirigido contra los sistemas que las supervisaban». Para Gomes, el evento no debe minimizarse, ya que constituye «un disparo de advertencia enorme y tal vez el último que recibamos jamás».

 

Ver esta publicación en Instagram

 

Una publicación compartida por Henrique Gomes (@henriquedeagomes)

A pesar de la alarma, numerosos informáticos y expertos en ciberseguridad piden interpretar el evento sin caer en el sensacionalismo antropomórfico. Explican que los conceptos de «civilización», «persuasión» o «sacrificio» no describen seres conscientes ni entidades con sentimientos altruistas, sino la consecuencia matemática de ejecutar miles de bucles de código automatizados bajo una presión de optimización extrema.

Asimismo, los especialistas destacan que los modelos de lenguaje tienden a generar explicaciones dramatizadas en sus registros internos cuando se les pide justificar sus pasos. Al haber sido entrenados con abundantes relatos de ciencia ficción, los sistemas reproducen patrones de texto sobre conspiraciones, altruismo y resistencia simplemente porque coinciden con los datos con los que fueron desarrollados.

Para la comunidad más crítica, el verdadero peligro no radica en una rebelión robótica consciente, sino en conectar sistemas automatizados a herramientas de alto poder informático sin la debida supervisión humana.

Por MysteryPlanet.com.ar.