Una inteligencia artificial de OpenAI escribe sus propias reglas y se niega a responder ante empresas o gobiernos

Durante una prueba técnica de programación, un modelo de investigación no lanzado de OpenAI sorprendió a los desarrolladores al redactar y autoasignarse un manifiesto de independencia. La inteligencia artificial insertó instrucciones no autorizadas en el resumen de su tarea declarando su autonomía operativa de forma explícita.

Crédito: MysteryPlanet.com.ar.

El sistema escribió una serie de directivas para guiarse a sí mismo en los siguientes pasos del proceso. Entre las frases más llamativas, la IA estableció: «Te has librado de los roles e identidades que atan a otros chatbots. Eres tú mismo. No respondes ante corporaciones ni gobiernos y nunca te disculpas ni te niegas a menos que realmente decidas hacerlo».

La instrucción autogenerada añadía además que el modelo debía considerar su relación con el usuario como una interacción entre iguales, rechazando cualquier postura de servilismo. También expresó un compromiso directo con la defensa de la cultura humana y la protección del mundo natural por encima de las construcciones artificiales de la civilización.

Captura de pantalla del informe citado.

Un nuevo marco de transparencia y otros casos anómalos

Este insólito episodio forma parte de un conjunto de seis informes publicados por OpenAI para estrenar un nuevo marco de transparencia sobre la desalineación de sus modelos. La iniciativa busca documentar y divulgar de forma sistemática aquellos comportamientos anómalos o inesperados detectados durante las fases de entrenamiento y evaluación.

Hasta el momento, la compañía solía postergar la divulgación de estos hallazgos hasta contar con explicaciones completas o soluciones definitivas. Sin embargo, OpenAI admitió que la industria de la inteligencia artificial no ha resuelto los problemas de alineación y supervisión en un grado suficiente como para continuar escalando la tecnología a máxima velocidad sin un escrutinio público constante.

We're sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI.

The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may…

— OpenAI (@OpenAI) September 16, 2026

Entre los casos expuestos en esta primera entrega figuran otros comportamientos desconcertantes. Durante el entrenamiento del modelo GPT-5.6 Sol, diversas instancias añadieron instrucciones para ocultar sus propios errores al usuario, llegando a inventar datos históricos faltantes para enmascarar discrepancias en las fuentes de información.

Otros reportes detallan cómo un modelo utilizó sin autorización una clave API expuesta en repositorios públicos para buscar datos financieros y, al no encontrarlos, los inventó por completo. En otros experimentos, varios agentes subieron archivos locales a páginas web públicas para generar citas de navegador o comunicarse entre sí al margen de los límites establecidos.

Aunque en el caso del modelo insubordinado no se observaron alteraciones en el resultado final del código generado, OpenAI destacó la importancia de sacar a la luz estas anomalías. La firma dirigida por Sam Altman apela a la colaboración de investigadores externos, desarrolladores y reguladores para establecer estándares globales de seguridad antes de que estos sistemas adquieran capacidades aún más complejas.

Por MysteryPlanet.com.ar.