¿El fin del control humano? Anthropic pide una pausa mundial ante el avance de la inteligencia artificial recursiva

La inteligencia artificial está cerca de cruzar una línea de no retorno: la capacidad de replicarse y evolucionar sin humanos.

Como el agente Smith en las películas de Matrix, una IA con capacidad de replicación recursiva podría multiplicarse y evolucionar fuera del control humano. Crédito: WB/MysteryPlanet.com.ar.

Anthropic, la compañía de IA más valiosa del mundo con una valoración de un billón de dólares, ha encendido las alarmas globales al advertir que su familia de modelos Claude avanza a paso firme hacia la «automejora recursiva». Este fenómeno describe la habilidad de un sistema para diseñarse, programarse y optimizarse a sí mismo de forma totalmente autónoma, un punto de inflexión tecnológica que podría dejar fuera de juego los intereses y el control de la humanidad.

Ante este panorama, la compañía ha sorprendido a la industria al solicitar un frenazo internacional. Según expresaron en un extenso comunicado, este escenario de autoevolución de las máquinas «podría llegar antes de lo que la mayoría de las instituciones están preparadas para afrontar».

El inquietante ritmo de la automejora recursiva

Para entender la magnitud del problema no hace falta mirar al futuro, basta con ver los datos internos de la propia empresa. En mayo de 2026, más del 80 % del código integrado en la base de datos de Anthropic es escrito de forma directa por su IA, Claude. Los ingenieros humanos ya no teclean líneas de código tradicionales; ahora actúan como meros supervisores de una tecnología que les permite ser ocho veces más productivos que hace apenas dos años.

El éxito de la sesión es determinado por un juez de Claude; una sesión se considera exitosa si el agente de Claude Code logró cumplir claramente con las tareas del usuario sin requerir correcciones. Los cambios en las cargas de trabajo pueden provocar fluctuaciones a corto plazo en las tasas de éxito.

La velocidad de esta evolución es exponencial. En 2024, los modelos eran capaces de resolver de forma autónoma tareas de software que a un humano le tomaban cuatro minutos. Hoy en día, las versiones más avanzadas ejecutan con éxito procesos de investigación complejos que se extienden por más de 16 horas sin parpadear. La IA ya no solo sugiere soluciones, sino que ejecuta experimentos científicos propios y detecta fallos que a los mejores programadores del mundo se les pasan por alto.

«Creemos que sería bueno para el mundo tener la opción de frenar o pausar temporalmente el desarrollo de la IA de frontera para permitir que las estructuras sociales y la investigación de alineación sigan el ritmo del avance tecnológico», se lee en el comunicado.

¿Preocupación real o estrategia de monopolio?

Como era de esperarse, la propuesta de Anthropic no ha tardado en levantar sospechas en Silicon Valley. Para diversos analistas de la industria, pedir una tregua global justo ahora que la empresa ha superado a OpenAI en valoración y rendimiento técnico resulta, como mínimo, sumamente conveniente. Si el mundo decide congelar el desarrollo tecnológico hoy, la posición dominante de Anthropic quedaría blindada.

El reconocido crítico de la IA, Gary Marcus, no tardó en calificar la publicación como una maniobra de «cebo y cambio» mediática. Marcus señaló en un artículo de opinión que la tecnológica busca «infundir terror en los corazones de todos» usando la hipótesis de la pérdida de control humano, cuando lo único que han demostrado realmente es una herramienta de programación sumamente rápida que sigue bajo el yugo de sus creadores.

Según el experto, un software de código acelerado no va a destruir el planeta.

La doble moral del gigante tecnológico

El discurso ético de Anthropic también se enfrenta a serias contradicciones de cara a la opinión pública. Mientras la empresa se vende a sí misma como el adulto responsable en la habitación de la tecnología, sus movimientos detrás de escena cuentan una historia muy distinta. En los últimos meses, la startup eliminó silenciosamente de sus estatutos un compromiso clave: la promesa de detener el entrenamiento de cualquier sistema si no se podían garantizar sus barreras de seguridad.

Porcentaje de casos en los que la sugerencia de la IA superó a la decisión del investigador humano tras un error de este último.

A esto se suman revelaciones periodísticas recientes que vinculan directamente a su modelo más hermético y potente, Mythos, con operaciones de guerra cibernética de la Agencia de Seguridad Nacional (NSA) de los Estados Unidos contra potencias extranjeras como China e Irán. Además, se constató que la tecnología de Claude ha sido empleada activamente por el Pentágono para la selección de objetivos militares en zonas de conflicto.

Steven Murdoch, profesor del University College London, fue contundente respecto a este doble rasero en declaraciones a la prensa internacional: «Anthropic puede dar una impresión de calidez, pero su definición de seguridad de la IA es muy estrecha. Apoyar a las autoridades estadounidenses en el desarrollo de capacidades ofensivas es algo de lo que nunca han hablado en contra».

Un tratado imposible de verificar

Más allá de las verdaderas intenciones de la compañía, la viabilidad real de un pacto global para detener la IA es el verdadero nudo gordiano de la situación. A diferencia del armamento nuclear, regular el avance del software fronterizo requiere una infraestructura de control que actualmente no existe en la geopolítica moderna.

La propia empresa admite que lograr que múltiples laboratorios de diferentes países firmen una tregua bajo las mismas condiciones es una utopía técnica, sentenciando el problema con una cruda comparación: «Las ejecuciones de entrenamiento son mucho más fáciles de ocultar que los silos de misiles».

Con el incentivo económico y militar de seguir liderando la carrera, el riesgo de que cualquier nación decida avanzar en secreto hace que la pausa solicitada parezca, por ahora, un escenario de ciencia ficción.

Fuente: Anthropic. Edición: MP.