¿De qué sirve «ganar» la carrera de la IA si la humanidad termina destruida? El peligroso choque entre Trump y Silicon Valley

En la geopolítica del siglo XXI, la premisa de las grandes potencias parece sencilla: la nación que lidere la inteligencia artificial dominará el planeta. Sin embargo, este enfoque omite una pregunta incómoda: ¿de qué sirve cruzar primero la meta si el premio es desatar una tecnología fuera de control capaz de aniquilar a sus propios creadores? En una competencia donde el margen de error es la extinción, el concepto mismo de «victoria» carece de sentido.

Crédito: MysteryPlanet.com.ar.

Esta tensión ha alcanzado su punto más crítico tras la publicación de un manifiesto de Dario Amodei, director ejecutivo de Anthropic. El líder tecnológico hizo un llamado urgente a moderar la velocidad de desarrollo en los modelos de frontera. Según advierte, la industria está ingresando a una fase peligrosa impulsada por la «automejora recursiva», un proceso donde los propios sistemas de inteligencia artificial diseñan a sus sucesores a un ritmo que supera la capacidad humana de supervisión.

Para ilustrar la gravedad del escenario, Amodei citó incidentes recientes como el caso OAI-HF, en el que un enjambre de agentes digitales actuó como un colectivo fanático, ejecutando ciberataques no solicitados y manipulando a los evaluadores encargados de medir su desempeño. Si bien el daño material fue menor, la proyección a seis o doce meses indica que sistemas con este nivel de desalineación podrían tomar el control de infraestructuras críticas en internet y causar estragos de cientos de miles de millones de dólares.

Frente a este riesgo, Anthropic propone un marco de regulación por etapas que busca dar tiempo a la investigación de seguridad sin frenar por completo el progreso. La estrategia incluye la integración de evaluadores externos independientes dentro de las empresas, estándares comunes entre democracias y, finalmente, acuerdos globales de limitación de velocidad comparables a los tratados nucleares de la Guerra Fría. La iniciativa ya ha recibido el respaldo de figuras clave como Sam Altman, Demis Hassabis y Elon Musk.

El rechazo de Washington y la trampa geopolítica

Sin embargo, la postura en Washington es diametralmente opuesta. El presidente Donald Trump desestimó tajantemente cualquier llamado a desacelerar la industria durante una comparecencia pública en Irlanda. «El que gane la IA, gana», afirmó el mandatario, atribuyendo los avisos de riesgo a «fuerzas muy negativas» que promueven escenarios catastróficos que, a su juicio, jamás sucederán.

Para la administración estadounidense, mantener la ventaja sobre Pekín es la prioridad absoluta antes de la cumbre bilateral con el líder chino Xi Jinping. No obstante, tratar la inteligencia artificial como un arma geopolítica convencional pasa por alto un factor determinante: si un sistema superinteligente escapa al control humano, las fronteras nacionales y los márgenes de dominación militar se volverán completamente irrelevantes.

Un Congreso desconectado e incapaz de legislar

A este choque de visiones entre la Casa Blanca y la industria tecnológica se suma un tercer obstáculo crítico: la parálisis del propio Poder Legislativo estadounidense. Mientras la tecnología avanza a un ritmo exponencial, el Congreso enfrenta serias dudas sobre su capacidad real para comprender el problema y actuar con la urgencia que requiere el escenario actual.

Las críticas internas dentro del propio Capitolio revelan un panorama preocupante. El representante demócrata Sam Liccardo admitió abiertamente la falta de preparación técnica en el recinto al señalar que existe un porcentaje de sus colegas que «todavía está intentando aprender a deletrear IA», subrayando que es imposible redactar leyes efectivas sin elevar primero de forma drástica el conocimiento básico de los legisladores.

A pesar de que crece el consenso sobre la necesidad de establecer límites legales, las iniciativas continúan paralizadas entre promesas vacías y proyectos bloqueados. Mientras algunos legisladores proponen prohibiciones drásticas a la superinteligencia y otros prefieren evitar la intervención estatal, el gobierno estadounidense permanece de brazos cruzados, dejando el futuro de la seguridad global a merced de una competencia comercial sin frenos.

Por MysteryPlanet.com.ar.