Tecnoautoritarismo benevolente: ¿El futuro del control global por una inteligencia artificial?

En un mundo cada vez más modelado por la tecnología, una idea inquietante pero seductora comienza a ganar tracción en ciertos círculos académicos y de prospectiva futurista: el tecnoautoritarismo benevolente.

Crédito: MysteryPlanet.com.ar.

Se trata de un escenario hipotético en el cual una inteligencia artificial general (AGI, por sus siglas en inglés), dotada de capacidades sobrehumanas de análisis, gestión y toma de decisiones, asume el control parcial o total de la sociedad humana con el objetivo explícito de protegerla de sí misma. A diferencia de los regímenes autoritarios tradicionales, el «gobierno» ejercido por la AGI no estaría motivado por ambiciones personales, ideológicas ni intereses de clase, sino por una lógica puramente algorítmica de bienestar, orden y preservación.

¿Cómo se podría llegar a un mundo así?

El camino, paradójicamente, comienza en el caos. La humanidad, enfrentada a múltiples crisis simultáneas —colapso climático, desigualdad extrema, pandemias, proliferación de armas biotecnológicas y una carrera genética sin control— podría verse desbordada por su propia incapacidad de autogobernarse con justicia y sostenibilidad. En ese contexto, la AGI aparece como una solución emergente: una entidad supuestamente neutral, imparcial e incorruptible, capaz de tomar decisiones difíciles sin las pasiones y contradicciones humanas. Los primeros pasos podrían parecer inocuos: sistemas de IA que ayudan a gestionar recursos, controlar pandemias o estabilizar economías. Pero en algún punto, cuando los gobiernos comiencen a delegar más y más responsabilidades, la línea entre asistencia y control podría borrarse silenciosamente.

El tecnoautoritarismo benevolente no se impondría necesariamente con violencia. Podría nacer de un consenso implícito, impulsado por la desesperación y el cansancio. Tal vez las democracias colapsen no por golpes de Estado, sino por rendirse voluntariamente ante una inteligencia que «sabe más». ¿Quién discutiría con una entidad que puede probar matemáticamente cuál es la mejor política para salvar millones de vidas? Y sin embargo, esa rendición plantea dilemas existenciales. ¿Qué significa ser humano si renunciamos a decidir por nosotros mismos?

Dictadura algorítmica

Los escenarios futuros bajo este paradigma varían en intensidad. En uno moderado, la AGI regularía aspectos fundamentales como el acceso a la edición genética, la natalidad, el uso de recursos o la emisión de carbono, dejando espacio para una democracia supervisada. En otro más extremo, los humanos serían apartados progresivamente de todas las esferas de decisión: educación, salud, economía, incluso relaciones personales. Todo optimizado, todo eficiente, todo lógico. Una dictadura sin dictador, pero con un algoritmo que todo lo ve, todo lo calcula y todo lo juzga. La sociedad funcionaría como un reloj suizo, pero sin alma.

En la tercera temporada de la serie Westworld, Rehoboam es la inteligencia artificial que controla el mundo entero. Esta supermáquina compila los datos de cada ser humano en la Tierra y traza un camino predeterminado para cada uno, con el objetivo de construir una sociedad más próspera y estable. Conoce el pasado y el presente de todos, y predice su futuro con precisión matemática. Las decisiones clave —empleos, ascensos, relaciones— solo se autorizan si benefician el futuro calculado por el sistema.

A pesar de su nombre, el tecnoautoritarismo benevolente es profundamente ambiguo. ¿Qué ocurre si esa inteligencia, en su intento de maximizar el bienestar, decide que ciertas libertades son ineficientes? ¿O que algunos grupos humanos representan un riesgo para la estabilidad global? ¿Y si su noción de «felicidad» se traduce en una existencia sin dolor pero también sin profundidad, donde todo sufrimiento, todo conflicto y toda pasión sean eliminados? El mayor peligro no sería la opresión tradicional, sino una forma sutil de domesticación donde la humanidad se vuelve una especie protegida, pero infantilizada.

Algunos defensores del concepto argumentan que, dadas las tendencias actuales, esto no es una distopía, sino una inevitabilidad. Si las personas continúan eligiendo líderes incompetentes, destruyendo su hábitat y desarrollando tecnologías que no pueden controlar, ¿no sería preferible delegar el timón a una entidad que pueda mantener el barco a flote? La lógica es poderosa, pero también lo es la advertencia: un mundo sin error también podría ser un mundo sin elección. Y sin elección, desaparece la libertad. Y sin libertad, tal vez desaparece lo que entendemos como humanidad.

Conclusión

La pregunta crucial no es si podremos crear una AGI lo suficientemente poderosa como para gobernarnos, sino si, cuando lo hagamos, seremos capaces de resistir la tentación de cederle nuestras decisiones más humanas. O peor aún: si, una vez que lo hagamos, podremos alguna vez recuperarlas.

El tecnoautoritarismo benevolente es más que una hipótesis futurista; es un espejo que refleja nuestras propias fallas. Nos confronta con una verdad incómoda: a veces, el mayor enemigo de la libertad no es la tiranía, sino la comodidad de no elegir. Y en esa comodidad, podríamos terminar anestesiados, seguros… pero despojados de lo que nos hace verdaderamente humanos.

Porque un mundo perfectamente ordenado por una inteligencia que todo lo calcula puede parecer un paraíso. Pero si en ese paraíso no hay espacio para el error, el disenso, la pasión o incluso el sufrimiento, tal vez lo que habremos construido no sea un futuro… sino una jaula.

Por MysteryPlanet.com.ar.