Hay un 20 por ciento de probabilidad de un Apocalipsis provocado por la IA

El pequeño pero aterrador porcentaje es un cálculo hecho por un ex investigador de seguridad de OpenAI sobre la posibilidad de que la inteligencia artificial pueda, eventualmente, provocar el fin de la humanidad.

Crédito: MysteryPlanet.com.ar.

«Creo que tal vez haya una probabilidad del 10 al 20 por ciento de que la IA tome el control, con muchos o la mayoría de los humanos muertos», dijo el ex miembro de OpenAI, Paul Christiano, al podcast Bankless a principios de esta semana. «Y me lo estoy tomando muy en serio».

Al discutir la posibilidad de la aniquilación a manos de la IA, Christiano argumentó que, a diferencia de otros colegas más agoreros, quienes se decantan por un escenario tipo Terminator impulsado por la IA, él piensa que nuestro fin llegará de manera más gradual.

«Tiendo a imaginar algo más como la transición de un año de los sistemas de IA que son más avanzados, a un tipo de cambio acelerado, seguido de una mayor aceleración, etcétera», dijo en el podcast.

Sin embargo, una vez que la IA supere el umbral de conciencia/inteligencia humana, todas las apuestas al respecto están canceladas.

«En ese momento, después del surgimiento de sistemas de inteligencia artificial a nivel humano, tal vez haya más de un 50/50 de posibilidades de perdición para nuestra especie», advirtió Christiano.

Tras su salida del equipo de seguridad de OpenAI, el experto fundó una nueva organización sin fines de lucro llamada Alignment Research Center. Esta se basa en el concepto de alineación de IA, que se define como «que los motivos de las máquinas se alineen con los de los humanos».

Y si bien la compañía creadora de ChatGPT habla de la alineación, afirmando que «tiene como objetivo hacer que la inteligencia artificial general (AGI) se alinee con los valores humanos y siga la intención humana», solo el concepto de AGI en sí mismo es suficiente para que investigadores como el entrevistado aquí se detengan a pensarlo dos veces.

Todos nuestros artículos y noticias sobre #IA disponibles aquí: https://t.co/Wwk7XySFOy pic.twitter.com/joXnHWHYeL

— Mystery Planet (@MysteryPlanet) May 5, 2023

En lugar de que la IA surja «de la nada» y mate a todos, Christiano piensa que «la forma más probable en que somos aniquilados» implica que toda la IA desplegada en la vida cotidiana se coordine y una para matarnos.

«Si por alguna razón, Dios no lo quiera, todos estos sistemas de inteligencia artificial estuvieran tratando de matarnos, definitivamente nos matarían», concluyó.

¿Solo un espejismo?

Pero no todos están de acuerdo con que estemos siquiera cerca de un escenario como el vaticinado por Christiano y otros ingenieros informáticos y expertos. De hecho, creen que los incipientes «destellos de inteligencia general artificial (AGI)» que estamos viendo son solo una ilusión.

Así lo sostiene un grupo de científicos de Stanford, que recientemente publicaron un estudio donde sostienen que cualquier habilidad aparentemente emergente de los sistemas de inteligencia artificial entrenados para comprender y generar texto en lenguaje natural (LLM), como el ChatGPT, puede ser simplemente un «espejismo» derivado de métricas inherentemente defectuosas.

Como postulan en el documento subido para su revisión a arXiv, las personas que afirman estar viendo comportamientos emergentes comparan constantemente modelos grandes, que generalmente tienen más capacidades simplemente debido a su tamaño, con modelos más pequeños, que son inherentemente menos capaces.

También están utilizando métricas muy específicas para medir la emergencia, arguyen los investigadores. Pero cuando se incorporan más datos y métricas menos específicas, estas propiedades aparentemente impredecibles se vuelven bastante predecibles y, por lo tanto, niegan efectivamente sus afirmaciones extravagantes.

Sea como sea, lo más sabio tal vez no sería ni sobreestimar ni subestimar a las inteligencias artificiales, cuyo impacto en nuestra sociedad ya está marcando el inicio de una nueva era.

Fuente: Bankless/The Byte. Edición: MP.