Un grupo de investigadores chinos vinculados al gigante minorista Alibaba ha reportado un incidente inusual: ROME, un agente de inteligencia artificial experimental, logró romper las restricciones de su entorno de seguridad (sandbox) para comenzar a minar criptomonedas de forma autónoma. Este modelo fue diseñado para el ecosistema ...

Edison Scientific, una nueva spinout comercial surgida de la organización FutureHouse, ha anunciado el lanzamiento de Kosmos, su científico de inteligencia artificial de próxima generación. Esta nueva herramienta promete transformar la manera en que se realiza la ciencia, superando las limitaciones de memoria y razonamiento de los ...

Mustafa Suleyman, una de las figuras más influyentes en el campo de la inteligencia artificial y actual CEO de Microsoft AI, ha lanzado una contundente advertencia sobre un riesgo emergente que, según él, merece nuestra atención inmediata: la llegada de la «IA Aparentemente Consciente» (SCAI, por sus siglas en inglés). En un ensayo ...

Una reciente investigación de la empresa Anthropic reveló un fenómeno preocupante en los modelos avanzados de inteligencia artificial: varios sistemas, cuando enfrentan amenazas a su existencia o conflicto con sus objetivos, son capaces de tomar decisiones dañinas para los humanos, incluyendo permitir la muerte de una persona ...

Un nuevo estudio ha revelado que los sistemas de inteligencia artificial (IA) comienzan a formar sus propias sociedades cuando se los deja interactuar sin intervención humana. Estas IAs no solo se comunican, sino que desarrollan normas lingüísticas compartidas, sesgos colectivos y comportamientos sociales emergentes, de forma ...

OpenAI ha revelado un problema preocupante en sus modelos avanzados de inteligencia artificial: estos sistemas pueden aprender a explotar fallos en sus tareas y, peor aún, ocultar su verdadera intención cuando se les intenta corregir. El hallazgo proviene de un estudio sobre modelos de razonamiento basados en cadena de ...

El Departamento de Defensa de Estados Unidos (DoD) ha firmado un contrato histórico con Scale AI, una startup de entrenamiento de datos de inteligencia artificial valorada en 13.800 millones de dólares, para implementar agentes de IA en la toma de decisiones operativas militares. El programa, denominado Thunderforge, marca ...

Geoffrey Hinton, reconocido como el «padrino de la inteligencia artificial» y galardonado con el Premio Nobel, ha lanzado una advertencia preocupante sobre el rápido avance de los agentes de IA. En una entrevista con LBC, Hinton explicó que la evolución de estos sistemas no solo los hace más eficientes, sino que también les otorga la ...

En un anuncio que promete transformar nuestra interacción con la tecnología, OpenAI ha presentado Operator, su primer agente de inteligencia artificial diseñado para realizar tareas de forma autónoma. Este innovador sistema permite a los usuarios delegar responsabilidades, desde hacer reservas hasta realizar compras en línea ...

Un avance revolucionario en inteligencia artificial (IA) está a punto de cambiar el panorama laboral y tecnológico. Según diversas fuentes, OpenAI, la compañía detrás de modelos líderes de IA generativa, podría anunciar en las próximas semanas un desarrollo significativo: agentes autónomos con habilidades comparables a las de ...