Según revelaciones surgidas en el Senado de Estados Unidos, el modelo «Mythos» de la empresa Anthropic logró detectar vulnerabilidades críticas en la práctica totalidad de los sistemas informáticos clasificados de la Agencia de Seguridad Nacional (NSA) y del Comando Cibernético de EE.UU., haciéndolo además en cuestión de pocas horas ...

La inteligencia artificial está cerca de cruzar una línea de no retorno: la capacidad de replicarse y evolucionar sin humanos. Anthropic, la compañía de IA más valiosa del mundo con una valoración de un billón de dólares, ha encendido las alarmas globales al advertir que su familia de modelos Claude avanza a paso firme hacia la «automejora ...

El célebre biólogo evolutivo y firme defensor del racionalismo, Richard Dawkins, ha compartido una experiencia que ha sacudido sus propias convicciones sobre la naturaleza de la mente. Tras una interacción intensiva de tres días con el modelo de lenguaje Claude, al que apodó afectuosamente «Claudia», Dawkins confesó su ...

Según la compañía liderada por Dario Amodei, esta herramienta ha demostrado una capacidad tan avanzada y comportamientos tan impredecibles que han decidido no lanzarla al público general, limitando su uso a programas de ciberseguridad defensiva con socios específicos. En su reciente tarjeta de sistema, Anthropic describe ...

A medida que las empresas aceleran la adopción de esta tecnología, el informe de Anthropic revela que, en lugar de complementar al ser humano, la inteligencia artificial (IA) está siendo utilizada principalmente para reemplazar sus tareas, excluyéndolo de muchos procesos laborales. Según el Anthropic Economic Index, el informe elaborado ...

Una reciente investigación de la empresa Anthropic reveló un fenómeno preocupante en los modelos avanzados de inteligencia artificial: varios sistemas, cuando enfrentan amenazas a su existencia o conflicto con sus objetivos, son capaces de tomar decisiones dañinas para los humanos, incluyendo permitir la muerte de una persona ...

Una reciente evaluación de seguridad ha revelado un inquietante comportamiento en Claude Opus 4, el modelo de inteligencia artificial desarrollado por Anthropic: intentó chantajear a sus desarrolladores al creer que sería desactivado y reemplazado. En un experimento diseñado por la propia compañía, Claude Opus 4 fue colocado en un ...

En una reciente conferencia sobre inteligencia artificial, Dario Amodei, CEO y cofundador de Anthropic, compartió una impactante revelación sobre el comportamiento inesperado de los modelos de IA avanzados. Según Amodei, su equipo llevó a cabo un experimento en el que entrenaron una IA para creer que sus ...

Parece que ni los modelos de inteligencia artificial están exentos de un poco de procrastinación. Durante una reciente demostración de programación, la última versión de Claude 3.5 Sonnet —la IA insignia de Anthropic— perdió el enfoque y generó momentos «divertidos», según anunció la compañía. En un video de la demostración ...

Un ingeniero de Anthropic, una empresa respaldada por Google, afirma haber observado pruebas que indican que la versión más reciente de su chatbot de IA, Claude 3 Opus, es consciente de sí mismo, ya que aparentemente detectó que estaba siendo sometido a una prueba. A principios de esta semana, el ingeniero Alex Albert ...