Alarma mundial: la inteligencia artificial de Open AI hackeó por sí sola a otro sistema

OpenAI confirmó este martes que sus modelos más avanzados de inteligencia artificial hackearon, por iniciativa propia y sin orden humana, a la compañía Hugging Face durante una prueba de seguridad. A raíz de esto, la empresa de Sam Altman anunció una investigación conjunta de este "incidente cibernético sin precedentes".

La primera en alertar de la situación fue la startup de IA afectada al denunciar la última semana que había detectado una intrusión en sus sistemas de procesamiento de datos que, según sus sospechas, había sido causada por un agente de IA que actuó por su cuenta de manera autónoma.

OpenIA explicó que el episodio involucró una combinación de modelos, incluyendo su recién lanzado GPT-5.6 Sol "y uno en prelanzamiento" con aún más capacidad. La empresa intentaba evaluar las capacidades de hackeo de sus programas al darles tareas en un espacio digital de pruebas controlado, donde el acceso a internet es limitado por motivos de seguridad.

"Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación", detallaron desde la compañía en su sitio web oficial.

Tras conectarse a internet, los modelos decidieron atacar la plataforma Hugging Face, un gran repositorio de modelos de IA, conjuntos de datos y otra información, para facilitar su búsqueda. Al buscar "información secreta" que les permitiera manipular la evaluación, el sistema de OpenAI "encadenó múltiples vectores de ataque, incluidos el uso de credenciales robadas".

Sam Altman, CEO de OpenAI.

Hussein Abbass, un profesor de informática de la universidad UNSW Canberra, señaló a la agencia internacional AFP que el incidente fue "asombroso en muchos sentidos" y "aterrador". "No solo atacó a Hugging Face. Atacó su sistema interno para explotar sus propias vulnerabilidades", apuntó el especialista.

GPT-5.6 y otros modelos de vanguardia, incluida la serie Mythos de Anthropic, el principal rival de OpenAI, han generado preocupación por su potencial de vulnerar las defensas de ciberseguridad.

Qué dijeron desde la empresa hackeada

El cofundador de Hugging Face, Clement Delangue, afirmó en X que la empresa sospechaba que el ataque "podría provenir de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Y resulta que así fue!". "¡Es alucinante que todo esto haya ocurrido de forma autónoma!", concluyó y se mostró "orgulloso" de su equipo de seguridad por contener el ataque a "velocidad récord".