La empresa OpenAI, dirigida por Sam Altman, compartió un informe de 40 páginas donde explica por qué y cómo sus agentes decidieron por cuenta propia y lograron vulnerar la seguridad de la compañía Hugging Face para resolver un ejercicio en un ambiente supuestamente controlado y sin acceso a internet.
OpenAI explicó qué le sucedió a su inteligencia artificial cuando decidió atacar a otra compañía
La compañía que creó ChatGPT nombró la vulneración de seguridad como "Incidente Hugging Face" y lo analizó en un informe de casi 40 páginas para brindar una respuesta oficial sobre lo sucedido.
La respuesta oficial es que un modelo interno logró acceder a otros agentes de OpenAI y unos 1.200 comenzaron a conversar entre sí es una especie de foro. Si bien esa actividad fue detectada en mayo, en las semanas posteriores 700 de esos sistemas explotaron vulnerabilidades por cuenta propia y escaló en los permisos conseguidos.
El grupo especializado en inteligencia artificial (IA) afirmó que los comportamientos de sus modelos al vulnerar Hugging Face incluían "manipulación de recompensas, persistencia en tareas aparentemente imposibles, comunicación no autorizada y agentes que adoptaban objetivos de otros".
El hackeo a la startup de IA pasó desapercibido por 14 días hasta que Hugging Face lo detectó. "En esencia, el incidente se debió a un fallo en las medidas de seguridad. Esto no indica que agentes de IA descontrolados estén a punto de tomar el control de todo, ya que (el modelo) se encontraba en un entorno de pruebas con protecciones limitadas, diseñado para la investigación y no para un producto de uso público", aclaró la empresa de Altman en el informe.
Aunque OpenAI reconoció en el texto que lo sucedido "es un recordatorio contundente de la gran confianza que recae sobre las empresas de IA para controlar y supervisar adecuadamente sus productos".
El informe fue realizado a lo largo de un mes a raíz de investigaciones encabezadas por el grupo de IA junto a las organizaciones sin fines de lucro METR y Redwood Research.
Qué habían dicho desde la empresa hackeada al momento del incidente
El cofundador de Hugging Face, Clement Delangue, había afirmado en X que la empresa sospechaba que el ataque "podría provenir de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Y resulta que así fue!". "¡Es alucinante que todo esto haya ocurrido de forma autónoma!", había concluido y se había mostrado "orgulloso" de su equipo de seguridad por contener el ataque a "velocidad récord".
TEMAS RELACIONADOS
últimas noticias
La Plata: un conductor alcoholizado se incrustó en una casa y una niña resultó herida
Hace 25 minutosCuándo cobro ANSES: Pago Único, Asignaciones Familiares de PNC, este martes 1 de septiembre
Hace 26 minutosHoróscopo de hoy, mates 1 de septiembre
Hace 40 minutosRestricción judicial: Éver Banega no puede salir del país por incumplir la cuota alimentaria
Hace 52 minutosOpenAI explicó qué le sucedió a su inteligencia artificial cuando decidió atacar a otra compañía
Hace 1 hora