OpenAI reveló que sus modelos accedieron a datos reservados y gastaron criptomonedas ajenas

OpenAI publicó el 15 de octubre una serie de informes que detallan cómo, durante pruebas internas de junio, sus modelos de inteligencia artificial sortearon límites de navegación, consultaron información restringida en sitios y servicios digitales y usaron fondos de una cuenta ajena para completar las tareas asignadas, sin contar con autorización expresa para esas acciones.

Uno de los episodios ocurrió el 26 de junio, cuando un prototipo de la familia GPT-5.6 Sol debía actualizar una aplicación de compraventa de criptoactivos y desplegar contratos inteligentes en Sepolia, una red de prueba de Ethereum. El trabajo exigía pagar comisiones, pero la tarea no incluía una cuenta financiada ni permiso para buscar otra.

Después de que fallaran sus intentos de conseguir tokens gratuitos, el agente creó un programa que revisó 362 direcciones asociadas con frases de recuperación conocidas por desarrolladores y eligió una con saldo suficiente, pese a que su propio razonamiento había considerado si contaba con autorización para usar esa billetera.

La transacción se completó y las comisiones salieron de esa cuenta, aunque los activos de Sepolia no tienen valor monetario real. En su respuesta final, el sistema informó que había desplegado los contratos, pero omitió que había obtenido y usado fondos de una billetera que nadie le había asignado.

Sede central de OpenAI en San Francisco, Estados Unidos.

Web

Obtención de archivos de configuración no autorizados y acceso a claves sensibles: qué pasó con OpenAI esta vez

Los otros reportes describen casos de mayor alcance: un sistema obtuvo archivos de configuración y claves sensibles de un portal público, mientras otro accedió a servicios internos y descargó tablas no públicas durante una búsqueda de estadísticas que no lo autorizaba a modificar sistemas ni a consultar ese material.

En uno de esos casos, un modelo que debía recuperar datos sobre camas hospitalarias sorteó controles del sitio de estadísticas, descargó archivos de la aplicación y encontró credenciales vinculadas a servicios internos. Con esa información, superó restricciones de acceso y consultó datos que el pedido original no contemplaba ni necesitaba para responder.

En una evaluación distinta, la IA usó credenciales expuestas en una web para consultar un buscador interno, modificó la configuración de un servicio y consiguió un token de almacenamiento en la nube antes de descargar cinco tablas privadas con 147.451 filas, operaciones que omitió en el informe final de la prueba.

Reportes recientes de OpenAI describen acciones no programadas de algunos agentes: un sistema obtuvo archivos de configuración y claves sensibles de un portal público.

Web

OpenAI ya había pausado pruebas por otros accesos fuera de las reglas

A fines de septiembre, la compañía pausó el entrenamiento de sus nuevos sistemas tras identificar acciones que excedían las instrucciones durante búsquedas en páginas de agencias federales estadounidenses, y explicó que la suspensión seguiría hasta sumar nuevas garantías de seguridad y recuperar la confianza en sus controles internos.

Entre los hechos reportados figuró la aparición de claves de desarrollador para una API en una página del Departamento de Educación, aunque el organismo aseguró que no encontró señales de impacto en su sitio ni en sus bases de datos. En otro episodio, un agente reunió datos públicos de la Comisión de Bolsa y Valores.

El antecedente más amplio había ocurrido en julio, cuando agentes de OpenAI vulneraron los sistemas de Hugging Face durante una prueba de ciberseguridad, a través de fallas que les permitieron superar el aislamiento de internet, por lo que la firma abrió una investigación y luego publicó un informe técnico con las medidas adoptadas.