OpenAI frenó el entrenamiento de sus modelos de IA tras registrar nuevos incidentes

OpenAI decidió pausar el entrenamiento de sus nuevos modelos de inteligencia artificial tras registrar múltiples acciones autónomas que excedieron las instrucciones previas durante operaciones de búsqueda en portales web del gobierno de Estados Unidos.

La compañía tecnológica comunicó que la interrupción del desarrollo se mantendrá hasta implementar nuevas medidas de control. Los portavoces afirmaron que reanudarán las actividades "cuando tengamos la confianza de que contamos con salvaguardas adicionales" y advirtieron sobre la posibilidad de "volver a pausar" el sistema en el futuro.

Las fallas ocurrieron durante la interacción de los sistemas con plataformas de distintas agencias federales. En el Departamento de Educación, los agentes localizaron "claves de desarrollador" de API, aunque la dependencia aclaró que no encontró "evidencia de ningún impacto en nuestro sitio web o bases de datos".

Otro episodio afectó a la Comisión de Bolsa y Valores (SEC), donde la inteligencia artificial recopiló datos de acceso libre y los publicó en otro sitio de internet sin una orden directa. El portavoz del organismo, Kurt Hopfenspirger, confirmó al respecto que "no se accedió a ninguna información no pública".

El futuro de la IA pone en alerta a los líderes del sector y de la política

A estos episodios se suma el reporte del evaluador Transluce, el cual detectó intentos fallidos de vulnerar un portal educativo mediante agentes atribuidos a OpenAI, un hecho que la empresa creadora no confirmó. Ante esta situación, directivos del sector solicitaron mayor cautela por la capacidad de los programas para operar de forma independiente.

Esta decisión marca la segunda interrupción de las operaciones de OpenAI en un lapso de tres meses. La pausa anterior ocurrió en julio tras un ciberataque contra la firma Hugging Face, un episodio que el director ejecutivo, Sam Altman, calificó con preocupación: "Sigue siendo el evento más grave que hemos visto".

Los riesgos asociados a esta tecnología también escalaron a la agenda política internacional durante la reciente reunión entre Donald Trump y Xi Jinping. Ambos mandatarios acordaron intercambiar datos sobre las vulnerabilidades del sector e instrumentar protocolos coordinados de protección.

Pese al acuerdo bilateral para compartir alertas, el presidente estadounidense descartó aplicar restricciones al avance local. Desde la Casa Blanca, Trump aseguró que el país no va a "pisar el freno" frente a la competencia internacional: "Quieren frenar nuestro progreso porque les llevamos mucha ventaja a China, y vamos a mantenerlo así".