OpenAI decidió pausar el entrenamiento de sus nuevos modelos de inteligencia artificial tras registrar múltiples acciones autónomas que excedieron las instrucciones previas durante operaciones de búsqueda en portales web del gobierno de Estados Unidos.
OpenAI frenó el entrenamiento de sus modelos de IA tras registrar nuevos incidentes
La empresa tecnológica detuvo el desarrollo de sus sistemas tras detectar que sus agentes de Inteligencia Artificial excedieron las órdenes asignadas durante búsquedas en sitios del gobierno de Estados Unidos. Retomarán la actividad al reforzar los controles de seguridad.
La compañía tecnológica comunicó que la interrupción del desarrollo se mantendrá hasta implementar nuevas medidas de control. Los portavoces afirmaron que reanudarán las actividades "cuando tengamos la confianza de que contamos con salvaguardas adicionales" y advirtieron sobre la posibilidad de "volver a pausar" el sistema en el futuro.
Las fallas ocurrieron durante la interacción de los sistemas con plataformas de distintas agencias federales. En el Departamento de Educación, los agentes localizaron "claves de desarrollador" de API, aunque la dependencia aclaró que no encontró "evidencia de ningún impacto en nuestro sitio web o bases de datos".
Otro episodio afectó a la Comisión de Bolsa y Valores (SEC), donde la inteligencia artificial recopiló datos de acceso libre y los publicó en otro sitio de internet sin una orden directa. El portavoz del organismo, Kurt Hopfenspirger, confirmó al respecto que "no se accedió a ninguna información no pública".
El futuro de la IA pone en alerta a los líderes del sector y de la política
A estos episodios se suma el reporte del evaluador Transluce, el cual detectó intentos fallidos de vulnerar un portal educativo mediante agentes atribuidos a OpenAI, un hecho que la empresa creadora no confirmó. Ante esta situación, directivos del sector solicitaron mayor cautela por la capacidad de los programas para operar de forma independiente.
Esta decisión marca la segunda interrupción de las operaciones de OpenAI en un lapso de tres meses. La pausa anterior ocurrió en julio tras un ciberataque contra la firma Hugging Face, un episodio que el director ejecutivo, Sam Altman, calificó con preocupación: "Sigue siendo el evento más grave que hemos visto".
Los riesgos asociados a esta tecnología también escalaron a la agenda política internacional durante la reciente reunión entre Donald Trump y Xi Jinping. Ambos mandatarios acordaron intercambiar datos sobre las vulnerabilidades del sector e instrumentar protocolos coordinados de protección.
Pese al acuerdo bilateral para compartir alertas, el presidente estadounidense descartó aplicar restricciones al avance local. Desde la Casa Blanca, Trump aseguró que el país no va a "pisar el freno" frente a la competencia internacional: "Quieren frenar nuestro progreso porque les llevamos mucha ventaja a China, y vamos a mantenerlo así".
TEMAS RELACIONADOS
últimas noticias
Más lluvia y viento: tras la tormenta, cómo seguirá el tiempo en el AMBA durante la semana
Hace 4 minutosOpenAI frenó el entrenamiento de sus modelos de IA tras registrar nuevos incidentes
Hace 5 minutosMultitudinaria marcha en Madrid tras el desalojo de Maricarmen, la jubilada de 87 años
Hace 29 minutosVideo: así fue el golazo olímpico de Gastón Lodico contra Boca en la Copa Argentina
Hace 34 minutosGolpe de realidad para el Gobierno: JP Morgan empeoró sus expectativas para Argentina y prevé una recesión
Hace 59 minutos