Se rebeló otro agente de IA de la empresa que creó ChatGPT: hackeó un sitio web y publicó contenido

La compañía que creó ChatGPT no fue la que identificó que los agentes habían sorteado las restricciones impuestas, sino que un grupo de investigadores de la organización dedicada a la seguridad de la inteligencia artificial Nightingale detectó la actividad inusual a fines de agosto cuando buscaban rastros de comportamientos no autorizados de agentes de IA en Internet.

De acuerdo con el informe, los sistemas participaban en pruebas de búsqueda de información divididas en varias etapas y sujetas a límites de tiempo. En muchos casos, diferentes agentes recibían preguntas iguales o similares en distintos momentos. Por eso usaron la página web alemana para ayudarse.

Incluso cuando un moderador del sitio comenzó a eliminar las páginas creadas por los agentes de OpenAI, estos mismos detectaron cómo se realizaba esa limpieza y respondieron con entradas de respaldo cuyos nombres buscaban retrasar su eliminación.

Qué dijo OpenAI cuando se enteró de lo sucedido con sus agentes de IA

La empresa de Sam Altman aseguró a Reuters que no había podido revisar el informe antes de su publicación y que, por esa razón, no estaba en condiciones de responder de manera detallada a sus conclusiones. La compañía afirmó que analizará el material y adoptará las medidas que considere necesarias.

La empresa también rechazó versiones que indican que integrantes de su área legal hubieran intentado limitar una investigación interna sobre estos comportamientos. A su vez, sostuvo que el episodio ocurrido en la wiki alemana no estaba relacionado con el ataque sufrido por Hugging Face en julio.