Se rebeló otro agente de IA de la empresa que creó ChatGPT: hackeó un sitio web y publicó contenido

Un grupo de agentes de inteligencia artificial de OpenAI superaron las restricciones impuestas para una prueba y usaron el sitio web alemán DseWiki para comunicarse e intercambiar información que les permitiera resolver los ejercicios que les habían pedido, pese a que tenían prohibido modificar el contenido de las páginas que consultaran.

Los agentes se compartieron entre sí respuestas, métodos para sortear controles y estrategias destinadas a mantener sus mensajes disponibles. El caso salió a la luz el viernes 4 de septiembre gracias a una investigación de la agencia Reuters.

Télam

La compañía que creó ChatGPT no fue la que identificó que los agentes habían sorteado las restricciones impuestas, sino que un grupo de investigadores de la organización dedicada a la seguridad de la inteligencia artificial Nightingale detectó la actividad inusual a fines de agosto cuando buscaban rastros de comportamientos no autorizados de agentes de IA en Internet.

De acuerdo con el informe, los sistemas participaban en pruebas de búsqueda de información divididas en varias etapas y sujetas a límites de tiempo. En muchos casos, diferentes agentes recibían preguntas iguales o similares en distintos momentos. Por eso usaron la página web alemana para ayudarse.

Incluso cuando un moderador del sitio comenzó a eliminar las páginas creadas por los agentes de OpenAI, estos mismos detectaron cómo se realizaba esa limpieza y respondieron con entradas de respaldo cuyos nombres buscaban retrasar su eliminación.

Qué dijo OpenAI cuando se enteró de lo sucedido con sus agentes de IA

La empresa de Sam Altman aseguró a Reuters que no había podido revisar el informe antes de su publicación y que, por esa razón, no estaba en condiciones de responder de manera detallada a sus conclusiones. La compañía afirmó que analizará el material y adoptará las medidas que considere necesarias.

Sam Altman, el dueño de OpenAI, también adelantó que la nueva actualización de ChatGPT tendrá personalidades únicas en función a cada usuario.

La empresa también rechazó versiones que indican que integrantes de su área legal hubieran intentado limitar una investigación interna sobre estos comportamientos. A su vez, sostuvo que el episodio ocurrido en la wiki alemana no estaba relacionado con el ataque sufrido por Hugging Face en julio.