Renunció otro especialista en seguridad de OpenAI: "La inteligencia artificial debería ser tratada como la energía nuclear"

David Robinson, quien hasta hace pocos días lideraba la elaboración de los informes de seguridad de OpenAI, dejó la compañía y cuestionó públicamente la forma en que los laboratorios de inteligencia artificial desarrollan y ponen a prueba sus modelos más avanzados. En un artículo de investigación publicado por la revista estadounidense The Atlantic, el especialista sostuvo que estas empresas deberían adoptar una lógica de seguridad comparable con la utilizada en centrales nucleares.

Robinson estuvo a cargo de la redacción de los informes de seguridad publicados por OpenAI junto con sus principales lanzamientos y supervisó documentos correspondientes a 12 modelos de frontera. También dirigió la elaboración del Marco de Preparación, el sistema interno utilizado por la compañía para identificar, evaluar y medir riesgos asociados con sus modelos más avanzados. Su actividad se desarrollaba dentro del equipo Safety Systems.

Las preocupaciones por la seguridad de la inteligencia artificial

En su artículo, el especialista explicó que decidió abandonar OpenAI porque considera que la cultura de trabajo de la empresa no está a la altura de los riesgos que implica la tecnología que desarrolla. Si bien reconoció que el crecimiento de la compañía estuvo marcado por un proceso de ensayo y error que permitió avanzar rápidamente, advirtió que las consecuencias potenciales de esos errores también aumentan a medida que crecen las capacidades de los sistemas.

Para Robinson, la velocidad con la que los laboratorios pasan de un lanzamiento al siguiente ya no resulta compatible con el nivel de precaución necesario. En ese sentido, planteó que la etapa basada principalmente en prueba y error debería quedar atrás.

El exresponsable de seguridad comparó las condiciones que deberían regir en estos laboratorios con las existentes en centrales nucleares y aeropuertos de gran circulación. Según explicó, en esos ámbitos se aplican distintos niveles de redundancia y procesos de planificación prolongados para reducir las posibilidades de que un error humano termine provocando consecuencias graves.

Su salida se suma a las advertencias formuladas por otros especialistas que trabajaron en el sector y que cuestionaron las medidas de seguridad adoptadas por las empresas de IA. Robinson, de todos modos, reconoció que todavía busca precisar cómo debería implementarse en la práctica el cambio de enfoque que propone.