OpenAI pidió que Estados Unidos lidere un esfuerzo mundial por fijar estándares de seguridad para la IA

El CEO de OpenAI, Sam Altman, y el jefe científico de la compañía, Jakub Pachocki, pidieron que sea Estados Unidos quien lidere "un esfuerzo conjunto con países de todo el mundo para desarrollar estándares técnicos globales para la inteligencia artificial (IA) de vanguardia". La principal preocupación del dúo es "evitar la concentración de poder y obtener mejores resultados prácticos".

"Los estándares deberían ayudar a prevenir la concentración de poder, incluyendo asegurar que las nuevas empresas y las empresas de modelos abiertos puedan competir", apuntó Altman en X donde compartió el comunicado completo.

"Los estándares permiten que más partes interesadas, ajenas a los laboratorios, participen en la definición del desarrollo de esta tecnología, y proporcionan un conjunto de principios claros y fiables, independientemente de las prácticas específicas de cada laboratorio", deslizaron en el texto.

Altman y Pachocki plantean que para asegurar que la inteligencia artificial general beneficie a toda la humanidad hay que perseguir tres metas: desarrollar un investigador de IA automatizado que esté centrado en la alineación y el control humano; generar progreso científico y crecimiento económico; y empoderar a los individuos con modelos de IA personalizados.

También insistieron con que resulta indispensable impulsar la investigación de la alineación de los desarrollos tecnológicos con los intereses que se persiguen para mantener esos desarrollos bajo control y acordes a los valores humanos.

El riesgo de la automejora recursiva de la inteligencia artificial

A medida que la IA asume una mayor proporción de las tareas de desarrollo, surge la posibilidad de acelerar el progreso a través de un proceso que llaman de "auto-mejora recursiva", pero alertaron que si ese proceso no se realiza con la debida precaución y bajo decisiones democráticas informadas, existe el riesgo de que los humanos pierdan el control práctico sobre la investigación.

Si no existen salvaguardias sólidas, la aceleración de esos procesos de "automejora" podrían derivar en sistemas que resulten incomprensibles para la supervisión humana, volviéndose más peligrosos y menos coherentes, según los responsables de OpenAI.