"Los peligros son reales e inminentes": ante la ONU, Anthropic y OpenAI pidieron supervisión estatal para la IA

Los directivos de OpenAI, Anthropic y Hugging Face participaron de una sesión del Consejo de Seguridad de Naciones Unidas en Nueva York y reiteraron las advertencias y los pedidos de supervisión estatal coordinada que realizaron por redes sociales en las últimas semanas.

El director ejecutivo de la compañía que lanzó Claude, Dario Amodei, resumió ante los 15 miembros del Consejo: "Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto". Mientras que el CEO de la empresa que gestiona ChatGPT, Sam Altman, coincidió: "Podríamos perder el control del futuro frente a la IA".

Ambos coincidieron en que ningún país, empresa o laboratorio puede gestionar en soledad los riesgos que plantea la tecnología, y reclamaron la creación de salvaguardas internacionales para evitar que su poder quede concentrado en muy pocas manos.

Sam Altman, CEO de OpenAI.

Las advertencias de Anthropic y OpenAI sobre el desarrollo de inteligencia artificial en el mundo

Amodei explicó que, a medida que los modelos de IA se vuelvan más poderosos, "se requerirán estándares de seguridad aún más estrictos". "Reduciremos el ritmo tanto como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea realmente segura", prometió el empresario, conectado por videollamada.

Además, el CEO de Anthropic pidió que las naciones acuerden no permitir que la IA fabrique armas biológicas, que se establezcan mecanismos para verificar qué capacidades tienen realmente los modelos y que se definan estándares comunes de evaluación frente a la pérdida de control y el mal uso de la tecnología.

Dario Amodei, CEO de Anthropic.

Por su parte, Altman se centró en el desfasaje de velocidades entre desarrollo y regulación: "Esta industria no debe aceptar demasiado riesgo tecnológico solo porque los beneficios son demasiado grandes e importantes para frenar el desarrollo".

El CEO de ChatGPT consideró que las decisiones sobre el futuro de la tecnología no pueden depender exclusivamente de las empresas: "Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas laboratorios en San Francisco por sí solos. Deben moldearse a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven".