"Los peligros son reales e inminentes": ante la ONU, Anthropic y OpenAI pidieron supervisión estatal para la IA

Ambos coincidieron en que ningún país, empresa o laboratorio puede gestionar en soledad los riesgos que plantea la tecnología, y reclamaron la creación de salvaguardas internacionales para evitar que su poder quede concentrado en muy pocas manos.

Las advertencias de Anthropic y OpenAI sobre el desarrollo de inteligencia artificial en el mundo

Amodei explicó que, a medida que los modelos de IA se vuelvan más poderosos, "se requerirán estándares de seguridad aún más estrictos". "Reduciremos el ritmo tanto como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea realmente segura", prometió el empresario, conectado por videollamada.

Además, el CEO de Anthropic pidió que las naciones acuerden no permitir que la IA fabrique armas biológicas, que se establezcan mecanismos para verificar qué capacidades tienen realmente los modelos y que se definan estándares comunes de evaluación frente a la pérdida de control y el mal uso de la tecnología.

Por su parte, Altman se centró en el desfasaje de velocidades entre desarrollo y regulación: "Esta industria no debe aceptar demasiado riesgo tecnológico solo porque los beneficios son demasiado grandes e importantes para frenar el desarrollo".

El CEO de ChatGPT consideró que las decisiones sobre el futuro de la tecnología no pueden depender exclusivamente de las empresas: "Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas laboratorios en San Francisco por sí solos. Deben moldearse a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven".