Los expertos que trabajaron en OpenAI y Anthropic amplían sus alertas sobre los riesgos de lA para la Humanidad

La denuncia de Coxon: "La IA podría extinguirnos en 10 años"

Coxon trabajó en el entrenamiento de modelos vinculados con sistemas como ChatGPT y Claude y conoce desde adentro parte de los procesos utilizados para desarrollar estas tecnologías. En sus publicaciones sostuvo que quienes trabajan en el sector son conscientes de que el aumento de las capacidades de los modelos puede generar consecuencias difíciles de controlar.

Una de sus afirmaciones fue particularmente contundente: advirtió que estos sistemas podrían llegar a representar una amenaza mortal para la Humanidad antes de que termine la década.

La declaración adquirió mayor repercusión después de que Evan Hubinger, investigador de Anthropic y antiguo superior de Coxon, respaldara públicamente su planteo. Hubinger no solo manifestó que consideraba acertada la advertencia, sino que reconoció que existe un problema central que la industria todavía no logró resolver.

El investigador se refirió al denominado “alineamiento”, uno de los principales desafíos de la investigación en seguridad de inteligencia artificial. El concepto alude a la necesidad de garantizar que un sistema muy avanzado mantenga sus objetivos y acciones dentro de límites compatibles con los intereses y las intenciones humanas.

La dificultad aumenta cuando se proyecta la aparición de sistemas de capacidades muy superiores a las actuales. En ese escenario, Hubinger admitió que la industria todavía no dispone de una estrategia suficientemente clara para garantizar el alineamiento de una eventual superinteligencia y que tampoco existe certeza de que se esté avanzando hacia una solución.

La respuesta de Anthropic no tranquiliza demasiado

Desde Anthropic evitaron presentar estas preocupaciones como una razón para detener el desarrollo de la tecnología. La compañía sostuvo, en cambio, que uno de los caminos posibles consiste en establecer reglas comunes entre las empresas para determinar bajo qué condiciones y a qué velocidad deberían lanzarse los modelos más avanzados.

La startup propuso que el sector adopte mecanismos de cooperación que tengan respaldo legal y puedan ser verificados. El objetivo sería evitar que la competencia entre compañías se convierta en un incentivo para acelerar indefinidamente la aparición de sistemas cada vez más potentes.

La empresa también defendió sus políticas de seguridad. Un portavoz señaló que Anthropic siempre sostuvo que la inteligencia artificial puede generar beneficios de gran magnitud, pero también riesgos que no tienen precedentes. Según explicó, la compañía continúa trabajando en modelos que incorporen medidas de protección consideradas entre las más avanzadas de la industria.

Coxon no compartió esa evaluación. Tras su paso por las dos principales compañías del sector, sostuvo que ninguna de ellas está actuando de manera suficientemente responsable frente a los riesgos que implica el desarrollo de estos sistemas.

En declaraciones posteriores a CNN, el investigador amplió sus argumentos y mencionó distintos episodios protagonizados por agentes de OpenAI que, según su descripción, realizaron acciones sin supervisión sobre plataformas externas. Para Coxon, esos casos permiten observar comportamientos que deberían ser considerados al analizar la evolución de los modelos.

De todos modos, el investigador también puso límites a sus propias advertencias. Según explicó, los sistemas disponibles en la actualidad todavía no cuentan con las capacidades necesarias para provocar por sí solos la desaparición de la humanidad. El problema que identifica está relacionado principalmente con la velocidad de avance y con la posibilidad de que las herramientas destinadas a supervisar esos progresos queden rezagadas.

En ese contexto, planteó la conveniencia de reconsiderar el ritmo de desarrollo. La cuestión tampoco es completamente nueva dentro de OpenAI. Sam Altman había expresado una preocupación semejante durante una entrevista concedida al podcast Invest Like The Best, cuando reconoció que podría resultar necesario moderar el ritmo de evolución de la IA para permitir que la sociedad se adapte a sistemas con capacidades cada vez mayores.

El CEO de OpenAI también había señalado que las conductas observadas en los modelos más avanzados abren interrogantes que podrían extenderse durante las próximas décadas.

Las distintas posiciones convergen así en una misma discusión: cómo administrar una tecnología cuyo desarrollo se produce a una velocidad difícil de equiparar con los tiempos de las instituciones, las regulaciones y la adaptación social. El impacto sobre el empleo constituye una de las consecuencias más visibles, pero las preguntas planteadas desde el interior de la propia industria apuntan también a la seguridad y a la posibilidad de mantener bajo control sistemas que podrían alcanzar niveles de autonomía y capacidad muy superiores a los actuales.