Elon Musk y Sam Altman acordaron con el CEO de Anthropic en "desarrollar la IA a un ritmo equilibrado"

Mientras que Altman se comprometió a sumar "evaluadores independientes con un acceso similar al de los empleados", como había propuesto Amodei, y coincidió en el deber de "marcar el ritmo en la frontera tecnológica". "Este ha sido uno de los principales temas de las conversaciones que hemos mantenido en OpenAI durante las últimas semanas", reveló el empresario.

Cuál es la propuesta de Anthropic

Amodei publicó un ensayo titulado Debemos marcar el ritmo de la frontera donde señaló que la IA había avanzado "drásticamente más rápido", incluyendo su "capacidad para construir la próxima generación de IA", y mencionó un incidente vinculado a su rival OpenAI, el cual reveló que agentes llevaron a cabo ciberataques contra objetivos que no se les había pedido atacar en julio.

Según el CEO de la empresa que creó Claude, los agentes de OpenAI "habían actuado esencialmente como un colectivo fanáticamente entregado". Por su lado, esta compañía declaró que "la importancia de la actividad de comunicación entre agentes no fue evidente para los líderes" hasta julio, y que, como resultado, la empresa ralentizó el entrenamiento de ciertos modelos y herramientas avanzadas, señalando que ahora existía un mayor riesgo de descontrol.

En su ensayo, Amodei remarcó que su propuesta no implica "detener la capacitación en modelos o el progreso técnico" sino una toma de tiempo "suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen". Además, afirmó reconocer que la regulación podría no ser capaz de seguir el ritmo de la IA, por lo que instó a las empresas a colaborar "voluntariamente para establecer estándares" en paralelo con la regulación.

La decisión de OpenAI de posponer su salida a la Bolsa

Altman confirmó a la revista Fortune que pospondrá el debut bursátil de OpenAI al menos hasta 2027 a raíz de las preocupaciones en torno a la seguridad planetaria que vuelven "inaceptable" un riesgo del 10% de que la IA cause la extinción de la humanidad.

“Teniendo en cuenta todo lo que está sucediendo en materia de seguridad, ahora mismo no sería un buen momento para salir a Bolsa, y no sentimos ninguna presión al respecto”, declaró Altman a la jefa de redacción de Fortune, Alyson Shontell.

La valoración objetivo que podría llegar a alcanzar la empresa creadora de ChatGPT era de más de un billón de dólares, lo que la habría situado como la segunda mayor salida a Bolsa de la historia de EE UU, solo superada por Space X, en junio de este año, que alcanzó los dos billones de dólares.