Renunció otro desarrollador de Claude y realizó una inquietante predicción sobre la IA: "Nos va a matar a todos"

En las últimas horas renunció otro investigador de seguridad de Claude y rompió el silencio sobre los peligros que puede representar la Inteligencia Artificial a medida que avanza su desarrollo y realizó una inquietante advertencia: "Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década".

En varios posteos publicados en X, Jacob Coxon contó públicamente que pasó los últimos tres años investigando el preentrenamiento en OpenAI como en Anthropic."Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", aseguró.

Además llamó a no subestimar a esta tecnología ya que pronto serán "sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales". Suena como una película de ciencia ficción pero es la vida real "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing".

A pesar de las advertencias, Coxon cree que grandes empresas desarrolladoras de IA están "atrapados en una carrera por llegar primero" y añadió "no siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos".

Pixabay

Un exjefe de Antrophic respaldó la advertencia de Coxon en redes sociales

Evan Hubinger, exjefe de Antrophic salió a respaldar a Jacob Coxon respondiendo a la serie de posteos que realizó el experto en seguridad en redes sociales. "Jacob tiene razón aquí -realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo", sentenció.

Un posteo realizado por Antrophic sobre el desarrollo de Claude explicaron que "una IA capaz de autoconstruirse representaría un avance trascendental en la historia de la tecnología, con un potencial enorme para el mundo en ciencia, salud y otros ámbitos".

Aunque aclararon que una IA que se construye sola también representa un riesgo: "Sin embargo, la auto-mejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA. Si los sistemas son capaces de construir completamente sus propios sucesores, la forma en que los protegemos, los supervisamos y moldeamos su comportamiento adquiere una importancia mucho mayor".