¿La IA nos va a matar? Cuánta verdad y marketing hay detrás de las predicciones apocalípticas

Coxon contó públicamente que pasó los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic y observó que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década". La alternativa quedó planteada: si la Humanidad va a existir en los próximos 10 años o sí, por el contrario, una súper inteligencia artificial tomará el control y el destino de nuestro planeta.

A los dichos de Coxon se suman los de Evan Hubinger, también investigador de Anthropic, quien estimó que "hay 10% de posibilidades de que la IA elimine a la humanidad en los próximos 10 años".

Esto generó que otros expertos como Bilal Chughtai y Josh Engels, quienes trabajaban en Inteligencia Artificial General (AGI) en Google DeepMind se unieran a su llamado de atención y sumaran a esta campaña. "Sinceramente creo que la IA tiene el potencial de matarnos a todos, y que podríamos estar quedándonos sin tiempo para evitar este resultado", sentenció Chughtai en un largo comunicado que compartió por X, mientras que Engels añadió: "No hay quien venga a salvarnos".

¿Qué tan cerca estamos del fin del mundo?

Pero, ¿qué tan reales son estas advertencias? Para poder dilucidar este interrogante, C5N habló con Belén Ortega, especialista y divulgadora de los alcances de la IA, quién aseguró que para poder realizar un análisis de esta situación primero hay que quitar lo que llama "marketing apocalíptico y marketing tecnológico".

La experta hizo referencia a que actualmente "estamos en la inteligencia artificial generativa, que es la que conocemos dentro de GPT y en todas las herramientas, pero estamos por pasar a una inteligencia artificial general, con la llegado de los robots, las casas inteligentes, etc".

¿Cuál es el peligro de la inteligencia artificial general? Para Ortega, si no se regula y no tiene un control por parte del ser humano, puede avanzar tan rápido y tan potente que "puede crear un agente de inteligencia artificial que tenga la capacidad de crear otro agente que sea más inteligente del ser humano y que ese agente que lo creó y así sucesivamente".

Es lo que se llama "automejora recursiva", que significa que "ese agente tiene autonomía de crearse a sí mismo y multiplicarse para poder ser cada vez mejor sin el control del ser humano". Por lo que ese 10% de probabilidades podría suceder a raíz de ese peligro, sin ningún tipo de control sobre el "uso de armas biológicas o armas que tengan que ver con la inteligencia artificial en una guerra".

"En la guerra contra Irán hubo un error de cálculo por parte de Estados Unidos y de Israel en todo lo que tiene que ver con la inteligencia artificial y lamentablemente uno de los drones cayó en una escuela de niñas", aclaró Ortega, quien aclara una y otra vez que la inteligencia artificial "no es mágica, ni infalible".

A esto se le suma que Anthropic detectó y bloqueó cinco casos del uso indebido de sus plataformas pars desarrollar armas biológicas, entre lo que se encontraron con "operaciones cibernéticas, operaciones de influencia, vigilancia, estafas y fraude, uso indebido de sistemas biológicos y desarrollo de armas convencionales".

¿Por qué hay que regular la inteligencia artificial?

Entre estas advertencias, se sumó Sam Altman, CEO de OpenIA, creadores de ChatGPT, y Dario Amodei, director ejecutivo de Anthropic, quienes también publicaron posteos en redes y alertaron sobre su preocupación ante el avance. También se pronunció Elon Musk, creador de SpaceX, que ya en 2023 había firmado una carta abierta para frenar la IA.

Sin embargo, frente a esta lluvia de advertencias y alertas, el presidente de Estados Unidos, Donald Trump, rechazó frenar el desarrollo de la inteligencia artificial y advirtió sobre la competencia con China. "Quien gane la IA, gana", remarcó el mandatario republicano, dejando en claro que la carrera por la tecnología es mucho más importante que el costo, es decir, los riesgos a los que nos exponemos.

Con su mentalidad, en la que el comunismo es el verdadero enemigo a vencer, "Trump quiere quedar como quien salve a Estados Unidos y al mundo", afirmó Ortega. Esto coincide en cierta parte con lo que Coxon alertó en su escrito donde las grandes empresas desarrolladoras de IA están "atrapadas en una carrera por llegar primero" y "no siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos".

¿Cómo se puede regular a la inteligencia artificial? Para la experta, la regulación puede ser, paradójicamente, desregularla por completo, hacer que nadie pueda acceder o que haya límites a su uso como en Europa.

Desde Anthropic, Amodei alertó que en un plazo de 6 a 12 meses un "enjambre" de agentes de IA autónomos podría tomar el control de todo Internet mediante una red de bots persistentes. De hecho, en los experimentos que estuvieron haciendo "se les escaparon tres agentes de inteligencia artificial que andan rondando por internet".

La inteligencia artificial podría matarnos, pero ¿cómo?

De camino a una sociedad que se adapta cada vez más a las nuevas tecnologías, "lo que viene en la inteligencia artificial es modificar la política. La IA vino para quedarse y es un una revolución tecnológica, pero también una revolución existencial. Porque si una máquina puede hacer todo por mí, ¿dónde queda el ser humano?", reflexionó la especialista.

De cara a las elecciones de 2027, remarcó que "el candidato que se postule tiene que debatir sobre la regulación de la IA (a medias o de forma completa) para que Argentina no se quede atrás ni intelectual ni económicamente. "Tenemos que analizar cómo va a ser su mirada de la inteligencia artificial, porque eso nos va a determinar en qué posición nos va a poner en el mundo", reafirmó.

Para Ortega en la Argentina va a existir una disparidad muy marcada entre los sectores sociales: mientras aquellos que tienen mejor educación aumentarán sus capacidades gracias al uso de la inteligencia artificial, quienes tengan una educación deficiente van a sufrir un estado de "sedentarismo cognitivo".

Frente a estos mensajes apocalípticos, la especialista resaltó que existen mucha sobreinformación y desinformación teñida por un mensaje de fin del mundo que lleva a "no entender qué es lo que está pasando y no razonarlo". Por eso, hay que empezar a "desmenuzar los mensajes apocalípticos que hay tanto de Donald Trump" como los otros expertos en IA.

"El avance tecnológico no va a ser algo catastrófico, pero sí es importante entender que puede ser de una semana a la otra", cerró.