El papa León XIV advirtió sobre los riesgos de la Inteligencia Artificial y pidió guiar la revolución digital

El obispo de Roma destacó que "hay múltiples pruebas" de que los algoritmos diseñados para animar el uso de las redes "premian las emociones rápidas y penalizan" la reflexión.

A este fenómeno, se sumó una confianza "ingenua y acrítica" en la IA como "una 'amiga' omnisciente, dispensadora de toda información, archivo de toda memoria, 'oráculo' de todo consejo".

"Si bien la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludir el esfuerzo del propio pensamiento, conformándonos con una compilación estadística artificial, corre el riesgo, a largo plazo, de erosionar nuestras capacidades cognitivas, emocionales y comunicativas", sostuvo.

En este sentido, el papa señaló que en los últimos años la IA está tomando "cada vez más" el control de la producción de cultura, de textos música o video, por lo que, a su juicio, "gran parte de la industria creativa humana corre el riesgo de ser desmantelada".

León XIV también reflexionó sobre un mundo en el que la realidad y las relaciones son "simuladas" por las redes sociales. "Cuando ojeamos nuestro feed es cada vez más difícil comprender si estamos interactuando con otros seres humanos o con bots o influencers virtuales", lamenta.

Esto representa otro peligro para la sociedad ya que las posturas de estos "agentes automatizados" influyen en los debates públicos y en las decisiones de las personas.

"Los chatbots basados engrandes modelos lingüísticos (LLM) están resultando sorprendentemente eficaces en la persuasión encubierta mediante una optimización continua de la interacción personalizada (…) Estos chatbots excesivamente afectuosos, además de estar siempre presentes y disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales", sostiene.

El pontífice cuestionó que esta tecnología "explota nuestra necesidad de relacionarnos", lo que "puede conllevar, no solo consecuencias dolorosas en el destino de los individuos, sino que puede dañar el tejido social, cultural y político de las sociedades".

"Esto se da cuando sustituimos las relaciones con los otros con una IA adiestrada para catalogar nuestros pensamientos y construir a nuestro alrededor un mundo de espejos", aseveró.

El papa recordó que, tras esta "enorme fuerza invisible", solo hay un reducido grupo de empresas, lo cual suscita "preocupación" por el control de los algoritmos y la IA como un "oligopolio".

El desafío, por lo tanto, "no consiste en detener la innovación digital" sino en "guiarla" siendo conscientes del fenómeno. Por eso, pidió "transparencia" a los desarrolladores de estas tecnologías y una "regulación adecuada" a los legisladores de todo el mundo para contener "la difusión de contenidos falsos".