Alemania: detectaron 47 canales de YouTube con presentadores creados por IA que difunden desinformación política

Varios elementos indican que se trataría de una campaña coordinada. "Tenemos múltiples señales de coordinación en esta actividad", afirmó Lea Frühwirth, investigadora sénior sobre desinformación en CeMAS. "Hay similitudes en los temas de los que hablan, en la forma de presentarlos, en las fechas de registro, en el periodo de tiempo en el que se concentra la mayor parte de la actividad, mes a mes", agregó.

La investigadora también señaló que "tenemos cuentas que van cambiando de avatar con el tiempo" y que "hay cuentas que mantienen el mismo avatar pero cambian la voz y avatares que aparecen en varios canales".

La política interior alemana apareció en 795 de los videos analizados, que presentaban al país inmerso en una crisis política y económica y criticaban al gobierno del canciller Friedrich Merz.

Esta actividad coincidió con las elecciones regionales y locales en Alemania, en las que Alternativa para Alemania (AfD) ganó en Sajonia-Anhalt y esperaba un resultado ajustado en Mecklemburgo-Pomerania Occidental, mientras la CDU de Merz corría el riesgo de quedar por debajo del umbral necesario para tener representación en ese último estado.

Una investigación paralela detectó el mismo patrón en otros cinco idiomas

Pese a la coincidencia con el calendario electoral, Frühwirth aclaró que "no esperaría que se trate de una campaña dirigida específicamente a las elecciones", aunque remarcó que los relatos contra el gobierno federal siguen siendo relevantes en el debate en torno a los comicios.

Una investigación de la empresa de análisis Graphika identificó un patrón similar con presentadores artificiales que comentan temas internacionales en inglés, francés, coreano, portugués y español. Graphika no pudo identificar a los responsables ni confirmar que todas las cuentas pertenezcan a una misma red, aunque halló indicios de que comparten herramientas de creación y amplificación de contenido.

Muchos de los videos incluyen un aviso que señala que el contenido fue modificado o generado de forma sintética, aunque para Frühwirth esa etiqueta resulta insuficiente: "No está diseñada de manera que garantice que quien lo ve sepa que se trata por completo de un producto generado por IA".

Un análisis detallado permitió detectar errores de traducción, cambios de voz y miniaturas con un avatar distinto al del video, aunque estas señales son cada vez más difíciles de identificar. "El problema con el contenido generado por IA es que mejora minuto a minuto", advirtió. "Si habláramos dentro de tres meses, estaríamos ante un nivel de calidad completamente nuevo".