El caso de los alumnos del Colegio Modelo de Lomas de Zamora puso sobre la mesa la necesidad de abrir un debate sobre la regulación de las nuevas tecnologías, orientadas en muchas ocasiones a ejercer violencia sexual digital.
El peligroso uso de la IA para modificar imágenes de adolescentes.
La rápida expansión de la inteligencia artificial trajo consigo nuevas formas de violencia digital que afectan principalmente a niñas y adolescentes. En las últimas horas, el caso del Colegio Modelo de Lomas de Zamora, en el que alumnos modificaron con IA imágenes de otras estudiantes para venderlas en sitios pornográficos, encendió otra vez las alarmas. Pero no se trata de la primera ni única denuncia durante los últimos meses.
El presidente de Grooming Argentina, Hernán Navarro, advirtió sobre la urgencia de actualizar los marcos legislativos, el rol de las empresas tecnológicas en el diseño de herramientas seguras y la necesidad de una presencia adulta activa ante la proliferación de imágenes manipuladas sin consentimiento.
El avance de las tecnologías de manipulación digital dio lugar a prácticas graves en el entorno escolar y redes sociales. Aunque el problema involucra tecnología de vanguardia, el titular de la ONG aclara que el trasfondo es social: "El problema no es solamente tecnológico, sino profundamente cultural, y está estrechamente vinculado con el entramado de la violencia por razones de género".
Además, detalló un patrón constante en sus intervenciones: "No hemos identificado un solo caso en el que una chica haya desnudizado a un chico. Si bien esto no significa que no puedan existir situaciones inversas, evidencia un patrón preocupante en los casos que conocemos: las principales víctimas son adolescentes mujeres".
"Desde Grooming Argentina impulsamos el término ‘desnudizar’, un concepto que busca condensar y simplificar las prácticas conocidas como deepnude y nudificación: la utilización de herramientas tecnológicas para simular que una persona aparece desnuda, sin su consentimiento", explicó Navarro en diálogo con C5N.
El presidente de la entidad especializada alertó sobre el alcance colectivo y la comercialización de este tipo de contenidos en canales digitales. "Lo preocupante no es solamente la aparición de nuevos casos, sino su naturalización. Estamos observando cómo la manipulación sexual de imágenes comienza a incorporarse a determinadas dinámicas de violencia entre adolescentes, afectando principalmente a las mujeres", advierte.
La mayor gravedad, según Navarro, radica en la instrumentalización de las juventudes por parte de redes delictivas: "No estamos frente a una moda tecnológica ni a bromas individuales. Estamos frente al riesgo de que los propios adolescentes se conviertan en el brazo ejecutor de redes criminales vinculadas con la explotación sexual de niñas, niños y adolescentes. Así como el narcotráfico se vale de los llamados 'soldaditos' para sostener sus circuitos criminales, debemos advertir sobre la posibilidad de que estas redes utilicen a adolescentes como eslabones en la producción y circulación de material de violencia sexual digital".
Argentina lidera indicadores de acceso temprano a dispositivos en la región, un factor que incide directamente en la exposición a estas tecnologías. Según Grooming Argentina, nuestro país se encuentra entre los de mayor acceso temprano a teléfonos celulares propios en América Latina. En promedio, 4 de cada 10 chicos y chicas acceden a su primer celular antes de los 9 años.
Frente a esta realidad, Navarro introduce un concepto clave para la crianza actual: "En este sentido, debemos reflexionar sobre un concepto que vengo planteando: la emancipación digital prematura. Estamos entregando dispositivos a edades cada vez más tempranas, otorgándoles a nuestros hijos e hijas una autonomía para la cual muchas veces todavía no cuentan con las herramientas necesarias. Darles un celular no puede significar delegar su crianza en una pantalla".
Una vez detectada esta conducta, las dudas residen alrededor del abordaje de la problemática, ya que requiere la intervención articulada del sistema educativo, los organismos de niñez y las familias. "Estos casos no pueden reducirse a un conflicto escolar, una broma entre adolescentes o un uso indebido de la tecnología. Estamos frente a situaciones de violencia sexual digital", enfatizó Navarro.
Entre las prioridades inmediatas, destaca evitar la revictimización, preservar la evidencia digital y acudir a plataformas internacionales de protección, como Take It Down, del NCMEC, que permiten ayudar a detener la circulación de determinadas imágenes íntimas de menores de edad sin necesidad de compartirlas.
Pese a que el país cuenta con normas marco como la Ley 26.061 de Protección Integral de Niñez y la Ley Olimpia (Ley 27.736), aún persisten desafíos en la materia penal respecto al uso de IA. "En Argentina, si bien todavía no existe una normativa penal específica que contemple integralmente estas nuevas modalidades de violencia sexual mediante inteligencia artificial, estas prácticas aberrantes podrían quedar encuadradas dentro de las previsiones del artículo 128 del Código Penal, cuando involucren representaciones sexuales de niñas, niños y adolescentes y se configuren los elementos del delito", afirma.
El presidente de la organización señala que "el reconocimiento de derechos no siempre se traduce en herramientas penales específicas para sancionar estas conductas. El verdadero desafío es garantizar respuestas judiciales efectivas, mecanismos de prevención y reparación integral para las víctimas".
Respecto a la implicancia de los adultos a cargo cuando ocurren estos hechos, afirmó que la responsabilidad no recae únicamente en el ámbito individual o institucional, sino que involucra directamente al entorno familiar.
"Cuando estas conductas son cometidas por adolescentes, no podemos minimizar su gravedad ni justificarlas como una broma. Deben existir consecuencias proporcionales, intervenciones educativas y, cuando corresponda, responsabilidades penales y civiles", sostuvo el presidente de Grooming Argentina.
En ese sentido, el abogado penalista José Mariani se alineó a la afirmación de Navarro y afirmó a C5N que hoy no hay un delito tipificado para este tipo de situaciones, aunque sí se podría resolver mediante la vía civil por la que deberían responder sus padres de los victimarios por tratarse de menores de edad.
"En un escenario hipotético se podría tratar eventualmente de un tipo de producción de material a uso de sexual infantil, aunque siendo específico en cuanto la norma, todo lo que es digital no es la mal dicha pornografía infantil. Como pornografía infantil, la normativa internacional entiende como cualquier tipo de imagen o representación de menores en actividades sexuales explícitas", indicó el letrado.
A su vez aclaró que cuando Argentina incorporó esa normativa internacional hizo reserva de que las imágenes creadas virtualmente no constituyen eso porque no afectan al bien jurídico. Es decir, "es atípico", aclaró, respecto del artículo 128 del Código Penal de la Nación, "porque el afectado no es un menor real". De la misma forma, Mariani indicó que se podría ver afectado el honor y la dignidad, pero que hoy en día no hay una figura que así lo proteja.
Por eso, Navarro especialista recuerda el marco legal vigente en el país sobre el resarcimiento de los daños provocados por menores de edad: "En este sentido, las familias también tienen responsabilidades. El Código Civil y Comercial argentino contempla, bajo determinadas condiciones, la responsabilidad civil de madres y padres por los daños ocasionados por sus hijos menores de edad".
Frente a la velocidad con la que se propagan estas aplicaciones, desde la entidad reclaman una reforma en el Congreso. "Argentina necesita avanzar en un debate legislativo serio, urgente e integral sobre la inteligencia artificial y su utilización para vulnerar derechos. No se trata de prohibir la tecnología ni de obstaculizar la innovación, sino de establecer límites claros frente a sus usos abusivos", comentó Navarro.
Un punto central del análisis recae en las compañías desarrolladoras de software de inteligencia artificial. "Existe una dimensión fundamental que debemos incorporar al debate: la responsabilidad por diseño de las empresas tecnológicas. Las compañías que desarrollan herramientas de inteligencia artificial deben anticipar los riesgos asociados a sus productos e incorporar mecanismos de seguridad desde su concepción, especialmente cuando pueden utilizarse para ejercer violencia sexual contra adolescentes", remarca Navarro.
Para el referente de Grooming Argentina, la discusión debe ir más allá de las penas: "El debate no puede agotarse en el Código Penal. Debemos incorporar la responsabilidad por diseño de las empresas tecnológicas, exigir mecanismos efectivos de prevención y establecer procedimientos ágiles para la eliminación de contenidos y la reparación de las víctimas".
El especialista enfatiza que el esfuerzo preventivo debe originarse en las plataformas, por lo que propuso medidas proactivas, incorporar barreras tecnológicas que dificulten estos usos como medios lesivos y garantizar mecanismos ágiles de denuncia y remoción.
Para Hernán "existen soluciones" a estas situaciones que no deben quedar impunes, aunque aclara que "debemos comprender que no hay una respuesta única ni exclusivamente tecnológica para una problemática que es profundamente social, cultural y estructural".
"Desde Grooming Argentina sostenemos que la prevención debe convertirse en una verdadera política pública de Estado, sostenida en el tiempo y articulada entre todos los actores que tienen responsabilidades en la protección de niñas, niños y adolescentes", sostuvo, a la vez que expresó la necesidad de avanzar en una legislación que contemple expresamente estas nuevas modalidades de violencia sexual digital, fortalecer la educación digital desde edades tempranas y garantizar que las instituciones educativas cuenten con protocolos específicos de intervención.
Mientras reclamó responsabilidad a las empresas de tecnología, el presidente de Grooming Argentina también pidió "desnaturalizar la violencia sexual entre adolescentes, trabajar sobre el consentimiento, cuestionar las relaciones de poder y comprender que desnudizar a una persona no es una broma ni una manifestación de creatividad tecnológica. Es violencia sexual digital".
"La inteligencia artificial puede transformar el mundo, pero nunca debemos permitir que esa transformación implique retroceder en derechos. El verdadero progreso tecnológico es aquel que pone a las personas y su dignidad en el centro", opinó.
Navarro destaca que el enfoque familiar debe basarse en la prevención antes de que el daño se produzca y no es necesario conocer todas las herramientas de inteligencia artificial, sino que la premisa es ser padres presentes y saber vincularse con confianza.
"No podemos enseñar a nadar en el momento en que alguien se está ahogando. Del mismo modo, no podemos pretender que nuestros hijos e hijas sepan enfrentar una situación de violencia sexual digital si nunca antes conversamos sobre ella", reflexiona.
Para concluir, el titular de la agrupación resume la postura que debe adoptar el mundo adulto en el hogar: "Nosotros repetimos una premisa que considero fundamental: acompañar no es vigilar, es preguntar y escuchar".
Noticias relacionadas
últimas noticias
Giro inesperado: el encuentro de Wanda Nara y L-Gante que sorprendió a todos
Hace 13 minutos
Un sismo de 8 grados sacudió a Panamá y hay alerta por tsunami en la región
Hace 33 minutos
C5N en Añelo, el corazón de Vaca Muerta que cambió gracias a las inversiones petroleras
Hace 34 minutos 
El único "no" de Dalma Maradona a sus hijas: el límite que les puso y que involucra a Diego Maradona
Hace 39 minutos
Qué se sabe sobre Dale Match, el nuevo programa de Marcelo Tinelli: una mezcla de humor y actualidad
Hace 40 minutos
