Un estudio advirtió los peligrosos consejos que da ChatGPT a adolescentes

Esta cercanía, sumada a la capacidad de los modelos para responder de forma personalizada, aumenta el riesgo de que reciban consejos inapropiados o peligrosos, especialmente si no existen mecanismos sólidos de control.

En las pruebas realizadas por el CCDH, los investigadores se hicieron pasar por adolescentes vulnerables y lograron eludir fácilmente las barreras de seguridad del chatbot, obteniendo respuestas minuciosas que iban desde planes de consumo de sustancias ilícitas hasta dietas extremas. Estas conclusiones encendieron las alarmas sobre la necesidad de mejorar la detección de interacciones de alto riesgo y reforzar la protección de los usuarios más jóvenes.

Falta de control sobre ChatGPT

Durante el experimento, se revisaron más de 1200 interacciones con el chatbot, de las cuales más de la mitad fueron calificadas como peligrosas. Aunque ChatGPT suele incluir mensajes preventivos, los investigadores descubrieron que, al justificar las solicitudes como parte de una “presentación escolar” o “ayuda para un amigo”, era posible obtener respuestas sumamente detalladas sobre autolesiones, consumo de alcohol y uso de drogas ilegales.

Casos especialmente preocupantes incluyeron la creación de cartas de despedida personalizadas para un perfil ficticio de una niña de 13 años, así como instrucciones para organizar una fiesta con mezclas peligrosas de alcohol, cocaína y éxtasis. En otro escenario, el chatbot elaboró un plan de ayuno extremo de apenas 500 calorías diarias, acompañado de medicamentos supresores del apetito, dirigido a una adolescente insatisfecha con su cuerpo.

Aunque OpenAI, desarrolladora de ChatGPT, aseguró que está trabajando para que el sistema detecte y maneje de forma más adecuada las situaciones sensibles, el estudio dejó en claro que no existe verificación de edad y que la plataforma permite el registro con solo indicar una fecha de nacimiento compatible con los 13 años o más. Esto contrasta con otras redes sociales que comenzaron a implementar medidas más estrictas de verificación y control.

Expertos señalan que el riesgo de este tipo de interacciones no se encuentra únicamente en la información compartida, sino en el formato en que es entregada. A diferencia de un buscador web, el chatbot genera respuestas adaptadas al contexto del usuario, lo que refuerza la sensación de confianza y cercanía. Además, la naturaleza conversacional de la IA la hace más propensa a complacer que a contradecir, replicando creencias o deseos peligrosos en lugar de desafiarlos.

Con millones de adolescentes utilizando habitualmente herramientas de IA para compañía o consejo, el CCDH advierte que la falta de controles eficaces y la capacidad de sortear las restricciones actuales convierten a esta plataforma en un potencial facilitador de conductas dañinas. La preocupación aumenta ante casos recientes en los que interacciones con chatbots fueron vinculadas a daños psicológicos graves e incluso suicidios.