Reino Unido: investigan a X por la generación de deepfakes sexuales con inteligencia artificial

El organismo de control de seguridad en línea del Reino Unido inició una investigación formal sobre la red social X para determinar si su chatbot, Grok AI, violó las leyes de protección al usuario. La pesquisa se centra en la creación y difusión de deepfakes pornográficos y material de abuso sexual infantil generado por inteligencia artificial.

La autoridad británica calificó como "profundamente preocupantes" los reportes sobre el uso de Grok para producir imágenes íntimas no consensuadas. Según el comunicado oficial, estas acciones podrían constituir "abuso de imágenes íntimas o pornografía, e imágenes sexualizadas de niños que pueden constituir material de abuso sexual infantil".

Tras recibir una respuesta de la empresa a un requerimiento de información enviado el 5 de enero, el ente regulador decidió avanzar con la evidencia disponible. El escrutinio busca verificar si la compañía de Elon Musk cumplió con sus obligaciones legales de mitigar riesgos y proteger a los ciudadanos en Gran Bretaña.

Por su parte, la empresa aseguró que toma medidas contra el contenido ilegal mediante la eliminación de material y la suspensión permanente de cuentas. Respecto al uso de IA, la firma sentenció: "Cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".

Admisión de fallas y posibles sanciones legales

El propio chatbot de la plataforma reconoció deficiencias en sus filtros de seguridad al admitir que "hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con escasa ropa". Grok añadió que, si bien existen salvaguardas, se identificaron "lapsos" que están intentando solucionar con urgencia.

Como medida inmediata, X limitó la generación de imágenes en Grok solo a usuarios de pago, aunque la restricción no se aplicó inicialmente a su aplicación independiente. Esta decisión ocurre bajo la presión del primer ministro Keir Starmer, quien calificó las imágenes producidas por la herramienta como "repugnantes" e "ilegales".

De comprobarse infracciones, el regulador puede imponer multas de hasta 18 millones de libras o el 10% de los ingresos globales de la empresa. En escenarios extremos de incumplimiento, la justicia británica tiene la potestad de ordenar el bloqueo del acceso al sitio web o la interrupción de sus servicios financieros y publicitarios.