Reino Unido: investigan a X por la generación de deepfakes sexuales con inteligencia artificial

Tras recibir una respuesta de la empresa a un requerimiento de información enviado el 5 de enero, el ente regulador decidió avanzar con la evidencia disponible. El escrutinio busca verificar si la compañía de Elon Musk cumplió con sus obligaciones legales de mitigar riesgos y proteger a los ciudadanos en Gran Bretaña.

Por su parte, la empresa aseguró que toma medidas contra el contenido ilegal mediante la eliminación de material y la suspensión permanente de cuentas. Respecto al uso de IA, la firma sentenció: "Cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".

Admisión de fallas y posibles sanciones legales

El propio chatbot de la plataforma reconoció deficiencias en sus filtros de seguridad al admitir que "hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con escasa ropa". Grok añadió que, si bien existen salvaguardas, se identificaron "lapsos" que están intentando solucionar con urgencia.

Como medida inmediata, X limitó la generación de imágenes en Grok solo a usuarios de pago, aunque la restricción no se aplicó inicialmente a su aplicación independiente. Esta decisión ocurre bajo la presión del primer ministro Keir Starmer, quien calificó las imágenes producidas por la herramienta como "repugnantes" e "ilegales".

De comprobarse infracciones, el regulador puede imponer multas de hasta 18 millones de libras o el 10% de los ingresos globales de la empresa. En escenarios extremos de incumplimiento, la justicia británica tiene la potestad de ordenar el bloqueo del acceso al sitio web o la interrupción de sus servicios financieros y publicitarios.