Bruselas investiga a X por las imágenes manipuladas de desnudos de Grok
Inteligencia Artificial
La Comisión Europea ignora el enfado de la Casa Blanca por las regulaciones digitales europeas y da un nuevo paso contra X
Un cartel de protesta contra las redes sociales de Elon Musk, hace unos días en una parada de autobús de Londres
Bruselas no se achanta contra Elon Musk y da un nuevo paso contra X. En concreto, contra su Grok, la inteligencia artificial de generación y edición de imágenes integrada en la red social del exasesor de Donald Trump. La Comisión Europea ha abierto este lunes una investigación formal para esclarecer si la empresa ha tomado las acciones necesarias para impedir que los ciudadanos europeos no sean víctimas de los deepfakes sexualizados que han inundado la plataforma y que han generado una enorme consternación en el continente.
La investigación sigue a la orden que emitió el Ejecutivo comunitario, a principios de enero, cuando pidió red social que conserve todos los documentos de Grok hasta finales de 2026. Y ahora, Bruselas abre un dossier formal para determinar si X ha cumplido las obligaciones de la regulación de Servicios Digitales de la UE (DSA, por sus siglas en inglés), la nueva normativa comunitaria para vigilar a las plataformas online y proteger a los usuarios comunitarios de contenidos ilícitos, al multiplicar por la red estas las imágenes de mujeres y también niños, personas reales, desnudas.
“El intercambio de imágenes íntimas no consentidas y de material de abuso sexual infantil es horrible”, sostuvo la comisaria de Soberanía Tecnológica
Los riesgos que preocupan específicamente a la Comisión son los relacionados con la “difusión de contenidos ilegales en la UE, como imágenes manipuladas sexualmente explícitas, incluidos contenidos que puedan constituir material de abuso sexual infantil”. “Estos riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a un serio daño”, considera el Ejecutivo comunitario en un comunicado.
Las dos normas de la DSA que X podría estar incumpliendo son sus obligaciones de evaluar y mitigar diligentemente los riesgos sistémicos, “incluidos los relacionados con la difusión de contenidos ilegales, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental” derivadas de la implementación de las funcionalidades de Grok en su plataforma; y realizar y transmitir a la Comisión un informe de evaluación de riesgos para las funcionalidades de Grok en X “con un impacto crítico en el perfil de riesgo de X antes de su implementación”.
Ahora, el Ejecutivo comunitario recabarà pruebas y pedirá más información a X. Si, cuando culmine la investigación, Bruselas confirma la vulneración de alguna de estas disposiciones, la red social podría afrontar una multa de hasta el 6% de su facturación anual. No hay fechas definidas, pero la Comisión habla de carácter “prioritario”.
En un debate la semana pasada en el Parlamento Europeo sobre el asunto, la comisaria europea de Soberanía Tecnológica, Henna Virkunnen, ya advirtió que no les temblaría el pulso. “El intercambio de imágenes íntimas no consentidas y de material de abuso sexual infantil es horrible”, sostuvo la popular finlandesa. También la presidenta de la Comisión Europea, Ursula von der Leyen, indicó sentirse “consternada” por esta situación que ha despertado gran preocupación en varios países, incluido España, que ha solicitado a la Fiscalía investigar la IA por pornografía infantil.
En paralelo, Bruselas también ha anunciado que ha ampliado la investigación que tiene en marcha desde diciembre del 2023 contra X por posibles infracciones relacionadas con el sistema de recomendación de la plataforma, incluyendo el impacto de su reciente anunciado cambio a un sistema de recomendación basado en la herramienta Grok.
La reciente multa de 120 millones a X enfureció a la Casa Blanca
Todo llega un mes y medio después de que precisamente X estrenara las multas que se aplican bajo la DSA. En diciembre, las autoridades comunitarios impusieron una multa de 120 millones de euros a la compañía de Elon Musk por tres comportamientos concretos de la plataforma, comenzando por las prácticas engañosas de su famosa marca azul (o blue check), un símbolo que antes señalaba aquellas cuentas verificadas por su relevancia pública pero que Musk sustituyó como un distintivo de aquellos usuarios que simplemente tienen una versión de pago.
La sanción suponía casi el 5% de la facturación anual de la compañía del fundador de Tesla, y enfureció al otro lado del Atlántico, con la plana mayor de la Casa Blanca, incluyendo el presidente de EE.UU., Donald Trump, atacando a la UE por ello. La Administración del republicano está presionando a Bruselas para que suavice sus regulaciones digitales, que considera diseñadas a medida para penalizar a las empresas tecnológicas estadounidenses. Sin embargo, desde Bruselas insisten en no tienen un objetivo final recaudatorio, sino que pretenden forzar a los gigantes digitales a que cambien sus comportamientos para adaptarse a las reglas de la UE.