Malasia e Indonesia bloquean el acceso a Grok y Bruselas le exige medidas de control
Inteligencia artificial
La Comisión Europea ha calificado las imágenes falsificadas de mujeres y menores de “ilegales” y “atroces” y ha obligado a la compañía a guardar toda la documentación interna sobre la herramienta de IA
“Grok, ponle un bikini”: cómo actuar ante la IA de X que sexualiza a mujeres y menores
Elon Musk anunció el pasado viernes la suspensión de la creación y edición de imágenes solo para suscriptores de pago.
De poco ha servido que Elon Musk decidiera limitar la función de generación de imágenes del chatbot Grok en la red social X a los usuarios de pago, después de que miles de personas lo usaran para crear desnudos falsos de mujeres e incluso de menores.
Indonesia se convirtió este sábado en el primer país del mundo en bloquear su acceso tras la indignación provocada por la difusión de contenidos sexuales creados sin consentimiento mediante esta tecnología. A la decisión del país con mayor población musulmana del mundo se ha sumado Malasia, que también ha optado por restringir Grok ante la proliferación de “imágenes manipuladas obscenas y sexualmente explícitas”.
Imágenes sexualizadas de mujeres y menores
La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) anunció este domingo la medida, a través de un comunicado, sin que esto afectara el uso de X, utilizado por cinco millones de personas en el país. El anuncio responde a la edición de imágenes “indecentes, groseramente ofensivas y no consensuadas, incluyendo contenido que involucra a mujeres y menores”.
El país del sudeste asiático había pedido a X implementar “salvaguardas técnicos y de moderación efectivas” para evitar contenido generado por IA que contravenga la legislación local, ante lo que la empresa de Musk respondió con mecanismos de denuncia iniciados por los usuarios.
Lee también
A diferencia de otros chatbots, Grok no impone restricciones claras a la generación de contenido sexualizado a partir de imágenes de personas reales, los llamados deepfakes sexuales. Desde su actualización a finales de diciembre, la herramienta ha sido utilizada para editar miles de imágenes sexualizadas de mujeres, sin que hasta ahora hubiera una respuesta visible por parte de la compañía.
Bruselas obliga a X a guardar toda la documentación generada por Grok
Musk anunció el pasado viernes la suspensión de la creación y edición de imágenes solo para suscriptores de pago, después de que la Comisión Europea afirmara que estas imágenes son “ilegales” y “atroces”. “Hemos tomado nota de los cambios recientes que X ha anunciado para Grok. En realidad, limitar la generación y la edición de imágenes a los subscriptores de pago no cambia nuestra cuestión fundamental: usuarios de pago o sin subscripción, ni queremos ver estas imágenes. Tan simple como esto”, dijo el viernes el portavoz de política digital de la Comisión Europea, Thomas Regnier, en rueda de prensa.
Además, el órgano europeo ha obligado a la compañía a guardar toda la documentación interna sobre la herramienta de inteligencia artificial hasta finales de 2026, para analizar las medidas que lleva a cabo X para combatir este tipo de contenidos en virtud de la ley de servicios digitales (DSA).
La DSA, en vigor desde febrero de 2024, obliga a las plataformas a garantizar la transparencia en la moderación de contenidos, a establecer mecanismos rápidos para denunciar y retirar contenido ilegal, y a identificar y mitigar los riesgos derivados del funcionamiento y del diseño de sus servicios. ”No estamos aquí para suspender a las plataformas, no estamos aquí para decirle a los ciudadanos qué plataforma es más segura, qué herramienta de inteligencia artificial es mejor. No es nuestro objetivo. Nuestro objetivo es forzar a cada plataforma a poner su casa en orden”, dijo Regnier.
De hecho, Bruselas impuso el pasado diciembre una multa de 120 millones a la compañía por no respetar los requisitos de transparencia en la política de suscripciones, en los anuncios que muestra a los usuarios y en el funcionamiento de sus algoritmos.
Se editan 6.700 'deepfakes' sexuales por hora
Conviene recordar, no obstante, que Grok también funciona como una aplicación independiente de X, donde los usuarios pueden seguir generando imágenes sin necesidad de contar con una suscripción.
Las medidas recientes adoptadas por Indonesia y Malasia se extienden también a países occidentales, como el Reino Unido, donde las autoridades han advertido sobre posibles multas e incluso el bloqueo de la plataforma en caso de incumplimiento grave. A principios de año, el Gobierno francés presentó denuncias ante la Justicia y ante el organismo de control de contenidos ilícitos en línea Pharos contra la inteligencia generativa Grok, por la creación y difusión de “contenidos de carácter sexista y sexual”. Por su parte, en España, el Ministerio de Juventud e Infancia ha solicitado a la Fiscalía que investigue a la plataforma por la difusión de material de abuso sexual infantil.
Según el medio Bloomberg, Grok se ha convertido en una de las principales fuentes de deepfakes sexuales. Se calcula que el chatbot genera en un día alrededor de 6.700 imágenes por hora durante un periodo de 24 horas.