Grok, la herramienta de IA de Elon Musk, ha desactivado su función de creación de imágenes para la gran mayoría de los usuarios tras la indignación generalizada por su uso para crear imágenes sexualmente explícitas y violentas.
Esta medida se produce después de que Musk recibiera amenazas de multas, medidas regulatorias e informes sobre una posible prohibición de X en el Reino Unido, según avanza The Guardian.
Lee tambiénInfancia pide a la Fiscalía que investigue a la IA de X (antes Twitter) por pornografía infantil
La herramienta se había utilizado para manipular imágenes de mujeres, desnudándolas y colocándolas en posiciones sexualizadas. Esta función se ha desactivado, excepto para los suscriptores de pago.
Esto significa que la gran mayoría de los usuarios de la plataforma no pueden crear imágenes con Grok, y quienes lo hacen tienen sus datos completos y la información de su tarjeta de crédito almacenados por X, lo que permite identificar si la función se usa indebidamente.
Lee tambiénGrok abre dudas sobre sus salvaguardas al transformar fotos de mujeres en desnudos
Una investigación publicada por The Guardian descubrió que se había utilizado para crear vídeos pornográficos de mujeres sin su consentimiento, así como imágenes de mujeres asesinadas a tiros. Musk se enfrenta a la amenaza de medidas regulatorias a nivel mundial tras el uso de Grok para crear imágenes sexuales no consensuadas.
Keir Starmer, primer ministro del Reino Unido, amenazó el miércoles con tomar medidas enérgicas contra la red social. Exigió a X que “controle” la avalancha de fotos creadas por IA de mujeres y niños parcialmente desnudos en la plataforma, describiendo el contenido como “vergonzoso” y “repugnante”.
Es vergonzoso y repugnante”
Starmer afirmó que el regulador de comunicaciones Ofcom “cuenta con todo nuestro apoyo para tomar medidas al respecto”. Y añadió: “Es ilegal. No lo vamos a tolerar. He solicitado que se consideren todas las opciones. Es repugnante. X debe actuar con decisión y retirar este material. Tomaremos medidas al respecto porque es simplemente intolerable”.
Miles de imágenes sexualizadas de mujeres se han creado sin su consentimiento en las últimas dos semanas, tras la actualización de la función de creación de imágenes de Grok a finales de diciembre. Musk ha recibido reiteradas peticiones públicas para eliminar o restringir la función, pero hasta ahora la aplicación de redes sociales no ha tomado ninguna medida.