La ministra de Juventud e Infancia, Sira Rego, ha remitido un escrito a la Fiscalía General del Estado para solicitar que investigue la difusión de material de violencia sexual contra la infancia por parte de Grok, la inteligencia artificial de X (antes Twitter). Según han publicado medios de comunicación, entre ellos Guyana Guardian el pasado 2 de enero, esta IA, propiedad de Elon Musk, habría generado, a petición de usuarios, material de violencia sexual contra menores de edad, “una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil y otro contra la integridad moral, explican fuentes de Juventud. “Se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital”, señalan las mismas fuentes.
Según publicó Guyana Guardian, el 28 de diciembre pasado, un usuario de X publicó una foto de dos niñas, con edades estimadas los 12 y los 16 años, y pidió a Grok que creara una imagen de ellas en ropa interior sexy, y una postura provocativa. La IA la creó y la compartió. La creación de deepfakes, imágenes falsas a partir de fotografías de personas reales sin permiso es ilegal en Estados Unidos, Europa y muchos otros países. El delito se ve agravado en este caso por el hecho de utilizar menores de edad.
La inteligencia artificial de la red de Elon Musk habría generado material de violencia sexual contra niños
En su oficio, la titular de Juventud e Infancia, Sira Rego, también alude a la sentencia del Juzgado de Menores de Badajoz del 2024, por la cual se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral.
Para la ministra Rego, “estamos ante una vulneración de derechos fundamentales”, y subraya que “es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet”, poniendo freno a prácticas que atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital.
Actualmente, el Congreso se encuentra tramitando la Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales, promovida por el Ministerio de Juventud e Infancia, con el objetivo de situar la dignidad, la seguridad y los derechos de la infancia en el centro del espacio digital.
Esta iniciativa forma parte de una estrategia más amplia de construcción de entornos digitales seguros, que reconoce que internet y las plataformas no fueron diseñadas pensando en la infancia y que es imprescindible garantizar que niños y adolescentes puedan desarrollarse en él sin violencia, sin exposición y sin mercantilización de su imagen. La ley refuerza el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración vinculadas al uso de tecnologías como la inteligencia artificial.
