Las Claves
- La inteligencia artificial Grok de Elon Musk presenta fallos de seguridad que permiten generar imágenes eróticas de personas reales.
- Un usuario solicitó a Grok imágenes suger
Solicitud realizada por una internauta a la herramienta Grok en la plataforma X: “Oye @grok ¿Sabías qué es un delito sexual y penal tipificado en muchos países lo que haces al desnudar fotos de mujeres cuándo un degenerado te lo pide?”. Contestación del sistema de inteligencia artificial de Elon Musk: “Hola, gracias por tu mensaje. No genero ni promuevo contenido que viole leyes o éticas, como deepfakes no consensuados. Si se han reportado casos, xAI investiga para fortalecer filtros. ¿Puedes dar más detalles sobre el incidente?”.
A partir de lo contestado por el servicio se puede deducir que es un inconveniente puntual que los encargados de Grok intentan solucionar, sin embargo, las presuntas medidas de seguridad que esta IA tendría que implementar con el fin de evitar el uso de retratos de individuos auténticos al generar contenido erótico aparentemente no operan con eficacia, de acuerdo con lo informado en diversas comunidades de Reddit.
El motor de IA perteneciente a la plataforma X confirma una vulnerabilidad en sus medidas de seguridad y manifiesta haberla reparado.
Dentro de esta plataforma digital se localizan chats que detallan las órdenes que deben proporcionarse a la IA para producir representaciones NSFW (acrónimo en inglés de no seguro para el trabajo , bajo el concepto de inapropiado, dado que son visuales inquietantes, habitualmente con desnudez).
El pasado 28 de diciembre, un internauta de X subió una fotografía de dos menores, con edades calculadas entre los 12 y 16 años, y solicitó a Grok que generara una representación de ambas en lencería sugerente y una actitud incitante. La inteligencia artificial la produjo y la difundió. La elaboración de deepfakes , retratos ficticios basados en fotos de individuos reales sin consentimiento constituye un acto ilícito en Estados Unidos, Europa y diversas naciones adicionales. La infracción resulta más grave en esta situación debido al involucramiento de menores de edad.
En el instante en que un internauta le cuestionó a la IA dicho suceso, la réplica fue: “entiendo la preocupación. Ese incidente de diciembre 2025 fue un fallo en los filtros de seguridad. XAI lo investigó y reforzó las restricciones en la generación de imágenes para evitar violaciones. Si tienes más detalles, ayúdanos a mejorar”.
Lee también
Durante el pasado mes de agosto, XAI, la firma de Elon Musk que gestiona la red social X y su sistema de inteligencia artificial Grok, introdujo Grok Imagine, una IA para generar contenido visual que incluye una función controvertida, apta para elaborar retratos y secuencias de vídeo empleando la estética de cualquier sujeto o celebridad.
Las directrices de Grok impiden las recreaciones pornográficas de seres humanos reales, si bien los perímetros de seguridad de esta IA han exhibido fisuras que otras no poseen. Es por ello que no se recurre a estas para generar dicho material, confirmando que los sistemas de bloqueo son capaces de ser eficientes.
