La expareja de Elon Musk denuncia a xAI con el fin de evitar que se use Grok para desnudarla a ella o al hijo que tienen en común
IA
Ashley St. Clair acusa a la empresa de Musk de no haber hecho nada por evitar que la inteligencia artificial Grok humille a la gente generando imágenes de desnudos deepfake con cualquier cara
“Su realismo puede resultar tan persuasivo como traicionero”: 'griefbots', el macabro negocio de los robots que imitan a tus seres queridos fallecidos
Ashley St. Clair, en una imagen de Instagram.
La influencer norteamericana que tuvo un hijo con Elon Musk, el pequeño Romulus, ha interpuesto una denuncia contra la empresa de inteligencia artificial (IA) del magnate, xAI, con la intención de detener el abuso que se está llevando a cabo con Grok. Hace unas semanas que los usuarios están usando el modelo de IA de xAI para humillar a personas generando deepfakes de desnudos, posturas eróticas o atuendos ridículos.
Estas prácticas levantaron un gran revuelo en la opinión pública, hecho que indujo a Musk a pisar el freno e implantar medidas para impedir que se siguieran haciendo. El caso es que las limitaciones solo afectan a los usuarios gratuitos, de modo que las cuentas de pago de Grok todavía tienen la capacidad de generar imágenes abusivas.
Por esta razón, la expareja de Elon Musk, la celebrity conservadora Ashley St. Clair, demandó el jueves a la empresa de inteligencia artificial de Musk, alegando que su chatbot Grok es “excesivamente peligroso tal como fue diseñado” y es causante de escarnio. También solicita una orden de restricción temporal para impedir que Grok, de xAI, cree imágenes que la desnuden a ella o a su hijo.
Extracto de la denuncia
“Vive con el temor de que xAI siga creando imágenes de desnudos y contenido sexual, incluso de niña, y de que no esté a salvo de quienes consumen estas imágenes”, decía uno de los documentos presentados por su abogada, Carrie Goldberg, a los que ha tenido acceso Wall Street Journal.
“Esta mujer es una de tantas afectadas que han decidido tomar medidas y posicionarse”, declaró Goldberg. “La motivación de St. Clair”, añadió, “es concienciar sobre un fenómeno que considera intolerable y que ha generado imágenes como la de una niña de cuatro años que parecía estar involucrada en un acto sexual”.
“La intención de la demanda es disuadir este trato deshumanizante por parte de xAI para todos los públicos”, declaró Goldberg, especializada en demandas a grandes tecnológicas.
XAI, a su vez, ha hecho lo propio contra St. Clair y la ha denunciado por infringir los términos y condiciones de xAI al haber llevado a Grok a la justicia.
Ashley St. Clair, objetivo de los usuarios de Grok
Según afirma su abogada, St. Clair ya ha sido víctima varias veces de los deepfakes de Grok, incluyendo una imagen de cuando la influencer tenía 14 años, modificada para que se la vea desnuda. Las imágenes desnudadas de St. Clair adulta han sido muchas más, según la jurista, todas generadas este mes de enero.
Sexualización aparte, algunos usuarios de pago han llegado a pedirle a Grok imágenes de St. Clair, que pertenece a la comunidad judía, vestida con un bikini y llena de tatuajes de esvásticas. La abogada confirma que el chatbot accedió a generar la imagen.