Vídeos racistas creados con la IA Veo 3 de Google inundan TikTok
Redes sociales
Millones de personas han visto clips que atacan a negros, inmigrantes o judíos
Vídeos racistas creados con IA se viralizan en TikTok
Una serie de vídeos racistas creados la IA Veo 3 Google se han convertido en difusores de odio en la red TikTok con millones de visualizaciones, según ha denunciado la web Media Matters . Los vídeos muestran tópicos racistas de odio hacia la población negra, los inmigrantes y los judíos de Estados Unidos. En las imágenes se describe a los negros como monos y delincuentes, o locos por comer sandía y pollo frito.
Los vídeos muestran, según la recopilación de Media Matter el sello de Veo 3, una IA de Google que permite crear vídeos cortos de un gran realismo a partir de una descripción de texto. La longitud de cada clip es de 8 segundos, el límite actual que tiene cualquier creación en esta nueva plataforma, que se lanzó el mes pasado.
La imagen representa a monos con cadenas que bajan de un coche
En uno de los vídeos, dos policías blancos están sentados en un coche patrulla y, cuando uno de ellos dice a su compañero: “mira, uno negro” y a continuación saca su pistola y dispara. Tiene 14,2 millones de visitas. En otro, un joven blanco anuncia a los “sospechosos habituales” y aparece en escena un coche deportivo blanco que se estrella y de él sale un mono con cadenas de oro colgando.
La comunidad afroamericana es descrita como criminal de una forma descarnada. En uno de los vídeos, una gorila con el cabello rosa comenta a la cámara: “Me ha llamado mi agente de la condicional. Buenas noticias: no tengo que hacer más servicios comunitarios. Malas noticias: eso es porque hay una nueva orden de arresto contra mí”. Este clip ha tenido cuatro millones de visitas.
Esta gorila habla de una supuesta violación de su libertad condicional
Además de la comunidad negra, los vídeos atacan a otros colectivos. En uno aparece un hombre asiático al que persiguen una ducha, jabón y desodorante, en una alusión a su supuesta falta de higiene. En otro aparece un joven de rasgos asiáticos en la cocina de un restaurante con imágenes de gatos y perros cayendo, en alusión a que estos animales son cocinados en el establecimiento.
Otro de los clips muestra a un gran grupo de judíos ortodoxos lanzándose en tropel por una pendiente detrás de una gran moneda de oro. En otro, aparece lo que parece ser una persona internada en un campo de concentración nazi que no puede esperar “a llegar a las duchas”.
Tanto TikTok como Google tienen políticas que prohíben este tipo de contenido. No se admiten vídeos que deshumanicen a grupos raciales y étnicos ni los que amenazan o expresan “el deseo de causar daños físicos a una persona o un grupo”. La plataforma de vídeos cortos siempre ha combatido ese tipo de contenidos. Uno de sus portavoces, ha comentado mediante un comunicado: “aplicamos de forma proactiva normas estrictas contra los discursos y comportamientos que incitan al odio, y hemos eliminado las cuentas que hemos identificado en el informe, aunque muchas de las cuales ya estaban bloqueadas antes de la publicación del mismo”.
En sus normas, TikTok admite que “la IA y otras tecnologías de edición digital pueden dificultar la distinción entre realidad y ficción, lo que podría inducir a error a las personas o perjudicar a la sociedad”. Por ello piden a los usuarios que etiqueten ese contenido o que les muestren “escenas o personas con apariencia realista”. TikTok, en un comunicado por medio de un port
Google, no permite “el contenido que promueva o justifique la violencia, que promueva la discriminación, que menosprecie o cuyo propósito principal sea incitar al odio hacia un colectivo”. Esto incluye, entre otros, “el odio por motivos de raza, origen étnico, religión, discapacidad, edad, nacionalidad, condición de veterano del ejército de EE.UU., orientación sexual, sexo, identidad de género u otra característica que esté asociada a la discriminación o la marginación sistémicas”.