Un gran nombre de vídeos de clar biaix racista contra les persones negres, immigrants i jueus dels Estats Units, que corrien per TiktTok després d’haver estat creats amb la IA generativa Veo 3 de Google, han estat eliminats, com també els comptes que han pujat els continguts il·lícits, segons va comunicar ahir la plataforma de vídeos curts mitjançant un comunicat d’un portaveu.
“Apliquem de manera proactiva normes estrictes contra els discursos i comportaments que inciten a l’odi, i hem eliminat els comptes que hem identificat a l’informe, tot i que moltes de les quals ja estaven bloquejades abans de la publicació”, va assenyalar el portaveu de TikTok.
“Apliquem de manera proactiva normes estrictes contra els discursos que inciten a l’odi” diu la plataforma
La plataforma responia amb aquest comunicat a l’ allau de vídeos pujats per alguns comptes, aparentment dels Estats Units, en què apareixien micos com a representació de persones negres i mostraven cruels estereotips d’immigrants d’origen asiàtic i de la comunitat jueva.
La majoria dels vídeos, descoberts en un informe del web Media Matters, estaven creats –o almenys això es podia llegir a la marca d’aigua– amb la intel·ligència artificial generativa Veo 3 de Google. Aquesta IA, llançada al maig, permet crear vídeos de gran realisme a partir del que se li demani mitjançant un text escrit.
D’aquesta manera, algú es va encarregar de demanar vídeos racistes com, per exemple, una escena en què dos policies blancs estan asseguts en un cotxe patrulla i un d’ells diu al seu company: “Mira, un de negre”. A continuació, treu la pistola i dispara. Aquest clip va registrar, segons Media Matters, 14,2 milions de visites. En un altre dels vídeos, un jove blanc anuncia els “sospitosos habituals” des del carrer i apareix en escena un cotxe esportiu blanc que s’estavella. D’ell surt un mico amb cadenes d’or penjant mentre l’home blanc, com a testimoni, riu a cor què vols.
La comunitat d’immigrants és atacada en aquell conjunt de vídeos sota el prejudici de la falta d’higiene i les sospites que als seus restaurants s’hi menja carn d’animals de companyia, com ara gossos i gats. Dels jueus es destacava la seva ambició per l’or i es mostrava un clip cruel sobre cambres de gas de camps de concentració nazis.
TikTok té unes clares línies de prohibició de continguts, ja que no admeten vídeos que deshumanitzin grups racials i ètnics ni els que amenacen o expressen “el desig de causar danys físics a una persona o un grup”. Per controlar aquesta mena de vídeos, la plataforma fa servir tant tecnologia com moderadors humans per identificar els continguts que infringeixen les normes.
Google tampoc no admet contingut que “promogui o justifiqui la violència, que promogui la discriminació, que menyspreï o el propòsit principal del qual sigui incitar a l’odi envers un col·lectiu”. Això inclou, entre d’altres, “l’odi per motius de raça, origen ètnic, religió, discapacitat, edat, nacionalitat, condició de veterà de l’exèrcit dels EUA, orientació sexual, sexe, identitat de gènere o una altra característica que estigui associada a la discriminació o la marginació sistèmiques”.
