X bloquejarà la creació i l’edició d’imatges sexualitzades amb la IA Grok
Els reptes de la intel·ligència artificial
Musk cedeix i la restricció afectarà tots els usuaris, no només els que no paguen
Un cartell a Londres que demana abandonarX: “Qui carai voldria fer servir una xarxa social amb una eina integrada d’abús infantil?”
Elon Musk es fa enrere. A partir d’ara, Grok, la intel·ligència artificial de la xarxa social X, bloquejarà la possibilitat que la funció d’edició d’imatges pugui crear imatges falses de nus o de fotografies sexualitzades a partir d’imatges reals, incloent-hi de pornografia infantil. L’empresari no ha pogut resistir la intensa pressió de governs d’arreu del món i d’estats com el de Califòrnia. El bloqueig afectarà, en contra del que s’havia expressat abans, tots els usuaris, incloent-hi els de pagament.
X va comunicar aquest canvi de política com una actualització de les restriccions que aplica el seu departament de seguretat. “Continuem compromesos a fer d’ X una plataforma segura per a tothom i mantenim una política de tolerància zero amb qualsevol forma d’explotació sexual infantil, nuesa no consentida i contingut sexual no desitjat”, va indicar. La restricció depèn de “mesures tecnològiques”, i no pas de revisors humans.
La decisió arriba després de pressions governamentals i bloquejos de països d’arreu del món
Grok pertany a xAI, que és la companyia d’ Elon Musk propietària de la xarxa social X, que afirma que no es limitarà a controlar la creació de les imatges sexualitzades. “També denunciem –remarca– a les autoritats policials els comptes que busquen material d’explotació sexual infantil, segons sigui necessari”. La decisió arriba després de les pressions i la successió de bloquejos de diversos països asiàtics, com ara Indonèsia, Malàisia i les Filipines, l’últim país que ha restringit directament l’accés a Grok arran de la proliferació d’imatges sexuals manipulades.
A partir d’ara, només els usuaris de pagament d’ X tindran la possibilitat d’accedir a la creació i l’edició de qualsevol mena d’imatges. La plataforma apunta que aquesta nova restricció “hi afegeix una capa addicional de protecció” perquè els que provin d’abusar de la IA “per infringir la llei” o les polítiques puguin ser considerats responsables i denunciats. Els governs i els reguladors d’arreu del món prenen mesures contra aquest contingut sexualment explícit, sol·liciten investigacions, imposen prohibicions i exigeixen salvaguardes.
La Comissió Europea ha demanat a l’aplicació de conservar tota la documentació relativa a la generació d’imatges fins a finals d’any, i el Regne Unit ha amenaçat de bloquejar la plataforma si demostra
que vulnera la llei de seguretat en línia.
De manera individual, França ha presentat diverses denúncies per la creació i la difusió de “continguts de caràcter sexista i sexual”, i alguns països, com ara Alemanya, han demanat a la UE accions legals per evitar la “industrialització de l’assetjament sexual”. Per la seva banda, l’autoritat italiana de protecció de dades ha advertit que l’ús d’eines d’IA per crear deepfakes –imatges falses manipulades– sexuals sense consentiment podria constituir un delicte greu, i Suècia ha condemnat les imatges sexualitzades de la vice primera ministra, Ebba Busch, després que un usuari demanés a Grok que creés imatges manipulades de la política en biquini.
Espanya tampoc no s’ha quedat de braços plegats i ha sol·licitat a la Fiscalia que investigui la plataforma per la difusió de material d’abús sexual infantil. La polèmica amb Grok ha arribat fins a Oceania, on el regulador australià també ho investiga.
L’explicació de Grok aixeca uns quants dubtes. Amb altres IA populars capaces de generar imatges, com ara ChatGPT i Gemini, les barreres de seguretat impedeixen la creació d’aquesta mena d’imatges, però X bloquejarà geogràficament “la capacitat de tots els usuaris de generar imatges de persones reals en biquini, roba interior i indumentària semblant a través del compte de Grok i a Grok dins d’ X en les jurisdiccions en què és il·legal”. El que no queda clar és si aquesta mena d’imatges es poden generar en algun lloc on no estigui penat.
A tall de justificació pels diversos abusos que s’han reportat per la creació d’imatges, el comunicat d’ X assegura que “la ràpida evolució de la IA generativa planteja reptes en tot el sector”. “Treballem activament amb els usuaris, els nostres socis, els organismes reguladors i altres plataformes per abordar els problemes amb més rapidesa a mesura que sorgeixen”, conclou.
