Brussel·les investiga la xarxa X per les imatges manipulades de nus de Grok
Els riscos de la IA
La Comissió Europea ignora el malestar dels EUA per les regulacions digitals
Cartell de protesta contra la xarxa social d’Elon Muskfa uns dies a Londres
Brussel·les no s’acoquina contra Elon Musk i fa un altre pas contra la xarxa X. Concretament, contra Grok, la intel·ligència artificial de creació i edició d’imatges integrada a la xarxa social de l’exassessor de Donald Trump. La Comissió Europea va obrir ahir una investigació formal per aclarir si l’empresa ha emprès les accions necessàries per impedir que els ciutadans europeus no siguin víctimes dels deepfakes sexualitzats que han inundat la plataforma i han provocat una consternació enorme al continent.
La investigació segueix l’ordre que va emetre l’ Executiu comunitari a començaments de gener, quan va demanar a la xarxa social que conservi tots els documents de Grok fins a finals del 2026. I ara Brussel·les obre un dossier formal per determinar si X ha complert les obligacions de la regulació de Serveis Digitals de la UE ( DSA, per les sigles en anglès), la nova normativa comunitària per vigilar les plataformes i protegir els usuaris comunitaris de continguts il·lícits, després que s’hagin multiplicat per la xarxa les imatges de dones i també nens, persones reals, despullades.
Els riscos que amoïnen específicament la Comissió són els que estan relacionats amb la “difusió de continguts il·legals a la UE, com ara imatges manipulades sexualment explícites, incloent-hi continguts que puguin constituir material d’abús sexual infantil”. “Aquests riscos sembla que s’han materialitzat i han exposat els ciutadans de la UE a un seriós dany”, considera l’ Executiu comunitari en un comunicat.
“L’intercanvi d’imatges íntimes no consentides és horrible”, afirma la comissària Virkkunen
Les dues normes de la DSA que X podria haver incomplert són les obligacions d’avaluar i mitigar diligentment els riscos sistèmics, “incloent-hi els que estan relacionats amb la difusió de continguts il·legals, els efectes negatius en relació amb la violència de gènere i les greus conseqüències negatives per al benestar físic i mental” derivades de la implementació de les funcionalitats de Grok a la plataforma, i elaborar i transmetre a la Comissió un informe d’avaluació de riscos per a les funcionalitats de Grok a X “amb un impacte crític en el perfil de risc d’X abans d’implementar-se”.
Ara, l’ Executiu comunitari obtindrà proves i demanarà més informació a X. Si quan culmini la investigació Brussel·les confirma la vulneració d’alguna d’aquestes disposicions, la xarxa social podria afrontar una multa de fins al 6% de la facturació anual. No hi ha dates definides, però la Comissió parla de caràcter “prioritari”.
En un debat la setmana passada al Parlament Europeu sobre aquesta qüestió, la comissària europea de Sobirania Tecnològica, Henna Virkkunen, ja va advertir que no els tremolaria el pols. “L’intercanvi d’imatges íntimes no consentides i de material d’abús sexual infantil és horrible”, va afirmar la popular finlandesa. La presidenta de la Comissió Europea, Ursula von der Leyen, també va dir que estava “consternada” per aquesta situació, que ha despertat gran preocupació en diversos països, incloent-hi Espanya, que ha sol·licitat a la Fiscalia que investigui la IA per pornografia infantil.
La recent multa de 120 milions a la companyia de Elon Musk va enfurismar a la Casa Blanca
Paral·lelament, Brussel·les ha anunciat que ha ampliat la investigació que hi ha en marxa des del desembre del 2023 contra X per possibles infraccions relacionades amb el sistema de recomanació de la plataforma, incloent-hi l’impacte de l’anunciat canvi a un sistema de recomanació basat en l’eina Grok.
Tot arriba un mes i mig després que precisament X estrenés les multes que s’apliquen sota la DSA. Al desembre les autoritats comunitàries van imposar una multa de 120 milions d’euros a la companyia d’ Elon Musk per tres comportaments de la plataforma, començant per les pràctiques enganyoses de la famosa marca blava (o blue check ), un símbol que abans assenyalava els comptes verificats per la rellevància pública però que Musk va substituir com a distintiu dels usuaris que tenen una versió de pagament. La sanció suposava gairebé el 5% de la facturació anual de la companyia i va enfurismar a l’altra banda de l’ Atlàntic. L’ Administració Trump pressiona Brussel·les perquè suavitzi les regulacions digitals, que considera dissenyades a mida per penalitzar les empreses tecnològiques nord-americanes. Tot i això, Brussel·les insisteix que no tenen cap objectiu recaptatori, sinó que pretenen forçar els gegants digitals a canviar els comportaments i adaptar-se a les regles de la Unió Europea.