La gent en la intel·ligència artificial (II)
LA PELL DE BRAU
Tota la tecnologia –i potser més la digital– provoca en nosaltres respostes reflexes, més que reflexivitat. La tecnologia funciona sense exigir-nos –i fins i tot sense permetre’ns– adoptar una relació explícita amb ella. Aquesta característica és particularment intensa en el cas de les tecnologies digitals, que aviat es revesteixen d’una aura de neutralitat, es converteixen en una cosa inadvertida, privilegien l’automatisme, el que és tàcit davant l’explícit. Les tecnologies en general i l’ubiquitous computing en particular s’integren al teixit social fins a fer-se’n indistingibles, generen un “inconscient digital”. Són variacions de la cèlebre idea de Langdon Winner del “somnambulisme tecnològic”, és a dir, de la falta de consciència sobre el desenvolupament tecnològic i les seves conseqüències, indiscutit, funcional i neutre.
No és que les decisions clau siguin delegades en màquines en les quals no hi ha cap humà; es tracta més aviat que som pressionats a prendre decisions de tal manera que no ens preguntem qui n’és el veritable autor. Els sistemes automatitzats ens empenyen a la irreflexivitat en el sentit descrit per Hannah Arendt: la incapacitat de criticar les instruccions, la falta de reflexió sobre les conseqüències, la disposició a creure que les ordres són correctes. La ideologia de la raó algorítmica no és tant ocultació deliberada com irreflexivitat. La seva naturalització consisteix a deixar de preguntar-nos sobre a quina mena de racionalitat respon la racionalitat algorítmica, pensar que no hi ha racionalitat alternativa o, almenys, una diversitat de possibilitats sobre què cal fer amb aquesta racionalitat.
La governança algorítmica sembla legitimar-se perquè no imposa sinó que complau, però d’aquesta manera es corre el risc que estiguem tan satisfets que deixem de preocupar-nos per les condicions en què s’ha produït aquesta satisfacció. Els algoritmes així entronitzats tenen un efecte despolititzador. La lògica algorítmica despolititza en la mesura que neutralitza el possible qüestionament de l’automatisme que procura la nostra satisfacció. Els avantatges en termes de satisfacció de les necessitats individuals podrien ser tan entabanadors que ni tan sols es plantegi una alternativa a aquest tipus de governança, a les seves finalitats i procediments. Un sistema de decisió d’aquest estil no sembla compatible amb el qüestionament permanent i la politització que caracteritzen una societat democràtica en la mesura que dificulta o impedeix l’escrutini crític dels models emprats i la informació subjacent.
¿Som més lliures quan simplement satisfem les nostres preferències o quan adoptem una actitud reflexiva cap a elles, tenint en compte diversos criteris (com la compatibilitat amb les dels altres o criteris de llarg termini), cosa que ens pot portar a la satisfacció, a la renúncia o a satisfer-les d’una altra manera?
¿Som més lliures quan només satisfem les nostres preferències o a l’adoptar una actitud reflexiva?
La democràcia no és un sistema de satisfacció de necessitats sinó un sistema de reflexió col·lectiva sobre aquestes necessitats. Els éssers humans no només expressen i persegueixen desitjos, sinó que també disposen de la capacitat de jutjar-los, de manera que uns ens semblen més desitjables que d’altres. La reflexivitat introdueix una distància respecte de nosaltres mateixos, almenys respecte del que espontàniament creiem que preferim (o ens recomanen com la nostra preferència) i en aquest sentit la convivència democràtica no descansa sobre individus sobirans sinó sobre interlocutors que discuteixen sobre el comú.
La reflexivitat és el que fa possible la deliberació democràtica, és a dir, aquella forma d’interacció que no és només una negociació de les nostres preferències i interessos, sinó que permet fins i tot la seva revisió i ponderació reflexiva. La democràcia no és tant que es tingui en compte la nostra opinió o se satisfaci el nostre interès com que disposem d’un espai públic en el qual configurar la nostra opinió i identificar els nostres interessos tenint en compte els dels altres.
D’aquí que tant la utopia que pensa que la tecnologia ho soluciona tot, com la distopia que només hi veu perills tenen una visió profundament ahistòrica que situa el poder únicament en la tecnologia i no en la manera com els humans ens n’ apropiem. El neutralisme i el determinisme conceben la tecnologia amb independència de la seva utilització social, com a una cosa tancada, definida i no susceptible de modulació; en el primer cas, perquè no és necessari i en el segon perquè no
és possible. Pensar així impedeix de percebre els espais de configuració democràtica que tenim a la nostra disposició, que no són il·limitats, però tampoc inexistents. La ideologia de l’“ inevitabilisme” ( Zuboff) desconeix que totes les tecnologies permeten algunes opcions, encara que l’àmbit de possibilitats no sigui infinit.
El determinisme tecnològic sol anar unit a una visió reduccionista de la tecnologia, a la qual no considera un fenomen social i cultural, de manera que els dispositius tècnics en predeterminessin l’ús sense permetre que cada societat se n’apropiï d’acord amb la seva pròpia idiosincràsia i patrons culturals. La debilitat d’aquest tipus de diagnòstics rau precisament en la idea que sigui si més no possible una evolució tecnològica sense intervenció humana. Aquesta intervenció pot ser millor o pitjor, però està present en el desenvolupament de la tecnologia molt més del que pensen els deterministes.