Els individus dins el sector de la intel·ligència artificial (I)
LA PELL DE BRAU
El sistema democràtic constitueix un model polític que concedeix la sobirania a la ciutadania. Aquesta capacitat de governar-se a si mateix s'ha manifestat de maneres variades durant el transcurs del temps segons els assumptes que calia resoldre. En els temps de la intel·ligència artificial, el rol de la societat en les determinacions que l'incumben pot limitar-se a l'anàlisi avaluativa, el monitoratge o el qüestionament de processos algorítmics, ja sigui mitjançant mandataris o delegats. En cas que el públic no pugui supervisar directament els codis, de quina forma s'hauria d'estructurar aquesta inspecció per tal que la legitimació democràtica de les determinacions automatitzades tingui una lògica real? Quina classe d'involucració resulta adequada quan es tracta d'elaborar la normativa per a uns sistemes tecnològics tan avançats?
D'acord amb la cèlebre definició de Lincoln en la seva al·locució de Gettysburg, el sistema democràtic constitueix una forma de govern on la ciutadania actua com a creadora, protagonista i beneficiària de l'activitat política. Amb l'objectiu de determinar si el model democràtic es troba unit de manera indissociable a l'entorn analògic, cal aclarir quina classe d'identitat política posseeix la gent dins l'àmbit de la intel·ligència artificial. Ens cal una nova declaració de Gettysburg per a la democràcia durant l'època de la intel·ligència artificial.
Si la democràcia representa cratos del demos, no es percep amb nitidesa fins a quin punt és legítim confiar a la tecnologia les nostres determinacions. Totes les eines tècniques han derivat en un cert allunyament de l'ésser humà del nucli de les decisions, però cap no s'havia mostrat tan trencadora com la intel·ligència artificial, cap no ens havia tornat tan superflus, tan intercanviables.
La inclinació global envers una gestió automatitzada de les qüestions humanes no representa únicament un increment en el volum d'eines disponibles, sinó un canvi profund en la nostra manera d'habitar el planeta, un entorn on ja no ocupem la posició central. Aquest escenari tecnopolític emergent resulta crucial per a la humanitat malgrat estar buit de persones, farcit d'espais i protocols on l'accés i la permanència física ens estan vetats. Sense implicar forçosament un sentit pejoratiu, ens trobem davant d'una realitat deshumanitzada, tal com demostra el fet que les estructures més rellevants de l'actualitat prescindeixen dels individus: els accessos automàtics, els elevadors sense personal, les explotacions agràries mecanitzades, els sistemes de transmissió independents i les bases espacials en òrbita constitueixen entorns sense presència humana.
En quina ubicació i de quina forma s'han de situar les persones per assolir l'entorn més òptim entre humans i màquines?
El futur s'albira com una seqüència mancada de persones, la nostra substitució massiva per la tecnologia, amb sistemes que prenen resolucions en lloc nostre. Aquesta evolució ens estalvia tasques feixugues i repetitives, tot i que podria representar l'inici d'una expulsió colossal cap a una realitat que operaria sense la nostra presència, desproveïda de qualsevol intenció de l'home. Mitjançant la robotització, és possible que estiguem dissenyant la nostra pròpia caducitat. Marvin Minsky sostenia que hauríem de sentir-nos privilegiats si, en els temps vinents, els enginys pensants ens conserven com a mascotes. Són nombrosos els advertiments tràgics sobre una possible pèrdua de vigència del llinatge humà.
Prèviament a considerar les solucions per a aquest perill, cal determinar si és verídic. Exigim l'existència de “humans in the loop” (el terme tècnic per al procés d'actuació, feedback i resolució que gestiona cada elecció del mecanisme constantment), encara que possiblement ja n'existeixi més del que s'aprecia. D'entrada, convé admetre l'elevat volum de labor humana integrada dins la pròpia mecanització. L'activitat laboral es manté: inclús aquelles ocupacions amb una elevada probabilitat de ser automatitzades conserven un grup rellevant de deures i rols complexos de digitalitzar. S'està produint un repartiment mundial inèdit de la tasca digital que genera xarxes d'externalització, forçant-nos a analitzar l'automatització des d'una perspectiva diferent: la mà d'obra humana no es reemplaça per ginys, sinó per altres persones (invisibles, vulnerables i amb salaris inferiors). Davant d'un determinat discurs imperant, les estructures digitals no funcionen gràcies a usuaris altruistes, sinó mitjançant obrers del clic. Ens trobem amb una “automatització alimentada per humans”, uns “microtreballadors” o “treballadors fantasma” invisibilitzats en els sistemes que suporten la intel·ligència artificial executant labors digitals monòtones. Tal com Nick Seaver assenyala, si ets incapaç de detectar un individu en el circuit, simplement cal localitzar un circuit de major abast.
Així doncs, el punt clau no és el nombre de persones al loop sinó la modalitat (Crawford). En quins llocs i de quina forma s'han d'ubicar els individus per assolir una convivència ideal entre humans i màquines que garanteixi les fites democràtiques d'autonomia de la ciutadania? Cal plantejar i dissenyar la mecanització sense restringir el tema a “humans versus màquines” permetent que existeixin mètodes de mediació humana en els diversos estadis de desplegament dels sistemes automatitzats que, sense arriscar les virtuts de la naturalesa automàtica, facin que aquest camí sigui realment democràtic.
És possible concebre les dinàmiques d'automatització de manera similar a l'estructura de la democràcia representativa, de tal sort que, malgrat no participar de forma constant en cada fase de la governança, ens facilités reconèixer-nos com els responsables finals dels acords comunitaris.