L’elecció de Lleó XIV com a papa constata l’existència d’una geopolítica de les ànimes en l’era de la intel·ligència artificial (IA). Un fenomen que té a veure amb la intensificació del poder que desplega la IA sobre la configuració futura del món. S’obre al costat de la lluita hegemònica que lliuren sobre ella els Estats Units i la Xina, una dialèctica d’arrel platònica entre el valor material que tenen les terres rares en el desenvolupament de la infraestructura que suporta la IA i el valor immaterial de les creences impreses inconscientment en les dades que es destinen a l’entrenament d’aquesta. Un pols geopolític espiritual dins del capitalisme cognitiu que neix de l’essència ex nihilo que està en l’ADN creatiu de la IA. Això explica per què aquesta setmana suspenem la sèrie d’articles dedicats en aquesta secció a analitzar què s’ha de fer ara sota el populisme.
Que l’ Església catòlica mostri no només la seva inquietud ètica, sinó també el seu malestar moral sobre com avança el desenvolupament de la IA és rellevant. Evidencia la potencialitat malèfica i la iniquitat que enclou l’utilitarisme nihilista que nodreix el seu disseny. Un factor d’un impacte enorme que, a més, coincideix amb la ingenuïtat utòpica dels tecnòlegs que la impulsen i amb la ceguesa regulatòria dels legisladors que pensen que, controlant els riscos que comporta la IA per als drets fonamentals, s’aplana el camí per al seu desenvolupament equitatiu.
La IA allotja la possibilitat d’un poder leviatànic amb majúscules. Una cosa sobre la qual ha alertat l’ Església al reconèixer que afavoreix la instauració d’una IAcràcia irresistible si no es limita. Per evitar-ho, cal recordar que en el pensament logicocalculador que opera sobre el coneixement algorítmic s’allibera un automatisme que pot constrènyer l’acció humana de manera totalitzadora i absoluta. Així s’obre un risc d’inhumanitat totalitària entre el pes de les terres rares que nodreixen els xips i la gravetat de les ànimes que deixen la impressió de l’esperit humà sobre les dades.
Un risc que va ser denunciat pel papa Francesc en la seva nota Antiqua et nova del 28 de gener del 2025, quan va advertir que la IA no té “caràcter neutre”, atès que és “una empresa humana que posa en qüestió les dimensions humanístiques i culturals de l’enginy humà”.
Que Lleó XIV reprengui aquesta denúncia del seu predecessor és simptomàtic de per on pot anar el seu pontificat. I que ho faci tot just arribar revela la urgència que veu l’Església a abordar un canvi de model en la manera de relacionar-nos els éssers humans amb la IA. Tant, que ho ha fet amb una energia narrativa que anuncia el que podria ser una futura encíclica sobre la IA. Resulta vistós que proclami la dignitat insubstituïble que aporta el sentit humà al poder del coneixement. Una cosa que dona a entendre que està amenaçat per la nova revolució industrial que protagonitza la IA. Bàsicament perquè arracona al lliure albir del raonament humà mitjançant un automatisme algorítmic que s’imposa a aquell, a causa de l’eficiència competitiva que mostra en els processos productius.
Una advertència urbi et orbe que l’Església no es quedarà de braços plegats davant el risc que la màquina substitueixi l’ésser humà quan pensa i decideix.
L’Església veu urgent un canvi de model en la manera de relacionar-nos els éssers humans amb la IA
No ho va fer Lleó XIII quan va denunciar la deshumanització del capitalisme industrial que va portar la màquina de vapor i sembla que no ho farà Lleó XIV davant la barbàrie nihilista d’un capitalisme cognitiu liderat per xinesos i nord-americans a través dels seus models d’IA.
A Civilización artificial (Arpa, 2024) vaig relacionar la geopolítica de les màquines que protagonitzen els EUA i la Xina amb els models culturals que els serveixen de base moral: el calvinisme de silici de Silicon Valley i el confucianisme nihilista del Partit Comunista Xinès. Una geopolítica espiritual que inspira inconscientment el sentit del creat que batega en la IA. Hi he insistit en aquestes pàgines.
Penso que els biaixos culturals de base religiosa que actuen en el disseny que les dues superpotències projecten sobre els seus sistemes d’IA es fan especialment patents en els anomenats models generatius. Entre altres coses, perquè imiten com crea en el seu sentit més ampli l’enginy humà. Per això, he sostingut que la reflexió europea sobre la IA és notòriament insuficient (en vaig parlar a “Europa: un reglament fallit sobre IA”, 27/I/2024).
I és que els dèficits del marc legal pensat a través del Reglament sobre IA neixen de la pobresa d’un utilitarisme humanocèntric d’evitació de riscos que actua com a suport inspiracional de les seves normes. Projectar-hi un positivisme ètic basat en els drets fonamentals és insuficient davant l’envergadura prometeica i mefistofèlica que allotja la IA.
Lee tambiénI ara què sota el populisme? (V)
Per resumir, conèixer els riscos per evitar-los com a model de governança de la IA no servirà de res. Els límits no estan només a neutralitzar els riscos cívics que comporti l’ús de la IA, sinó a definir propòsits que contribueixin al benestar de les persones que la facin servir. Alguna cosa que només es pot produir si, a més dels drets fonamentals, es té en compte la profunditat ètica que és subjacent en l’autenticitat de la persona com a individu dotat de consciència i responsabilitat natural per exercir la seva llibertat.
Quan Silicon Valley i Shenzhen volen crear una intel·ligència ex nihilo, i Brussel·les es conforma amb un disseny tècnic humanocèntric de la IA, afortunadament ens queda la Roma de Lleó XIV per recordar als 1.400 milions de catòlics del món què han de fer i com han d’influir políticament per impedir que la humanitat sigui sacrificada en una creu de silici.