El rol de las personas en la IA
EL RUEDO IBÉRICO
Toda la tecnología –y tal vez más la digital– provoca en nosotros respuestas reflejas, más que reflexividad. La tecnología funciona sin exigirnos –e incluso sin permitirnos– adoptar una relación explícita con ella. Esta característica es particularmente intensa en el caso de las tecnologías digitales, que pronto se revisten de un aura de neutralidad, se convierten en algo inadvertido, privilegian el automatismo, lo tácito frente a lo explícito. Las tecnologías en general y el ubiquitous computing en particular se integran en el tejido social hasta hacerse indistinguibles de él, generan un “inconsciente digital”. Son variaciones de la célebre idea de Langdon Winner del “sonambulismo tecnológico”, es decir, de la falta de conciencia sobre el desarrollo tecnológico y sus consecuencias, indiscutido, funcional y neutro.
No es que las decisiones clave sean delegadas en máquinas en las que no hay ningún humano; se trata más bien de que somos presionados a tomar decisiones de tal manera que no nos preguntamos quién es su verdadero autor. Los sistemas automatizados nos empujan a la irreflexividad en el sentido descrito por Hannah Arendt: la incapacidad de criticar las instrucciones, la falta de reflexión sobre las consecuencias, la disposición a creer que las órdenes son correctas. La ideología de la razón algorítmica no es tanto ocultación deliberada como irreflexividad. Su naturalización consiste en dejar de preguntarnos acerca de a qué clase de racionalidad responde la racionalidad algorítmica, pensar que no hay racionalidad alternativa o, al menos, una diversidad de posibilidades acerca de qué hacer con esa racionalidad.
La gobernanza algorítmica parece legitimarse porque no impone sino que complace, pero de este modo se corre el riesgo de que estemos tan satisfechos que dejemos de preocuparnos por las condiciones en que se ha producido esa satisfacción. Los algoritmos así entronizados tienen un efecto despolitizador. La lógica algorítmica despolitiza en la medida en que neutraliza el posible cuestionamiento del automatismo que procura nuestra satisfacción. Sus ventajas en términos de satisfacción de las necesidades individuales podrían ser tan embaucadoras que ni siquiera se plantee una alternativa a ese tipo de gobernanza, a sus fines y procedimientos. Un sistema de decisión de este estilo no parece compatible con el cuestionamiento permanente y la politización que caracterizan a una sociedad democrática en la medida en que dificulta o impide el escrutinio crítico de los modelos empleados y la información subyacente.
¿Somos más libres cuando simplemente satisfacemos nuestras preferencias o cuando adoptamos una actitud reflexiva hacia ellas, teniendo en cuenta diversos criterios (como su compatibilidad con las de los demás o criterios de largo plazo), lo que puede llevarnos a la satisfacción, a su renuncia o a satisfacerlas de otro modo?
¿Se alcanza la libertad siguiendo deseos o mediante
La democracia no es un sistema de satisfacción de necesidades sino un sistema de reflexión colectiva sobre esas necesidades. Los seres humanos no solo expresan y persiguen deseos, sino que también disponen de la capacidad de juzgarlos, de modo que unos nos parecen más deseables que otros. La reflexividad introduce una distancia respecto de nosotros mismos, al menos respecto de lo que espontáneamente creemos preferir (o nos recomiendan como nuestra preferencia) y en este sentido la convivencia democrática no descansa sobre individuos soberanos sino sobre interlocutores que discuten acerca de lo común.
La reflexividad es lo que hace posible la deliberación democrática, es decir, aquella forma de interacción que no es solo una negociación de nuestras preferencias e intereses, sino que permite incluso su revisión y ponderación reflexiva. La democracia no es tanto que se tenga en cuenta nuestra opinión o se satisfaga nuestro interés como que dispongamos de un espacio público en el que configurar nuestra opinión e identificar nuestros intereses teniendo en cuenta los de los demás.
De ahí que tanto la utopía que piensa que la tecnología lo soluciona todo como la distopía que no ve en ella más que peligros tienen una visión profundamente ahistórica que sitúa el poder únicamente en la tecnología y no en el modo como los humanos nos apropiamos de ella. El neutralismo y el determinismo conciben la tecnología con independencia de su utilización social, como algo cerrado, definido y no susceptible de modulación; en el primer caso, porque no es necesario y en el segundo porque no es posible. Pensar así impide percibir los espacios de configuración democrática que tenemos a nuestra disposición, que no son ilimitados, pero tampoco inexistentes. La ideología del “inevitabilismo” (Zuboff) desconoce que todas las tecnologías permiten algunas opciones, aunque el ámbito de posibilidades no sea infinito.
El determinismo tecnológico suele ir unido a una visión reduccionista de la tecnología, a la que no considera un fenómeno social y cultural, de manera que los dispositivos técnicos predeterminaran su uso sin permitir que cada sociedad se apropie de ellos de acuerdo con su propia idiosincrasia y patrones culturales. La debilidad de este tipo de diagnósticos estriba precisamente en la idea de que sea siquiera posible una evolución tecnológica sin intervención humana. Esa intervención puede ser mejor o peor, pero está presente en el desarrollo de la tecnología mucho más de lo que piensan los deterministas.