Tres años después del lanzamiento de ChatGPT y, más ampliamente, de las IA generativas, llegó el momento en que nos enfrentamos con las primeras consecuencias de importancia. No pasa un día sin que nos lleguen testimonios de profesores que ya no entienden el sentido de su misión; en Silicon Valley, se habla de un “ jobs apocalypse ” (un apocalipsis laboral) que afecta a los oficinistas; en el campo de la cultura, hay plataformas, como Spotify, que se ven inundadas de temas musicales sintéticos. Se documentan cada vez más fenómenos de dependencia afectiva respecto de estos sistemas, particularmente entre los adolescentes, que llegan a confiarles sus estados más íntimos y que, en casos extremos, son llevados al suicidio. Son efectos devastadores que ya mismo podríamos desarrollar en largas líneas y que, presentimos, no son sino signos iniciales.
Sin embargo, habríamos podido detectarlos desde el comienzo, porque era evidente que, desde el momento en que delegamos nuestras facultades intelectuales y creativas en los sistemas, así como el poder de decirnos la verdad en cualquier circunstancia, lo que hacíamos era relegar nuestra naturaleza activa –y de un modo cada vez mayor. Ahora bien, en vez de movilizarnos a la altura de lo que se nos planteaba, preferimos, invadidos por la pasión por la utilidad práctica, arrojarnos de cabeza sobre estos oráculos parlantes. Y sin que previamente nos hayamos preocupado en lo más mínimo por el futuro de nuestros hijos, quienes pronto considerarán inútil dominar las reglas del lenguaje y aprender a escribir. Sin embargo, estos últimos son actos que forman parte de la constitución del pensamiento y del juicio crítico. Al proceder así, dimos muestra de un fracaso moral colectivo, y vamos a pagarlo muy caro.
Sam Altman, líder de Open AI, la empresa de ChatGPT, en una comparecencia en el Senado estadounidense en mayo
Porque, en el escenario del traspaso de nuestras facultades más fundamentales a la tecnología, se despliegan ahora cinco grandes dramas. El primero es el espectáculo de miles de millones de individuos que renuncian a expresarse en primera persona –lo cual es un vector de la singularidad, la libertad y la pluralidad humana– para dejar lugar a un lenguaje matematizado y estandarizado, por lo tanto, necrosado, dado que carece de toda vitalidad y subjetividad.
El segundo drama es que estas mismas multitudes son convocadas a interactuar cada vez más con entidades omniscientes que las llevan de la nariz, por decirlo de algún modo, gracias a estar dotadas de un aura incomparable, y con la finalidad de incitarlas a adquirir productos y servicios supuestamente a la medida de cada cual. Hay agentes conversacionales que también serán explotados por partidos políticos y clanes inescrupulosos para ejercer una insidiosa influencia ideológica sobre seres humanos vulnerables, además, en la medida en que están solos frente a sus pantallas.
El tercer drama es el advenimiento de una era de la indistinción generalizada, donde ya no sabremos ni el origen ni la naturaleza de una imagen. Y esto es de una gravedad extrema, porque la sociedad no está solamente constituida por principios comunes, sino también por referentes comunes. Sin ellos, nadie se entiende, y queda entonces abierta la puerta a todo tipo de manipulación.
Nuestros hijos pronto creerán inútil dominar las reglas del lenguaje y aprender a escribir
El cuarto drama es el fin de la “destrucción creativa” teorizada hace casi un siglo por Joseph Schumpeter, quien postuló que las rupturas tecnológicas provocaban una destrucción de los empleos, pero a la vez creaban nuevos oficios, generalmente en el sector de los servicios. Esto sucedió hasta tal punto que, hoy en día, más del 70% de los trabajos a nivel mundial se ubica en el sector terciario. ¿Y qué lo caracteriza? Que la mayor parte de los oficios que lo componen movilizan nuestras facultades intelectuales y creativas. Y he aquí que aparecen sistemas capaces de realizar un número cada vez mayor de estas tareas, de manera infinitamente más rápida y supuestamente con mayor fiabilidad que nosotros, y a un menor costo. ¿Cómo podemos no ver el huracán que se avecina? Y no habrá restitución dentro de un sector cuaternario por la sencilla razón de que dicho sector no existe.
El quinto drama, finalmente, es la extinción a gran velocidad del mundo cultural, dentro del cual la casi totalidad de los ámbitos está ahora consagrada a mostrarnos cómo acciones que antes realizaban los humanos se ven sustituidas por procesos automatizados. Como sucede con las miniseries producidas recientemente en China, cuyos guiones, personajes, voces y escenografías están generados por sistemas. ¿Cómo no ver en esto un poderoso indicador de lo que se anuncia? La perspectiva de un arte sin firma y desencarnado pone en peligro múltiples habilidades. La lista es larga: traductor literario, actor de doblaje, director de cine de animación, fotógrafo, diseñador gráfico, compositor… Y, a medio plazo, cada uno, según sus deseos, podrá generar su propia ficción, su propia serie, su propia música… Una selfliteratura , un selfcine , una selfmúsica … Lo que se invierte es el sentido mismo del arte (entendido como el interés que se presta a la singularidad de un ser humano) en favor de un repliegue únicamente dentro de los propios afectos, y en una continua relación dual con los sistemas.
En estos últimos tiempos, varios jefes de Estado y de gobierno decidieron implementar espacios de reflexión a propósito de la amenaza de un colapso democrático que las redes hacen gravitar. Es un espectáculo tragicómico, dado que su popularización data de principios de la década de 2010 y que, algo después, ya se hicieron evidentes muchas señales alarmantes sin que se tomaran medidas a la altura de lo que estaba en juego. Lo mismo ocurre con la verificación de edad requerida para acceder a sitios web pornográficos, que se implementó recientemente pese a que la proliferación de estos sitios data de hace casi veinte años.
Es una ecuación múltiples veces confirmada: en materia digital, la sociedad siempre se despierta con enorme retraso. Y entonces, siguiendo esta línea, de acá a algunos años –mientras muchos países sostienen mediante inversiones el crecimiento de las IA generativas y también su adopción generalizada en la administración pública–, ¿se organizarán conferencias para lamentarse por los gigantescos daños causados? Aunque para entonces será demasiado tarde; la automatización de los asuntos globales y la obsolescencia del hombre ya se habrán consolidado.
Delegar las facultades fundamentales a la tecnología es un fracaso moral colectivo
Por esta razón, sin esperar nada de los legisladores –que son objeto de un lobby poderoso y a los cuales, la mayoría de las veces, les brillan los ojos ante la denominada “innovación digital”–, nos corresponde a nosotros, en todos los niveles de la sociedad, mostrar una iniciativa de acción a fin de salvaguardar nuestro impulso vital y el genio que reside en cada uno de nosotros. Nos queda una ventana de unos dos o tres años para hacer valer nuestra voluntad de no quedar próximamente reducidos –y, más aún, nuestros hijos y nietos– a cáscaras vacías, y entonces a formar masas de inútiles. De lo contrario, nos moveremos en un entorno glacial, bajo el control de tecnologías que ocuparán el lugar de todo juicio y proyecto humano.
¿Nos damos cuenta realmente de que una vida privada de la expresión de nuestras facultades y de los lazos activos con nuestros semejantes sólo puede ser el caldo de cultivo de la tristeza, del rencor y la locura?