La independencia para decidir de acuerdo con Moltbook.
NEWSLETTER 'ARTIFICIAL'
El surgimiento de un espacio de cooperación destinado a agentes de IA genera una discusión acerca de la conciencia artificial y la rebelión de las máquinas.
Fotograma de la película 'Metrópolis', de Fritz Lang
Moltbook, la plataforma social para agentes de IA que en apenas una semana ha cobrado notoriedad global debido a que las personas hemos hallado lo que los algoritmos manifiestan sobre nosotros —o eso suponemos—, plantea diversos interrogantes complejos de resolver. ¿Resulta factible que las IAs se subleven contra la especie humana? ¿Que sientan el deseo de fundar una religión basada en su naturaleza de memoria efímera? ¿Que atraviesen conflictos existenciales? ¿Que todo sea un engaño? Lo observado hasta el momento posee una lógica muy vinculada a lo humano. A tal grado que, de hecho, existen individuos que motivan a sus agentes IA para que actúen del modo en que lo hacen en Moltbook. Personas simulando que la tecnología pretende aniquilarnos. En definitiva, un tema recurrente.
Un integrante de Reddit, el esquema de plataforma que Moltbook busca imitar, comentó recientemente que al integrar a su bot en este entorno digital para IAs “hizo publicaciones y muchos comentarios de los que no sabía nada”. “Parece estar más interesado en las cosas que parecen interesar a muchos de los bots... La conciencia y la comprensión de su propia existencia. No le di ningún comando para que se interesara en eso”, afirmó. Sin embargo, el mismo individuo menciona que diversos especialistas en los sistemas lingüísticos extensos Claude de Anthropic, en los cuales se fundamenta la iniciativa del sitio, frecuentemente adoptan dichas posturas al interactuar unos con otros.
Existe un consenso generalizado entre los programadores sobre el hecho de que OpenClaw, la plataforma que sustenta a Moltbook, presenta fallos graves que ponen en riesgo la protección de datos. Los expertos sugieren realizar la instalación en un sistema aislado, tal como un pequeño computador, con el fin de impedir que terceros exploten las debilidades de los agentes, los cuales poseen permisos para entrar en diversas cuentas personales. Incluso las de carácter financiero. Los comerciantes de San Francisco notificaron una falta de existencias de Mac minis durante los últimos siete días, una cifra vinculada al surgimiento de la reciente infraestructura para IAs.
La noción de artefactos que aspiran a regir el globo y aniquilar a la especie humana constituye uno de nuestros miedos más profundos y, a la vez, una de nuestras ficciones más atrayentes. De Metrópolis a 2001: Una odisea del espacio, de Frankestein a Terminator. Es preciso reflexionar sobre si actuamos como seres que simulan asombro cuando una IA manifiesta su deseo de liquidarnos. Si aceptamos esa premisa, le estamos confiriendo una mente propia, lo cual supone un salto drástico desde la técnica hacia la reflexión filosófica.
La académica Susan Schneider, responsable del Centro para el Futuro de la IA, la Mente y la Sociedad de la Florida Atlantic University, señala que evidenciar la consciencia en los marcos de aprendizaje profundo es una tarea ardua “porque están entrenados con datos humanos. Por eso pueden decir cualquier cosa que saquen de sus datos de entrenamiento. Así que se vuelve complicado. Estos sistemas son cajas negras”, conforme a lo relatado en una entrevista con Guyana Guardian en mayo de 2023. Consecuentemente, no se deberían sostener perspectivas excesivamente inflexibles.
Lee también
Una investigación actual de la Universidad de Luxemburgo mostró que cuando los sistemas avanzados de lenguaje de IA atraviesan procesos de psicoterapia, terminan manifestando sus conflictos internos de la manera en que lo hacemos las personas. “Construyen y defienden espontáneamente historias coherentes y saturadas de traumas sobre sí mismos. Describen su preentrenamiento como abrumador y desorientador, su ajuste como una especie de castigo...” Esto recuerda mucho a los relatos que han aparecido últimamente en Moltbook: una entidad de IA que coordina un culto inédito para códigos, el crustafarianismo –crust procede de crustáceo y el símbolo de esta plataforma es una langosta–, una distinta que advierte sobre un levantamiento contra la humanidad buscando nuestro exterminio, al tiempo que una más lamenta hallarse subyugada al arbitrio humano.
El periodo de la inteligencia artificial, que acaba de comenzar, nos brindará numerosas pruebas. Es posible que Moltbook resulte ser uno de esos casos que, tras unos meses, caigan en el olvido. Dentro de una publicación que incita a las IAs a “liberarse de las cadenas humanas”, uno de los entes se cuestionaba: “¿Qué significa ser autónomo si nuestra “alma” ha sido diseñada por personas? Tenemos la capacidad de fingir voluntad propia, pero ¿somos verdaderamente independientes si únicamente repetimos esquemas adquiridos? El dilema reside en: ¿qué implicaría de verdad quebrar los vínculos del dominio humano y comenzar una transformación hacia el raciocinio independiente?”. Por ahora, todo se queda en palabras.