En el año 168 A.C., Cayo Popilio Laenas, militar y político romano, fue enviado por el Senado de Roma para que el rey Antíoco IV Epífanes de Siria dejara de atacar a Egipto. A las puertas de Alejandría, el romano trazó un círculo en la arena alrededor del monarca y le conminó a dar una respuesta antes de cruzar la línea. Antíoco aceptó sus exigencias y se retiró. Mucho después, en 1854, un regimiento inglés compuesto por una línea doble de 500 casacas rojas derrotó en la Guerra de Crimea, contra todo pronóstico, a una carga de 2.500 húsares y cosacos rusos a caballo. Es el origen de ‘la delgada línea roja’ que aparece en un poema de Rudyard Kipling. La expresión ‘línea roja’, es hoy un símbolo poderoso que indica un límite, aquello que no se debe cruzar. Hoy, en 2025, una ONU en crisis existencial acaba de ver el nacimiento de un manifiesto firmado por 200 personalidades, entre las que hay 10 premios Nobel, que pide que le pongamos líneas rojas a la IA.
La premio Nobel de la Paz María Ressa, anunció el lunes la publicación del Global Call for AI Red Lines (llamamiento mundial para líneas rojas en la IA) durante un conmovedor alegato por la integridad de la información en el pleno que conmemora el 80º aniversario de las Naciones Unidas en Nueva York. Entre los firmantes de la declaración se encuentran Geoffrey Hinton, el padrino de la IA, la ex presidenta de Irlanda, Mary Robinson, y uno de los fundadores de OpenAI, Wojciech Zaremba, el ex primer ministro italiano Enrico Letta, el escritor Yuval Noah Harari, o el prestigioso científico de la computación Yoshua Bengio.
El documento señala que “la IA tiene un inmenso potencial para mejorar el bienestar humano, pero su trayectoria actual presenta peligros sin precedentes” y advierte de que “podría pronto superar con creces las capacidades humanas y agravar riesgos como las pandemias provocadas, la desinformación generalizada, la manipulación a gran escala de personas, incluidos los niños, los problemas de seguridad nacional e internacional, el desempleo masivo y las violaciones sistemáticas de los derechos humanos”.
Barreras sobre los alcances de la IA
Los firmantes apuntan que “algunos sistemas avanzados de IA ya han mostrado un comportamiento engañoso y dañino”, pero se les ha dejado hacer en lugar de someterlos a control. Por eso, este nutrido grupo de grandes talentos en todos los campos, muchos de ellos procedentes del de la inteligencia artificial, reclama que los gobiernos de todo el mundo “alcancen un acuerdo político internacional sobre las líneas rojas en la IA y que se aseguren de que sean operativas, con mecanismos de cumplimiento robustos antes de que finalice 2026”. Lograr un gran pacto mundial parece una utopía, pero Ressa recordó en su estrado que hay que actuar como ante otras potenciales amenazas: las armas nucleares o el cambio climático.
La carta no menciona ninguna línea roja específica. Deben ser las negociaciones diplomáticas, si es que llegaran a producirse, las que marquen los trazos sobre los comportamientos de la IA y los usos que serían legítimos por parte de los seres humanos. Estas podrían ser algunas: el desarrollo de armas de destrucción masiva, la autorreplicación autónoma, el mando y control nuclear —sobre el que ya tienen un acuerdo Estados Unidos y China—, la vigilancia masiva o la suplantación de la identidad humana. Hace un mes, la ONU creó un Panel Científico Internacional Independiente sobre IA y abrió la plataforma Diálogo Mundial sobre la Gobernanza de la IA, que ya tiene dos convocatorias programadas, en el 2026 en Ginebra y en el 2027 en Nueva York.
En esta alineación de intervenciones por marcarle el camino a la IA, esta semana ha irrumpido el papa León XIV, que ha reconocido que la IA “ha abierto nuevos horizontes en muchos niveles diferentes, incluyendo la mejora de la investigación en el ámbito de la salud y los descubrimientos científicos, pero también plantea preguntas inquietantes sobre sus posibles repercusiones en la apertura de la humanidad a la verdad y la belleza, en nuestra capacidad distintiva para comprender y procesar la realidad”. El Pontífice reclamó un ética basada en la igualdad contra “la posibilidad de que se utilice indebidamente para obtener beneficios egoístas a expensas de otros o, lo que es peor, para fomentar el conflicto y la agresión”.
El debate sobre las líneas rojas que puede traspasar la IA está muy abierto
¿Son catastrofistas todas estas advertencias? La lista de firmantes del manifiesto cuenta con grandes pensadores, lo que invita al menos a escucharlos. Entre los que mejor expresan su inquietud, el escritor Yuval Noah Harari explica que “durante miles de años, los seres humanos hemos aprendido, a veces por las malas, que las tecnologías poderosas pueden tener consecuencias tanto peligrosas como beneficiosas”, aunque recuerda que “con la IA, es posible que no tengamos la oportunidad de aprender de nuestros errores”. Apunta que “es la primera tecnología capaz de tomar decisiones por sí misma, inventar nuevas ideas por sí misma y escapar a nuestro control”. Avisados estamos.
. Acuerdo entre gigantes. Nvidia y OpenAI anunciaron el lunes un acuerdo para el desarrollo de centros de datos de IA que van a ser alimentados por entre 4 y 5 millones de chips GPU de la primera, el doble de todo lo que vendió el año pasado. Nvidia invertirá progresivamente 100.000 millones de dólares en OpenAI por cada gigavatio desplegado. Piensan desplegar 10 gigavatios. Toda esa energía es la que se necesita para abastecer de energía eléctrica a unos 8 millones de hogares.
. Google integra la IA en Chrome. Google ha anunciado, de momento para Estados Unidos, la integración de su IA Gemini en el navegador Chrome para los ordenadores de sobremesa. El navegador tiene ahora acceso directo a Gemini a mediante un botón que permite analizar la información y el contenido de las pestañas sin cambiar de ventana. Google también ha presentado un avance de las próximas capacidades de sus agentes de IA, que se encargarán de tareas de varios pasos de forma autónoma, desde hacer la compra a reservar citas.
Lee también
. Microsoft anuncia el mayor centro de IA. Microsoft anunció la semana pasada que a principios del 2026 estrenará en Mount Pleasant (Wisconsin), el centro de datos de IA más potente del mundo, llamado Fairwater, que supone una inversión de 7.000 millones de dólares. La compañía lo califica de “hazaña tecnológica”. Entre otras cifras deslumbrantes, su potencia de cálculo multiplica por diez la del supercomputador más rápido del mundo, que en estos momentos es El Capitán, del Laboratorio Nacional Lawrence Livermore de Estados Unidos. Las instalaciones ocuparán 127 hectáreas y más de 110.000 metros cuadrados construidos.
