Durante su conversación con el físico Brian Greene en el World Science Festival, Eric Schmidt, exCEO de Google y actual presidente de Relativity, no escatimó en advertencias: “La democracia está en riesgo. Cuando las imágenes y los vídeos generados por IA son indistinguibles de la realidad, la información errónea puede socavar y erosionar la confianza”.
La democracia se tambalea ante una avalancha de contenidos falsos
Schmidt se refería al peligro de los contenidos creados con inteligencia artificial que simulan personas, discursos y hechos con tal precisión que escapan a la verificación tradicional. Ya no se trata de noticias falsas escritas en foros marginales; hablamos de vídeos donde figuras públicas “dicen” cosas que jamás pronunciaron, o imágenes que documentan hechos inexistentes. Una hiperrealidad diseñada para engañar que ha querido recalcar en su cuenta de LinkedIn.
Schmidt relató un experimento inquietante: “Hubo una demostración de confianza razonable hace un año. La orden era crear un perfil (una mujer blanca de 30 años con dos hijos) con ciertas creencias políticas. Le dijeron al modelo: ‘hazme una personalidad de eso y que interactúe con otros humanos reales’”. El resultado fue tan preciso que lograron generar varias personas falsas. Esto, en el terreno digital, es una bomba de relojería para la opinión pública.
El exCEO de Google insiste en que la clave está en anticiparse: “Necesitamos autenticación y fuertes salvaguardas antes de que esto se convierta en un problema existencial”. Para Schmidt, no se trata sólo de frenar el uso malintencionado de la IA, sino de diseñar sistemas de verificación capaces de distinguir entre lo real y lo generado. De no hacerlo, la consecuencia más inmediata será la pérdida de confianza social, el motor esencial de cualquier sistema democrático.
Y es que el riesgo no se limita a la desinformación en redes. También se abren puertas peligrosas en ámbitos como la ciberseguridad o incluso la biotecnología. Schmidt lo deja claro: “Los sistemas actuales ya muestran la capacidad de permitir ataques cibernéticos o biológicos”, advirtiendo que gobiernos e industria deben colaborar con urgencia para establecer protocolos éticos y técnicos. Según Schmidt, quien lideró una de las empresas más influyentes del mundo, la sociedad tiene una única salida viable: construir un marco ético robusto, internacional y con mecanismos transparentes. De lo contrario, “el debilitamiento de los sistemas que sostienen a la sociedad” será inevitable.
Lee también
A pesar de este panorama preocupante, Schmidt también reconoce las oportunidades. Señala que “la IA puede transformar el acceso a la educación y la salud” y abrir la puerta a una nueva democratización de la innovación. Pero ese futuro esperanzador solo será posible si se toman decisiones responsables hoy.