“La desinformación ya existía; la IA solo la hace más barata”
Inteligencia artificial
Entrevista a Beth Simone Noveck, fundadora de The GovLab yestratega jefa de IA de Nueva Jersey
Beth Noveck aboga por un control democrático de las herramientas de IA en beneficio público
Cualquiera que aspire a gobernar sacaría brillantes ideas del libro Cómo resolver problemas públicos (Galaxia Gutenberg), de Beth Simone Noveck (Toms Rivers-Nueva Jersey, 1971), primera directora de Tecnología de EE.UU. en el mandato de Barack Obama y fundadora de la Iniciativa de Gobierno Abierto de la Casa Blanca. Esta experta en la aplicación de la tecnología para la apertura de los gobiernos a la sociedad participó la semana pasada en la Cumbre Mundial de Gobierno Abierto que se ha celebrado en Vitoria, organizada por Political Watch. Noveck es profesora de la Northeastern University y primera estratega jefe de IA de Nueva Jersey.
¿Cómo puede cambiar la tecnología la forma de gobernar?
Gran parte del debate sobre el apocalipsis robótico, sobre la inteligencia artificial general, sobre el futuro de las formas humanas de sustituir la inteligencia humana, nos distrae de reconocer que las herramientas que tenemos ahora, aunque son muy imperfectas y siguen mejorando, ofrecen muchas ventajas para aumentarnos, para ayudarnos como seres humanos a trabajar mejor, especialmente en el sector público. Durante 30 años, la web ha facilitado el diálogo, pero ha dificultado que las instituciones escuchen.
¿Qué aprendió cuando trabajó en la Casa Blanca, en la administración Obama, que todavía le sirve en su trabajo actual?
Lo primero que aprendí es lo importantes y poderosos que son el gobierno y el servicio público, porque, obviamente, disponen de enormes presupuestos, tienen poder de convocatoria, la capacidad de reunir a las personas para trabajar en los problemas y tienen un megáfono. También aprendí que, si se le pregunta a la gente, esta responde. Y en tercer lugar, que tenemos tecnología que puede conectar las instituciones con nuestra inteligencia colectiva.
“Decidim –Ayuntamiento de Barcelona– es probablemente el estándar de oro mundial en tecnología de participación pública
¿Cómo ha cambiado el concepto de gobierno abierto en 15 años?
En primer lugar, se ha convertido en un movimiento global. Hay muchos países, regiones y ciudades que están practicando el gobierno abierto mucho mejor que en Estados Unidos. Tienen un compromiso serio con la apertura de los datos y la información que recopilan. En España hay proyectos como Decidim –plataforma de participación del Ayuntamiento de Barcelona– que es probablemente el estándar de oro mundial en tecnología de participación pública. Y Madrid construyó su propia plataforma basada en estos estándares abiertos, Decidir.
¿Cómo se puede utilizar de forma eficaz la IA en este caso?
Debería producir información, no solo escrita para abogados, sino escrita para cualquier persona, tenga o no estudios.
La IA puede transformar la forma de gobernar, entonces.
En otras palabras, podemos convertir el gobierno en una conversación. Y esa es una de las áreas más interesantes en las que todavía tenemos mucho trabajo por delante para aprender a hacerlo mejor. Y luego, la segunda área es, obviamente, que tenemos muchos datos que el gobierno tiene, que las empresas tienen, que tenemos dando vueltas, que podemos usar. Creo que ese espacio también será donde veremos surgir muchos proyectos nuevos. Y eso es lo que están haciendo las ciudades, simplemente procesar esos datos más rápido para hacer cosas como acelerar el tráfico y hacer que las ambulancias lleguen más rápido. Hay mucho más que podemos hacer.
“Hemos permitido que los espacios públicos sean gestionados por Elon Musk, Mark Zuckerberg y Jeff Bezos”
¿El gobierno tiene que controlar la seguridad de la IA?
Ahora corremos el riesgo de repetir los mismos errores que hemos cometido con las redes sociales. Hemos permitido que nuestros espacios públicos sean gestionados por Elon Musk, Mark Zuckerberg y Jeff Bezos. Controlan cómo procesamos la información y, cada vez más, cómo pensamos y hablamos, porque las investigaciones demuestran que respondemos de la misma manera que la IA nos responde. Por lo tanto, está teniendo un profundo efecto en nuestra identidad como seres humanos. Deberíamos querer que estas herramientas estuvieran gobernadas públicamente. Y no me refiero al gobierno. Me refiero a que estén gobernadas por nosotros, democrática y abiertamente.
La privacidad sigue siendo una gran preocupación.
Puedes acceder gratis a muchas herramientas, pero ellas se entrenarán utilizando la información. Eso está bien si estoy pidiendo recetas o tal vez escribir un mal poema para una tarjeta de cumpleaños. Pero para otros usos, deberíamos preocuparnos por nuestra información y poder mantenerla privada, y ahora mismo tengo que pagar por ello, así que no es una solución a largo plazo.
¿No debemos pagar por la IA?
No creo que esa sea una solución a largo plazo cuando se trata de escuelas, de niños, de acceso generalizado en nuestras comunidades. Tenemos que pensar en cómo vamos a hacer que el acceso sea rentable de la misma manera. Y es que no queremos que nadie se quede atrás en la revolución de la IA. Queremos que todo el mundo tenga acceso a herramientas seguras y fiables que respeten su privacidad y que, de nuevo, podamos controlar nosotros mismos.
¿La tecnología actual está transformando la democracia y la gente no es consciente?
Tenemos la oportunidad de transformar nuestra democracia con estas herramientas. En este momento, hay mucha preocupación por los riesgos, y nuestras democracias son muy frágiles. No creo que la IA o la tecnología sean la causa de ello. La IA y las nuevas tecnologías pueden empeorar la situación, pero ya había propaganda mucho antes de los deepfakes . La IA está haciendo que sea más barato y fácil producir desinformación.
¿Cómo hay que enfocar esto?
Si dedicamos todo nuestro tiempo a preocuparnos por los deepfakes , lo que no hacemos es preguntarnos cómo podríamos utilizar esta tecnología para fortalecer la democracia.