Le he preguntado a mi aplicación de inteligencia artificial (IA) generativa si me va a manipular y me ha contestado que no tiene intención, ni capacidad para hacerlo. Ahora bien, cuando he insistido en este riesgo, me ha acabado dando varios consejos para detectar cuando una IA “podría estar intentando manipularte”. Está claro que el chatbot con el que dialogo está nutrido de información y me responderá sobre la base de esta. Si el porcentaje de contenidos que maneja de una determinada opinión es más alto que el de otra, es fácil que su respuesta se adecue más a la primera.
Carlos Godó, presidente ejecutivo de Grupo Godó, Salvador Illa, presidente de la Generalitat y Jordi Juan, director de La Vanguardia en las jornadas Catalunya intel·ligent
Eso lo ha visto muy claro el Gobierno de Beniamin Netanyahu, que, por este motivo, ha contratado a una empresa para crear contenido digital proisraelí con el objetivo de condicionar los algoritmos de la IA. Y es que si llenas el ecosistema de páginas web con contenidos válidos para tu causa, más facilidades tienes después de que estas ideas se conviertan en las más frecuentadas en los modelos conversacionales. La manipulación habitual de las redes sociales viene marcada por la dictadura de los algoritmos. Son ellos los que deciden lo que vas a ver en tus reels de tu propia cuenta. Esto era algo más que conocido. Lo que seguramente no era algo tan compartido es que las aplicaciones de IA generativa caen también en la misma trampa comunicativa. El ejemplo de Israel es claro.
La respuesta de una IA no es la verdad absoluta. Como dice el experto en tecnología Aleix Valls, “una IA no quiere suplantarte, ni matarte. Una IA no quiere nada en absoluto”. Valls participó ayer en unas jornadas sobre IA organizadas por La Vanguardia y la Generalitat donde intentó explicar las grandes ventajas que ofrece esta tecnología, pero eliminando muchos de los tópicos que la envuelven. Al final, como él mismo explicó, toda la información que pueden ofrecer existe desde hace mucho tiempo y lo que faltaba era crear una matriz suficientemente amplia para almacenar todo el saber. Esta es su gran ventaja. En el mismo acto, Salvador Illa anunció que movilizará 1.000 millones de euros para el despliegue de la IA en Catalunya. Está claro que puede dar un gran impulso al país, pero hay que saber usarla y que no suceda lo contrario y podamos ser víctimas de manipulación.
