¿De qué manera se pueden detectar los contenidos generados por IA?

Durante el periodo reciente, los bulos producidos mediante IA que los verificadores europeos han analizado han experimentado un incremento constante. Esto lo destaca el Observatorio Europeo de Medios Digitales (EDMO) en su informe previo, y nosotros mismos lo hemos verificado en el la actualidad más actual.

Únicamente durante los días recientes se han observado representaciones visuales creadas por inteligencia artificial que logran infiltrarse en la prensa convencional con el fin de ejemplificar el Accidente ferroviario de Adamuz; grabaciones fraudulentas acerca de las grandes nevadas en Kamchatka (Rusia); la utilización de la IA por Donald Trump para fortalecer el discurso de que la incorporación de Groenlandia resulta fundamental para Estados Unidos; vídeos virales inventados que afirman de forma equivocada que Barcelona ha colocado recipientes de cartón para gente sin hogar; o bien los consejos inventados de un ‘youtuber IA’ destinados a jubilados.

Bajo situaciones atípicas, la desinformación se difunde con suma rapidez por medio de las redes sociales y frecuentemente sobrepasa la capacidad de comprobación de las instituciones, del mismo modo que señalan la Universidad Politécnica de Valencia y la Universidad Internacional de Valencia. Durante episodios de catástrofes naturales, la desinformación puede inclusive dificultar la eficacia del manejo de las emergencias.

Los sistemas de IA generativa han progresado considerablemente. Ya no resulta tan frecuente toparse con fallos obvios como manos de siete dedos o individuos con tres brazos. En diversas situaciones, las representaciones visuales pueden aparentar ser totalmente auténticas.

Aún no disponemos de una técnica totalmente segura para distinguir una ilustración generada por IA de una foto real. No obstante, existen diversas señales visuales y de contexto que permiten dudar, tal como detalla el material formativo de Desfake, la iniciativa de enseñanza de Verificat: "Cómo comprobar contenidos creados con IA". La IA genera contenido a partir de patrones aprendidos de otras representaciones gráficas, las cuales integra y transforma. Pese a ello, dicha elaboración suele mostrar rastros.

Al observar una pieza audiovisual que despierta sentimientos intensos o nos genera incertidumbre, resulta útil considerar los puntos que se mencionan:

• Verifique si posee marcas del tipo “generado con IA”. A veces esto es reportado por el internauta, y en otras circunstancias es el propio sistema el que lo advierte.
• Examine si se presentan rasgos difusos, alterados o ilógicos: artículos poco nítidos, rostros inusuales o escritos que resulten ilegibles.
• Identifique probables inconsistencias respecto a los principios físicos o el sentido común: construcciones sin proporción, entornos irreales, proyecciones de luz incoherentes o elementos que surgen y se esfuman de forma ilógica.
• Cuestiónese si el suceso resulta consistente con la ubicación, la meteorología, el tiempo cronológico o el marco en el que presuntamente tuvo lugar.
• Verifique si la información ha sido compartida por portales de noticias de prestigio o entidades gubernamentales. Según señala la BBC, es crucial prestar atención al perfil emisor, puesto que suele tratarse de usuarios que difunden este tipo de engaños de manera constante.
• Contraste si los hechos coinciden con informaciones verificadas publicadas por fuentes confiables.
• Emplee herramientas de detección de textos creados por IA como ayuda, aunque considerando que pueden fallar y que resulta imprescindible verificar sus conclusiones.

Dentro del escenario digital contemporáneo, poner en duda lo que visualizamos constituye un instrumento vital para eludir la desinformación. Javier Rando, especialista en seguridad de modelos IA perteneciente a Anthropic y a la Escuela Politécnica Federal de Zúrico, aclara a Verificat que el uso del juicio crítico permanece como algo básico. Ante situaciones como las fuertes nevadas en Rusia, apunta que, al tratarse de noticias con gran repercusión, es mejor otorgar credibilidad a archivos visuales emitidos por instituciones oficiales o medios reconocidos, cuya veracidad supera a la de los posteos realizados por cuentas individuales en redes sociales.

Rando señala que habitamos un entorno de “hambre de información rápida”, el cual propicia la elaboración de narrativas fraudulentas mediante representaciones visuales apócrifas que terminan por proyectar un aspecto verídico.. Debido a ello, recalca la importancia de conservar un espíritu analítico y proceder con cautela frente a la información que se difunde velozmente.

No obstante, a menudo hallamos noticias auténticas que la población cree producidas por IA, como ocurrió con la catástrofe de la DANA. Recientemente, sucedió lo mismo con las disputas entre el ICE y los residentes de Estados Unidos, según confirmaron entidades como Snopes, integrante como Verificat de la International Fact-Checking Network (IFCN). Este panorama evidencia que debemos actuar con criterio ante los engaños, sin adoptar una postura de desconfianza total. El objetivo no es “no creer nada”, sino poseer la facultad de sospechar cuando se detectan rastros de manipulación.

Verificat funciona como una entidad de verificación de datos catalana sin fines de lucro. Su actividad consiste en examinar las intervenciones políticas y el material compartido en plataformas digitales, promoviendo también la enseñanza para un análisis reflexivo de la información. Se encuentra vinculada a la International Fact-Checking Network (IFCN) y a la European Fact-Checking Standards Network (EFCSN).