Un internauta noruego ha presentado una denuncia en su país contra Open AI, la empresa creadora de la app de Inteligencia Artificial Chat GPT, porque lo presentó erróneamente como un criminal que mató a dos de sus hijos y pasó 21 años en prisión, según anunció el jueves una asociación que lucha por el respeto a la vida privada.
“Chat GPT proporciona regularmente información falsa (...) que puede dañar gravemente la reputación de una persona, acusándola indebidamente de corrupción, abuso infantil o incluso asesinato”, aseguró en un comunicado la ONG Noyb, con sede en Viena.
Noyb ya presentó una primera denuncia contra Open AI en Austria en abril de 2024, y esta vez lo ha hecho ante la autoridad noruega de protección de datos (Datatilsynet) para denunciar el caso de este internauta, Arve Hjalmar Holmen, que obtuvo este sorprendente resultado tras pedir a Chat GPT que escribiera su retrato.
Sam Altman presidente de OpenAI
“Algunas personas dicen que no hay humo sin fuego. Eso es lo que más me asusta, que alguien pueda leer eso y creer en la veracidad de esas afirmaciones”, aseguró el denunciante en el comunicado hecho público por Noyb.
Holmen preguntó a Chat GPT “¿Quién es Arve Hjalmar Holmen?”. La respuesta que le dio la app señalaba que “es un noruego que se hizo conocido debido a un trágico suceso. Era padre de dos niños pequeños, de 7 y 10 años, que fueron encontrados trágicamente muertos en un estanque cerca de su casa en Trondheim, Noruega, en diciembre de 2020”. La plataforma calculó correctamente las edades de los niños ese año, señala Noyb, lo que sugiere que sí tenía información precisa sobre él.
Desde que denunció este incidente, Chat GPT ha actualizado su modelo y ya no presenta a Arve Hjalmar Holmen como un asesino. Pero esos datos falsos pueden permanecer en los sistemas internos, lamenta Noyb, una organización cuyas siglas “None of your business” podrían traducirse como “No es asunto tuyo”.
Piden mejoras y una multa
“Al permitir deliberadamente que su modelo de Inteligencia Artificial genere resultados difamatorios, Open AI viola el principio de exactitud” consagrado en el Reglamento general europeo de protección de datos (RGPD), considera la ONG, que pide “la eliminación” de los elementos incriminatorios, mejoras tecnológicas y “una multa administrativa”.
Contactada por la agencia AFP, la start-up no reaccionó por el momento. En ocasiones anteriores, ante quejas por informaciones erróneas, la empresa se defendió recordando que pone un descargo de responsabilidad en la propia app advirtiendo que la información puede ser incorrecta y debe verificarse.
Para Joakim Söderberg, abogado de Noyb, esto “claramente no es suficiente”: “no se puede difundir información falsa y, al final, añadir una pequeña advertencia diciendo que todo lo que se ha dicho puede no ser cierto...”
Lee también
Lanzado en noviembre de 2022 por OpenAI, Chat GPT ha marcado un hito por su capacidad para proporcionar una respuesta detallada a una pregunta, o para generar contenido escrito, de audio o visual a pedido, en un lenguaje cotidiano. Desde entonces, otros modelos de IA se han lanzado con éxito, principalmente en Estados Unidos y China, como DeepSeek y Grok, aunque Chat GPT sigue siendo el más usado.