ChatGPT no pasa por su mejor momento. La reciente muerte de un joven de 16 años ha levantado la controversia sobre si el popular chatbot habría inducido al chico a suicidarse, máxime después de que sus padres hayan presentado una denuncia contra OpenAI y su CEO, Sam Altman, como responsables del infortunio.
Según un estudio sobre salud mental coordinado por la Universidad Rey Juan Carlos, casi uno de cada cinco adolescentes ha pensado alguna vez en suicidarse y, lo más preocupante: más de un 15% de las personas encuestadas (entre 14 y 17 años) admite haberlo intentado. Son unas cifras escalofriantes que ponen de manifiesto la fragilidad de la salud mental de esta etapa de transición hacia la edad adulta.
Maria y Matt Raine sostienen que su hijo Adam estará vivo si no hubiese entrado en contacto con ChatGPT.
Declaraciones de Sam Altman
Cuidado: ChatGPT no es de fiar
Hace unas semanas, OpenAI inauguró un pódcast con un primer invitado muy especial. El propio Sam Altman respondió a las preguntas del presentador, incluyendo unas declaraciones que descolocaron a muchos de los espectadores: “La gente tiene una gran confianza en ChatGPT, lo cual resulta chocante, porque la IA alucina: debería ser la tecnología en la que menos confiar”.
La IA alucina: debería ser la tecnología en la que menos confiar
“La gente tiene conversaciones muy privadas con ChatGPT, que se está convirtiendo en una fuente de información muy delicada”, asegura Altman. “Hay que tener mucho cuidado con eso, igual que se tiene con las redes sociales”.
Hay que tener mucho cuidado con eso [ChatGPT], igual que se tiene con las redes sociales
Desde la propia compañía se hacen esfuerzos por contener la oleada de críticas que han empezado a llover. En el blog de OpenAI, un comunicado oficial asegura que “Seguimos mejorando de forma continua la manera en que nuestros modelos responden en interacciones delicadas y, en estos momentos, trabajamos en mejoras de seguridad específicas en varias áreas, entre ellas la dependencia emocional, las emergencias de salud mental y la complacencia”.
Sin embargo, admiten que “Aun con estas medidas de protección, ha habido momentos en los que nuestros sistemas no se han comportado como esperábamos en situaciones delicadas”.
Lee también
Como medida complementaria, OpenAI ha anunciado que a partir del mes de octubre llegan las medidas de control parental: los padres podrán vincular su cuenta de ChatGPT con la cuenta de su hijo adolescente mayor de 13 años mediante una invitación por correo electrónico, a fin de controlar cómo la IA les responde mediante reglas de comportamiento del modelo adecuadas a su edad.
