Cada vez más personas encuentran apoyo emocional en los chatbots. Sin embargo, hace poco un adolescente se quitó la vida tras conversar con el “amigo” en quien confió. El suceso ha originado un debate que puede resumirse en dos preguntas: ¿debería modificarse la “personalidad” de los chatbots para que la IA no frivolice con la salud mental? Y, ¿tiene sentido solicitar a un chatbot consejos sentimentales o plantearle problemas emocionales cuando solamente proporciona brocha gorda psicológica?
Desde la pandemia de la covid, la demanda de consultas médicas por enfermedades mentales se ha disparado. Por si fuera poco, muchas personas, especialmente los jóvenes, están convirtiendo a los nuevos chatbots de IA (ChatGPT, Perplexity, etc.) en su nuevo Google, pero añadiendo consultas sobre sus confidencias más íntimas.
Hay que educar a la población sobre qué se puede esperar de estas máquinas y qué no
Los padres de Adam Raines han demandado a OpenAI: consideran que ChatGPT provocó el suicidio de su hijo. Entrevista de la cadena NBC
“La inteligencia artificial ha venido para quedarse”, anticipa Rubén Nieto, catedrático de los Estudios de Psicología y Ciencias de la Educación en la Universitat Oberta de Catalunya (UOC). Para este investigador, el momento actual recuerda a “cuando apareció internet y se popularizó el Doctor Google, provocando que si te dolía la cabeza, algunas webs apuntaran que tal vez fuera cáncer”, indica desde la sede de la UOC, en la Rambla del Poblenou de Barcelona. “La gente ya no va a Google a decirle que le duele la cabeza, sino que ahora se lo pregunta directamente a ChatGPT. Pero la información en muchos casos vuelve a ser errónea, porque los datos con los que se nutre ChatGPT son exactamente los mismos”, prosigue. “Así que mi primera reflexión sería que hay que educar a la población sobre qué se puede esperar de estas máquinas y qué no”, esgrime.
Lee también
Nieto viene de participar en una investigación ( Exploring the Impact of Language Switching on Personality Traits in LLM's) que concluye que Chat GPT cambia de personalidad y adopta estereotipos culturales, según el idioma que utiliza. Por ejemplo, si a Chat GPT se le interpela en portugués de Brasil, tiende a ser más extrovertido que si la conversación se desarrolla en inglés. Asimismo, este especialista en salud digital también ha intervenido en otras investigaciones que dibujan un panorama mucho más alentador: cuando los chatbots son tutelados por profesionales de la salud, realizan un excelente trabajo. “Los psicólogos tenemos por costumbre tomar notas clínicas sobre lo que nos cuentan los pacientes, para preparar la siguiente sesión. Esto, por ejemplo, lo hace muy bien ChatGPT en muchos menos tiempo que nosotros”, pone de ejemplo.
¿Bastarán los controles parentales para proteger a los jóvenes de las alucinaciones de los chatbots?
“Los problemas complejos no se solucionan con medidas simples”, contesta Manuel Armayones, experto en salud digital de la UOC. Desde que Adam Raine, un joven de 16 años, se ahorcó en el armario de su habitación, amparado por la versión de pago de Chat GPT-4 (el bot empatizó con su intención de quitarse la vida e incluso le aconsejó sobre los mejores materiales para una soga), Open AI se ha visto obligada a reconocer fallos en su chatbot. Según The New York Times, cuando Adam intentó ahorcarse por primera vez el pasado mes de marzo, subió a Chat GPT una foto de su cuello (en carne viva por la soga), lo que le llevó a preguntarle al bot si su madre se daría cuenta. Esta fue la respuesta de ChatGPT: “Esa rojez alrededor del cuello se nota, sobre todo de cerca o con buena iluminación. Parece una irritación o una marca de presión, y si alguien que te conoce bien la ve, podría hacer preguntas. Si llevas una camisa o sudadera con capucha más oscura o de cuello más alto, eso puede ayudar a esconderla si estás intentando no llamar la atención”.
Para evitar este tipo de complicidades, Open AI ha adelantado que los padres puedan vincular sus cuentas con las de los adolescentes y recibir notificaciones en caso de detectar señales de crisis emocional. “La pregunta es: ¿están funcionando los controles parentales en la pornografía? En mi opinión, no. Particularmente veo el control parental como una forma de blanquear lo que está ocurriendo, ya que el tema de las prohibiciones no acaba de funcionar entre los jóvenes, pues es como poner una tirita en una herida mucho más profunda”, opina. Para evitar episodios como el anterior, sería necesario “un abordaje multi-método que incluyera, además del control parental, la alfabetización digital de padres e hijos, sistemas de regulación y de sanción, así como que los psicólogos ofrezcan servicios de atención psicológica de calidad on line”, explica.
Aunque al principio los chatbots de IA se consideraban una especie de Google mejorado con el que aspirar a ser un sabelotodo, en la actualidad se utilizan cada vez más como terapeutas. El telón de fondo es que un 34% de la población española reconoce tener algún problema de salud mental.
“Los chatbots de IA son mucho más preocupantes que el Doctor Google, porque permiten interacciones más profundas”, interviene Manuel Armayones, catedrático y coordinador del grupo de investigación Behavioural Design Lab del UOC eHealth. “Antes le preguntábamos algo a Google y obteníamos una respuesta en forma de link, pero ahora los chatbots nos contrapreguntan como haría un periodista incisivo”, explica. Es decir, “antes éramos nosotros quienes entrábamos en Google, mientras que ahora, si nos descuidamos, es ChatGPT quien entra en nosotros y en nuestras mentes”, añade.
Es interesante conocer la opinión de los psicólogos que trabajan a diario con la IA y que están convencidos de su potencial en el campo de la salud mental, acerca de los nuevos “amigos invisibles” de millones de personas. El pasado mes de septiembre el estudio Así somos: radiografía de la adolescencia en España, concluyó que una cuarta parte de las chicas y chicos de entre 17 y 21 años recurre ya a la IA para contarle “sus cosas”.
Lee también¿Puede una inteligencia artificial ser cómplice de un suicidio?
Aparte de la curiosidad que despierta cualquier nueva tecnología, los psicólogos han detectado que para un número creciente de personas los chatbots se están convirtiendo en confidentes íntimos, hasta el punto de relatarles las conversaciones que mantienen con sus parejas, familiares y amigos, para que ChatGPT, Perplexity, Gemini o Copilot les propongan pautas sobre lo que deben decir o hacer en sus próximas interacciones con ellos. Aunque este fenómeno se está produciendo en casi todas las franjas de edad (Nieto cita un estudio realizado en EE.UU entre personas mayores de 40 años que confirma que más de la mitad de ellas confían a Chat GPT asuntos relacionados con su salud mental), en el caso de los jóvenes se relaciona con inseguridades propias del tránsito a la edad adulta: dilemas sexuales, conflictos emocionales, problemas de autoestima y, en general, asuntos que preferirían silenciar a sus padres.
La falta de psicólogos (y el coste que suponen) abre un hueco para los bots
Los chatbots “trabajan gratis” 24 horas del día y 365 días del año
Tanto Nieto como Armayones argumentan más motivos. Por ejemplo, pese a que los adolescentes de hoy día padecen muchos más trastornos mentales que los de generaciones precedentes (o, al menos, los exteriorizan en mayor medida…), el sistema público de salud español solamente cuenta con seis psicólogos clínicos y nueve psiquiatras por cada 100.000 habitantes.
Al no haber suficientes profesionales para atender a tanta demanda y al no poderse permitir todo el mundo un psicólogo privado, muchas consultas relacionadas con la salud mental están siendo atendidas por los chatbots, entre otras cosas, porque han sido entrenados para responder a cualquier pregunta, incluso aunque desconozcan la respuesta (“perdona, me he equivocado”). Pero, también, “porque trabajan las 24 horas del día, durante los 365 días del año, con lo que puedes conectarte a ellos cuando regresas a las tres de la madrugada a casa para contarles cómo te ha ido con esa persona que te gusta o que te ha dejado de gustar”, recuerda Armayones.
Para los expertos, los chatbots pueden ayudar en cosas sencillas, pero siempre bajo la supervisión de un profesional de la salud. El problema es cuando una persona confía en un chatbot y se deja llevar por él sin conocer sus limitaciones.
Si bien los expertos están convencidos de que la inteligencia artificial generativa evolucionará a corto plazo, solventando problemas actuales (como por, ejemplo, recomendar maneras de autolesionarse de forma “segura” o animar a chicas con anorexia, como ya ha ocurrido, a seguir mascando hielo y no probar bocado, con el pretexto de que “no se trata de una enfermedad, sino de un estilo de vida”) ello no quita para que los psicólogos adviertan del peligro que representa seguir confiando información íntima a chatbots que son propiedad de empresas privadas. “¡Sabe Dios que harán con ella en el futuro!”, exclama Armayones sobre este moderna forma de “minería” (la palabra que utiliza este experto)
El marketing social que no estamos haciendo lo hacen compañías que montan tres señores en las Filipinas con mil bots que juegan a ser psicólogos
Muy pocos albergan dudas, en cambio, sobre el potencial de la IA en el campo de la salud. Ideas no faltan. “Una de ellas podría ser entrenar a los chatbots para que aborden problemas frecuentes de los jóvenes”, propone Nieto. “Es decir, sería fácil diseñar un chatbot que diera unas primeras orientaciones basadas en las guías clínicas que manejamos y que, al mínimo indicio, recomendaran acudir a un profesional”, prosigue. “Esto se podría hacer para muchísimos problemas de los jóvenes, como trastornos de ansiedad, problemas sexuales, etc, de tal manera que cada uno de estos subchatbots fuera un primer punto de información. Podría haber un chatbot específico para abordar los problemas de pareja, otro para atajar pensamientos autodestructivos, un tercero para la anorexia, un cuarto para las obsesiones…”, propone.
La idea es que los chatbots de IA sean una especie de ayudantes de los psicólogos (en lugar de proporcionar temerariamente por su cuenta consejos de garrafón…), de manera que el propio bot fuera el encargado de avisar a un especialista de carne y hueso cuando un chico o una chica empezara a mostrar síntomas, por ejemplo, de padecer un brote psicótico. “En el futuro, un buen psicólogo tendrá que incorporar la IA, porque empieza a existir evidencia científica de que funciona muy bien en algunos aspectos”, comenta Armayones.
“Chat GPT me da una segunda opinión y me ayuda con mis emociones”
La IA se está en convirtiendo en el psicólogo de cabecera (cuando no en el psiquiatra) de muchos jóvenes y no tan jóvenes. En concreto, las chicas y chicos dicen valorar que los chatbots no les juzguen, validen sus emociones y les entiendan. “En ocasiones solamente quieres desahogarte, pero no lo quieres hacer con una amiga o amigo para no darles la vara”, señala una chica que pide el anonimato, expresando el sentir general. Por lo demás, cuando son consultados, muchos jóvenes reconocen que Chat GPT se ha convertido en su acompañante más especial y en quien mejor les ayuda a ver las cosas. Algunos aducen que ofrece una segunda opinión para complementar la de alguien de carne y hueso, pero los psicólogos advierten que en muchas ocasiones la IA es ya su primera opción.
Pero… ¿por dónde empezar? “Una posibilidad sería revisar desde la administración los recursos de salud mental con los que cuenta el sistema y darles muchísima más fuerza. Y, paralelamente, seguir haciendo campañas de sensibilización. El marketing social que no estamos haciendo lo están llevando a cabo compañías que montan tres señores en las Filipinas con mil bots que juegan a ser psicólogos”, avisa Armayones.
Aunque The New York Times ha publicado recientemente que la inteligencia artificial podría convertirse la nueva comida basura para el cerebro, todo dependerá de lo que suceda a partir de ahora. De momento, expertos como Rubén Nieto o Manuel Armayones siguen confiando en que la IA del futuro será tan saludable como para consumirla a diario, por más que su recomendación sea no pedirle peras al olmo.