“ChatGPT puede entrenarse con libros de texto y artículos médicos, pero también con pseudociencia y ficción”: libros sobre TDAH escritos por IA, una amenaza para la salud mental
Psicología artificial
Si bien la IA puede ser una herramienta muy interesante para personas con trastornos psicológicos, también es un peligro a tener en cuenta.
Una mujer lee un libro
Publicar libros es más fácil que nunca. Desde hace un tiempo, buscar una gran editorial que compre tu proyecto y te publique en librerías se ha convertido, simplemente, en una opción más. Otros muchos se deciden por algo más sencillo: autopublicarse a través de Amazon, que incorpora una plataforma con la cual puedes vender tus libros en tan solo unos pasos.
Esta opción ha permitido democratizar la publicación, algo muy positivo que ha propiciado la llegada de escritores que nunca hubieran tenido oportunidad de verse publicados. Sin embargo, también ha generado la proliferación de miles de libros de dudosa calidad e, incluso, de falsa autoría.
Uno de los libros escritos por IA sobre TDAH
La era de la no-escritura
Cada vez hay más “autores” que escriben con ChatGPT y se autoeditan con Amazon
Al igual que ahora es sencillo publicarse, también lo es escribir. O, al menos, darle un botón para que la Inteligencia Artificial escriba por ti. Cada vez hay más “autores” que siguen este modelo de negocio vago: escriben con ChatGPT y se autoeditan con Amazon. Sin siquiera leer lo que ha hecho el robot por ellos. Algunos escritores, como Tim Boucher, llegan a tener más de 120 libros publicados en la plataforma (y subiendo). Y si se trata de novelas cortas extrañas o libros de (dudosa) historia, tampoco tiene por qué pasar nada. Pero cuando se trata de libros sobre salud mental, la cosa cambia.
The Guardian ha examinado, a través de Originality.ai, empresa estadounidense que detecta contenido generado por inteligencia artificial, ocho libros vendidos en Amazon que se basan en dar consejos a personas que sufren TDAH. Entre ellos aparecen títulos como 'Cómo afrontar el TDAH en hombres: descubre cómo prosperar con un diagnóstico tardío', 'Hombres con TDAH en la edad adulta: Técnicas altamente efectivas para dominar la concentración, la gestión del tiempo y la superación de la ansiedad' y 'Dieta y ejercicio para hombres con TDAH en la edad adulta'.
Todos estos libros sacaron un 100% de coincidencia de texto escrito por IA. Así que no hay duda: son un fraude. Y, por supuesto, un gran peligro para las personas que, sufriendo algún trastorno de este estilo, ven en estos manuales una guía para salir del pozo.
La IA puede puede haber sido entrenada con artículos médicos, pero también con pseudociencia, teorías de conspiración y ficción
“Los sistemas de IA generativa como ChatGPT pueden haber sido entrenados con muchos libros de texto y artículos médicos, pero también han sido entrenados con pseudociencia, teorías de conspiración y ficción”, explica Michael Cook, investigador en informática del King's College de Londres. Sin duda, no es buena idea fiarse de una IA (que no tiene conciencia ni se la espera) para mejorar nuestra salud mental. Pero hay muchas personas aprovechándose de estas vulnerabilidades para hacer negocio.
Entre el contenido de estos libros, además de encontrar todo tipo de errores conceptuales, surgen consejos que pueden ser peligrosos para los propios lectores. En un capítulo de uno de ellos se sugiere que la ira impulsiva del TDAH puede dejar “cicatrices duraderas” en el entorno emocional, sin ofrecer alternativas terapéuticas reales o contextualización. En otros, se describe estacondición como “catastrófica”, asegurando que quienes la padecen tienen “cuatro veces más probabilidades de morir jóvenes”, una afirmación sensacionalista y descontextualizada que puede derivar en depresión.
Portada de un libro escrito por IA sobre TDAH
Por su parte, Amazon solo se ha defendido diciendo que cuentan con “directrices de contenido que regulan qué libros pueden ponerse a la venta”. También explican que utilizan “métodos proactivos y reactivos que nos ayudan a detectar contenido que infringe nuestras directrices, ya sea generado por IA o no”. Sin embargo, estos libros no dejan de surgir con cada vez más celeridad. Y pronto corremos el peligro de no saber quién está al otro lado de la página.