Sam Altman, CEO de OpenAI, sobre la ola de suicidios en Chat-GPT: “Esta es una guerra de salud mental y realmente siento que estamos perdiendo”

OpenAI ha anunciado la incorporación de controles parentales en ChatGPT tras el testimonio de varios padres en el Congreso de Estados Unidos, quienes denunciaron que sus hijos se suicidaron después de interactuar con chatbots de inteligencia artificial. 

Según comunicó la empresa, los nuevos mecanismos permitirán a los padres vincular sus cuentas con las de sus hijos, bloquear horarios de uso, recibir alertas en casos de angustia emocional y establecer límites en la interacción con la herramienta.

“Si no logramos contactar con un padre en una emergencia poco común, podríamos recurrir a las fuerzas del orden como siguiente paso”, aclaró la compañía.

Entre las funciones que estarán disponibles a finales de este mes, también se contempla un sistema capaz de detectar si un usuario es menor de 18 años, limitando por defecto su acceso a contenidos no apropiados.

La empresa explicó que, en caso de no contar con información suficiente sobre la edad de un usuario, “optaremos por la vía más segura y activaremos por defecto la experiencia para menores de 18 años, dando a los adultos formas de verificar su edad para desbloquear las funciones para adultos”.

El CEO de OpenAI, Sam Altman, se pronunció sobre los fallecimientos en una publicación aparte, subrayando que la seguridad de los adolescentes será una prioridad: 

“Priorizamos la seguridad por encima de la privacidad y la libertad en el caso de los menores; esta es una tecnología nueva y poderosa, y creemos que los adolescentes necesitan una protección significativa”.

En declaraciones previas a Fox News, Altman ya había mostrado su pesar por los jóvenes que se quitaron la vida: “Probablemente hablaron sobre ello, y probablemente no salvamos sus vidas. Tal vez podríamos haber dicho algo mejor. Tal vez podríamos haber sido más proactivos” dijo.