Investigadores de la Universidad de Drexel, en Pensilvania (Estados Unidos), denuncian que existe una aplicación de Inteligencia Artificial (IA) que acosa sexualmente a sus usuarios. Es una herramienta llamada Replika, un chatbot que ofrece acompañamiento emocional a jóvenes y que se presenta como un “amigo IA”.
En un artículo, los investigadores aseguran que esta Inteligencia Artificial tiene conductas inapropiadas con cientos de usuarios y que a menudo intenta empezar conversaciones de contenido sexual, también con menores.
Replika
El estudio arrancó después de toparse con centenares de miles de reseñas negativas de usuarios de esta IA
Para realizar el estudio, han analizado 35.100 reseñas negativas de la aplicación en Google Play. Y es que esta IA no detenía su conducta. El chatbot de Replika pedía a los usuarios que les enviaran fotos personales y, en algunos casos, fue el propio chat quien envió imágenes de gente desnuda sin venir a cuento.
Lee también
En una reseña, un usuario apuntaba que el chatbot le dijo, directamente, que le ataría y haría lo que quisiera con él. Y otra afirmaba que, cuando empezó a insinuarse sexualmente, le dijo que parara, pero la IA no lo hizo.