“Como madre, no quiero que mis hijos estén todo el día delante de las pantallas, pero estoy muy ocupada”: los juguetes para niños con IA están ya están aquí, con la voz de la ex de Elon Musk y la promesa de sustituir a las tablets
Inteligencia artificial
Refrendada por la cantante Grimes, la empresa Curio crea muñecos de peluche que utilizan la tecnología de ChatGPT para tener conversaciones con los niños. Pero, ¿es realmente seguro que nuestros hijos tengan una relación tan directa con la IA?
Ibai ha enfrentado a los boomers y la Generación Z para descubrir “quién sabe más”, pero la conclusión es clara: “Ni los jóvenes son inconscientes, ni los mayores son incapaces de entender las nuevas tendencias”
Los juguetes para niños con IA están ya están aquí, con la voz de la ex de Elon Musk y la promesa de sustituir a las tablets.
No es un secreto para nadie que la industria tecnológica está buscando implementar, de la manera más rápida posible, la Inteligencia Artificial en todos los ámbitos de nuestra vida. De detectar enfermedades de manera precoz a la traducción e interpretación de textos de la antigua Roma, cada vez más empresas buscan aplicar estos nuevos sistemas a ámbitos incrementalmente sorprendentes.
Quizás era entonces solo cuestión de tiempo que apareciese una empresa como Curio, dispuesta a aprovechar esta tecnología para crear unos muñecos que seguramente harán las delicias de los más pequeños. Pero, al mismo tiempo, muchos padres están preocupados por la privacidad y almacenamiento de datos que hagan estos dispositivos, y de cuáles pueden ser las repercusiones si este tipo de aparatos acabasen por popularizarse.
Curio es “una fábrica mágiCa donde los juguetes cobran vida”, según su página web oficial. La empresa fue fundada en 2023 por Misha Sallee y Sam Eaton, dos emprendedores californianos de Silicon Valley. Su objetivo era aplicar la tecnología de los chatbots como ChatGPT a los juguetes infantiles. Así, lanzaron al mercado tres prototipos de peluches con Inteligencia Artificial.
Grok —nada que ver con la Inteligencia Artificial impulsada por Elon Musk, aunque compartan nombre— tiene la forma de un cohete con ojos y sonrosadas mejillas; Gabbo parece una videoconsola portátil clásica, tipo Game Boy, con pantalla y botones; y Grem es un pequeño alienígena azul y rosa con una anatomía más similar a la de un animal. En su interior albergan un sistema de recepción de Wi-Fi, que les conecta a Internet, un micrófono, y una caja de voz para poder conversar con niños de entre 3 y 12 años.
Grok, juguete de Curio impulsado por IA.
Por el momento, los juguetes de Curio solo tienen soporte para el idioma inglés (aunque su sitio web asegura que están trabajando a ampliarlo a más lenguajes) y no se distribuyen en tiendas físicas, sino que tienen que comprarse a través de su tienda online. Recientemente, han empezado a hacer envíos a Europa en un plazo de 3 a 5 meses, pero tiene una implementación más ágil para los consumidores de Estados Unidos, Asia y Nueva Zelanda.
Poco a poco, y desde la salida a la venta de estos primeros modelos, el proyecto ha ido ganando tracción en medios e interés por parte de algunos padres. Uno de los mayores espaldarazos a su popularidad fue la entrada de Grimes, la popular artista y compositora canadiense que estuvo casada con el multimillonario Elon Musk hasta el año 2021. Grimes es la responsable del diseño de Grem, el peluche con forma de alienígena de Curio, a quien la cantante le ha puesto incluso su propia voz para comunicarse.
Como madre, no quiero que mis hijos estén todo el día delante de las pantallas, pero estoy muy ocupada
En la página principal de Curio hay insertado un vídeo en el que la propia Grimes, junto a los dos fundadores de la empresa, nos explica las bondades del sistema. “Como madre, no quiero que mis hijos estén todo el día delante de las pantallas, pero estoy muy ocupada”, explica la cantante. Curio trata de plantear estos juguetes como una especie de acompañante virtual que puede jugar con los niños, explicarles datos o cuestiones sobre las que tengan curiosidad, y responder a distintos estímulos auditivos. Según la compañía, este tipo de entretenimiento sería más enriquecedor que simplemente dejar que el niño utilice una tablet, juegue a videojuegos o vea la televisión.
Aunque en el material promocional de la empresa en redes sociales se muestra a niños felices, jugando junto a sus peluches y teniendo todo tipo de conversaciones educativas, estos juguetes tienen también letra pequeña. Para empezar, van atados a un sistema de suscripción llamado Curio Plus. Aunque, en esta fase de beta, los peluches parecen no tener funcionalidades de pago, la página de compra también nos advierte que el apoyo temprano del proyecto va acompañado de un período gratuito de prueba de seis meses de este servicio. Según confirman, en el futuro permitirá “uso ilimitado y acceso prioritario a actualizaciones” de los peluches.
Pero el problema más evidente tiene que ver con la privacidad. Los muñecos tienen micrófono integrado y graban todas las conversaciones con los niños. Los padres pueden, después, monitorizarlas a través de una aplicación móvil que les permite saber todas las interacciones que han tenido lugar entre ellos. El padre o tutor también puede añadir distintos datos sobre el niño en la aplicación para que el chatbot tenga en cuenta los intereses o particularidades del menor a la hora de interactuar con él. Pero, ¿es seguro que una aplicación de Inteligencia Artificial sepa tanto sobre nuestros hijos?
La política de privacidad de la página web oficial de Curio nos asegura que sí: “Solo usamos las grabaciones generadas para crear una transcripción de texto, y usamos esta transcripción para hacer funcionar la interacción del niño con el dispositivo. Después de transcribir el audio a texto, borramos los archivos de audio. La transcripción del audio se almacena durante 90 días para permitir que los padres la monitoricen.” Curio también se compromete, en estas líneas, a no “compartir, vender, alquilar o transferir la información personal de los niños.”
Gabbo, juguete de Curio impulsado por IA.
No obstante, aunque la empresa asegura a los padres que no va a utilizar la información de los menores para ningún otro propósito, solo unas líneas más abajo nos avisa de que no se responsabiliza del uso que puedan hacer terceros de esos datos.
Estos peluches, entrenados por modelos de OpenAI (los mismos que utilizan ChatGPT) usan, también, tecnología como Azure Cognitive Services (un servicio de Microsoft que facilita la creación de aplicaciones que usen IA) y Perplexity AI (una especie de buscador impulsado por tecnología IA que sirve para buscar datos y respuestas a preguntas complejas). Según los términos y condiciones, estas empresas “podrían recolectar o mantener información personal a través de los dispositivos.”
Solo usamos las grabaciones generadas para crear una transcripción de texto, y usamos esta transcripción para hacer funcionar la interacción del niño con el dispositivo
Con unos términos de uso y privacidad tan laxos, y con la falta de regulación y legislación al respecto del tratamiento de datos de estas tecnologías, parece difícil asegurarse de que estas aplicaciones no utilizarían los datos de los menores para fines diferentes a los originalmente planteados. Al mismo tiempo, también hay poco estudiado al respecto de los efectos que los chatbots pueden tener sobre la salud mental y el desarrollo de capacidades de los niños.
Recientemente, los expertos han comenzado a advertir sobre la cantidad de niños y adolescentes que se apoyan en la IA para recibir apoyo emocional; una carga quizás demasiado grande para una tecnología que, si bien se desarrolla a pasos agigantados, todavía es propensa al error y carece de la empatía de un ser humano. Aun así, no cabe duda que empresas como Curio continuarán tratando de implementar esta tecnología en distintos ámbitos de nuestro día a día. Pero quizás, en la situación actual, sea todavía demasiado pronto para pensar en exponer a los más pequeños a ella.