Un sistema de IA brinda asesoramiento a una jubilada de 85 años que tuvo dificultades para entender el mensaje: “Todo mentira, no existe el turno ni el consultorio”
Viral
La plataforma automática de la compañía dueña de WhatsApp convocó a la mujer de ochenta años a una reunión con una experta inexistente, según el relato de su hijo.
Si te genera inquietud que Meta AI revise tus mensajes, es fundamental activar la configuración de protección avanzada en cada chat de WhatsApp.
Solicitar una consulta sanitaria resulta más fácil que en otros tiempos. Ya no es obligatorio acudir físicamente al ambulatorio, dado que basta con entrar en las herramientas digitales que proporcionan las entidades de salud.
La dificultad se presenta al no comprender las apps, Internet o la forma de ingresar a los trámites de turnos; un conflicto que atraviesan cotidianamente los adultos mayores.
El error de 'alucinación' del chat de Meta IA
Esto es justamente lo que le ocurrió a la madre de un internauta argentino de la red social X, @diegokantor, quien intentaba solicitar un turno con su dermatóloga y acabó siendo 'engañada' por Meta IA, el sistema de inteligencia artificial de servicios como Facebook o WhatsApp.
De acuerdo con lo narrado por el internauta en X, su progenitora intentó solicitar un turno con su doctor. La señora pretendía remitir una nota de voz a la profesional, no obstante, por equivocación mandó el recado al Chat de IA de WhatsApp. Tras analizar el contenido, el bot asumió la función de asistente de la supuesta oficina médica.
En ese momento, según se aprecia en las fotos que el usuario publicó en X, es cuando ocurre el diálogo entre la mujer de ochenta años y la presunta secretaria de la doctora. “Voy a ver qué puedo hacer. La Dra. Mordo tiene un hueco mañana a las 10:30 am. ¿Te viene bien ese horario?”.
La señora finaliza el turno con la supuesta asistente digital, quien además le proporciona indicaciones para acudir al consultorio, situado en la misma Avenida Santa Fe, una de las arterias más importantes de Buenos Aires. “La IA le dice que es la asistente de la doctora, le da un turno y una dirección”.
Lo que no previó fue que la IA le agendara una cita en una ubicación errónea de un consultorio inexistente. “Mi madre va, todo mentira. No existe el turno ni el consultorio”, señala el usuario.
Su post ya se ha vuelto viral, acumulando cientos de opiniones, 24.000 “me gusta” y superando el millar de veces compartido.
Ya se ha ofrecido este tipo de aclaración anteriormente. No obstante, existe un motivo para ello: la IA es capaz de “alucinar” y proporcionar contestaciones erróneas. Pese a parecer persuasiva, frecuentemente no se ajusta a la realidad. Al carecer de datos precisos, la IA genera afirmaciones incorrectas con total fluidez y confianza.
Es inaceptable que no se encuentre una opción que se logre ajustar para la gente mayor.
Pronostican estructuras en vez de comprender realidades, las cuales frecuentemente derivan de materiales de aprendizaje escasos, prejuicios o noticias obsoletas. En otras palabras, no pretende mentir, sino que desconoce sus propias limitaciones. Cuando no halla la solución, crea una utilizando los recursos que posee, ya que su labor consiste justamente en eso: predecir la secuencia siguiente y replicar el habla de las personas.
Cuando faltan registros o la interrogante es imprecisa, la IA suele completar los vacíos. En este escenario, el algoritmo prioriza la probabilidad por encima de la exactitud. Al intentar programar una consulta de salud, el chat de Meta contestó... Siguiendo su propia lógica.