A pesar de los éxitos rotundos del programa de inteligencia artificial en Corea del Sur, sus desarrolladores y supervisores mantienen una postura cautelosa. La tecnología, aunque avanzada, se encuentra todavía en una fase de desarrollo donde los errores son posibles. La clave del sistema no reside únicamente en el algoritmo, sino en la estrecha vigilancia que ejercen los trabajadores sociales sobre cada interacción generada por el chatbot.
Tal como indica The New York Times en Español, uno de los principales obstáculos es la incapacidad de la IA para comprender metáforas o expresiones culturales ambiguas. Por ejemplo, frases comunes entre los ancianos coreanos que expresan cansancio extremo pueden ser interpretadas por el bot como una crisis vital inminente. Por esta razón, el juicio humano sigue siendo el filtro final antes de enviar servicios de emergencia.
Otro desafío técnico son las “alucinaciones” de la IA generativa, un fenómeno donde el programa inventa información o realiza promesas no autorizadas. Se han documentado casos donde el chatbot se ofreció impulsivamente a enviar suministros de comida a residentes con problemas económicos, comprometiendo recursos que el programa no gestiona. Estos incidentes subrayan la necesidad de mantener a la IA bajo parámetros estrictos.
El entorno físico de los usuarios también juega un papel determinante en la eficacia del servicio. Ruidos ambientales, como televisores a alto volumen, pueden confundir al bot, dificultando la transcripción precisa de la conversación. Los trabajadores sociales deben revisar constantemente estos archivos de audio para asegurar que no se pierda información vital debido a interferencias externas o problemas de audición del usuario.
Para mitigar riesgos de seguridad, como el “spoofing” o suplantación de identidad por parte de estafadores, los creadores del sistema han optado por no humanizar la voz en exceso. El tono ligeramente mecánico de “Talking Buddy” sirve como una marca de autenticidad para el anciano, asegurándole que está hablando con el servicio oficial de asistencia y no con un extraño intentando obtener datos personales.
La estructura del programa es, por tanto, una colaboración simbiótica. La IA aporta la escala y la memoria para gestionar miles de casos simultáneamente, mientras que los humanos aportan la interpretación contextual y la ética. Esta metodología de “humano en el circuito” (human-in-the-loop) garantiza que la tecnología sea una ayuda real y no un riesgo para una población que ya es vulnerable de por sí.
About the Author
