Robots sociales y confianza: el reto de la IA en el mundo real

La inteligencia artificial (IA) está transformando la industria, la automatización, la salud y también la manera en que los humanos interactúan con la tecnología. En este contexto, la Embodied AI o IA física juega un papel fundamental. No se trata solo de sistemas de IA basados en datos y algoritmos, sino de inteligencia artificial con presencia física, que interactúa con el mundo de forma tangible y con impacto real en nuestra vida cotidiana.

En el Future Trends Forum de la Fundación Innovación Bankinter dedicado a la IA física participaron más de 40 expertos internacionales. Entre ellos, Ginevra Castellano, profesora y directora del Uppsala Social Robotics Lab, quien compartió su visión sobre la importancia de la confianza en la interacción humano-robot y cómo la IA social puede usarse para el bien común. Su investigación aborda una cuestión clave: ¿cómo asegurarnos de que los robots sociales generen beneficios reales sin generar dependencia o problemas éticos?

Desde la educación hasta la salud mental, los robots sociales tienen el potencial de mejorar la vida de muchas personas. Sin embargo, Castellano advierte que su integración en la sociedad no puede basarse solo en la eficiencia tecnológica, sino en una reflexión profunda sobre su impacto a largo plazo.

Si quieres ver la ponencia de Ginevra Castellano, aquí puedes verla:

Ginevra Castellano: «Social robots in education» #EmbodiedAIForum

Robots en educación: más que asistentes tecnológicos

Uno de los ámbitos donde los robots sociales han demostrado ser más útiles es en la educación. Investigaciones recientes han revelado que los robots pueden facilitar el aprendizaje de materias STEM, ayudar en la enseñanza de segundas lenguas y mejorar la comprensión lectora en niños. Sin embargo, Castellano plantea una pregunta fundamental: ¿qué significa realmente que un robot sea beneficioso en la educación?

En su laboratorio, han desarrollado varios experimentos con robots diseñados para asistir en la enseñanza. Uno de estos proyectos involucra a Emys, un robot con capacidad de expresar emociones y participar en actividades interactivas con niños de primaria. Los hallazgos son sorprendentes: cuando Emys induce emociones positivas en los niños, su creatividad aumenta significativamente en tareas de narración de historias.

Otro de los estudios liderados por Castellano explora el impacto del robot Furhat de Furhat Robotics en la confianza de los niños. En este experimento, el equipo analizó si los niños confían en un robot social y si compartirían información con él. Un resultado clave fue que los niños tienden a confiar más en un robot con apariencia menos humana.

Este hallazgo plantea un dilema: ¿puede existir un punto en el que los niños confíen demasiado en un robot? ¿Cómo asegurarnos de que esta confianza sea saludable y no reemplace interacciones humanas esenciales?

Castellano subraya la importancia de la supervisión adulta en el uso de robots educativos. La tecnología puede potenciar el aprendizaje, pero nunca debe sustituir el papel de los educadores ni generar una dependencia excesiva en los niños.

Robots en la salud mental: apoyo en la detección de la depresión perinatal

Otro campo en el que los robots sociales pueden marcar la diferencia es la salud mental. Un proyecto en el que ha trabajado el equipo de Castellano explora el uso de robots para la detección de la depresión perinatal, una condición que afecta hasta al 20% de las mujeres durante o después del embarazo.

El diagnóstico de este trastorno requiere la intervención de especialistas, pero la falta de personal médico cualificado en muchas regiones provoca que hasta un 70% de los casos no sean detectados. Esto llevó a los investigadores a preguntarse: ¿podría un robot ayudar en la detección temprana de la depresión perinatal y en la concienciación sobre el problema?

Para responder a esta cuestión, el equipo llevó a cabo entrevistas con psiquiatras, expertos en salud mental, académicos de estudios de género y mujeres con experiencia en depresión perinatal. Las reacciones fueron diversas:

• Algunas mujeres consideraron que interactuar con un robot les ayudaría a expresarse sin miedo al juicio humano.
• Otras pensaron que los robots podrían desempeñar un papel clave en la concienciación, especialmente en lugares donde el acceso a atención médica es limitado.
• Sin embargo, también hubo quienes expresaron su preocupación de que el uso de robots reforzara la falta de apoyo humano en el sistema de salud, generando una sensación de abandono.

El estudio concluyó que los robots pueden ser herramientas útiles, pero que su implementación debe ir acompañada de una supervisión humana adecuada.

Ética y confianza en los robots sociales

La confianza en los robots sociales es un tema crucial. Si bien los humanos han demostrado ser capaces de formar vínculos emocionales con robots, Castellano advierte que debemos preguntarnos hasta qué punto estos vínculos son saludables.

Algunos de los desafíos éticos más relevantes en la interacción humano-robot incluyen:

1. Transparencia y supervisión humana: Los robots deben explicar claramente qué pueden y qué no pueden hacer, y su uso debe estar regulado por profesionales.
2. Diseño ético centrado en el usuario: No todos los usuarios reaccionan igual ante la tecnología. Lo que es beneficioso para un grupo puede no serlo para otro.
3. Equilibrio entre utilidad y riesgo: Los robots pueden fomentar la confianza, pero también pueden generar dependencia. Es fundamental establecer límites en su uso.

En este sentido, es clave desarrollar robots con capacidades que permitan generar confianza sin fomentar una conexión excesiva o peligrosa. Esto es especialmente relevante en el caso de niños o personas vulnerables.

El futuro de la interacción humano-robot

La investigación de Castellano deja claro que los robots sociales tienen un enorme potencial, pero que su integración en la sociedad debe hacerse con responsabilidad.

En el futuro, podemos esperar avances en áreas como:

• Educación personalizada: Robots que se adapten al estilo de aprendizaje de cada estudiante y fomenten la creatividad mediante narraciones interactivas y juegos emocionales.
• Salud mental: Sistemas de IA que apoyen a psicólogos y psiquiatras en la detección temprana de trastornos como la depresión perinatal, ofreciendo una vía accesible para quienes temen el juicio humano.
• Asistencia a personas mayores: Robots diseñados para mejorar la calidad de vida de la población envejecida, proporcionando compañía y ayudando en tareas cotidianas, como el presentado por Dor Skuler.
• Transporte autónomo: Modelos de interacción confiable entre humanos y vehículos autónomos, considerando el nivel de autonomía que los usuarios están dispuestos a aceptar en diferentes escenarios.
• Accesibilidad y asistencia social: Robots que faciliten la comunicación y la movilidad a personas con discapacidades, potenciando su autonomía.

Sin embargo, estos avances también requieren un marco ético sólido. Castellano subraya que diseñar IA para el bien común no solo implica desarrollar tecnología avanzada, sino también comprender qué deberían y qué no deberían hacer los robots en nuestra sociedad.

El debate sobre la ética en la IA social es más relevante que nunca. La interacción humano-robot no es solo una cuestión tecnológica, sino también filosófica y social. ¿Dónde trazamos la línea entre la utilidad y la dependencia? ¿Cómo aseguramos que estos sistemas beneficien a la sociedad en su conjunto?

Para Ginevra Castellano, la clave está en encontrar un equilibrio entre la innovación y la responsabilidad. La IA social puede transformar nuestras vidas, pero su diseño debe estar guiado por principios claros que garanticen su impacto positivo.