La Universidad de León desarrolla un sistema pionero para que los robots expliquen sus decisiones
Uno de los robots del laboratorio de Robótica de la ULE.
Un equipo de la Universidad de León (ULe) ha dado un paso decisivo para que los robots móviles que operan en entornos compartidos con personas sean más transparentes y fiables, hasta el punto de llegar a explicar sus decisiones a los humanos.
Su propuesta, publicada en la revista internacional 'Logic Journal of the IGPL', combina inteligencia artificial y ciberseguridad para que estas máquinas puedan justificar sus acciones en lenguaje natural y garantizar la trazabilidad de sus decisiones.
El trabajo consultado por EFE, firmado por Laura Fernández Becerra, David Sobrín Hidalgo, Miguel A. González Santamarta, Ángel Manuel Guerrero Higueras, Francisco J. Rodríguez Lera y Vicente Matellán Olivera, responde a una preocupación creciente: ¿cómo saber por qué un robot actúa de forma inesperada?
"Explicar el motivo de una maniobra es clave para prevenir fallos y generar confianza", subrayan los autores.
La investigación plantea un sistema con dos componentes. El primero es una especie de "caja negra" que registra cada acción del robot durante sus tareas de navegación, desde la posición y velocidad hasta las imágenes captadas por sus cámaras.
Este módulo no solo almacena datos, sino que los protege mediante cifrado avanzado (AES-GCM y RSA) para garantizar su autenticidad y privacidad, un aspecto esencial en entornos como hospitales o espacios públicos.
"Queríamos asegurar que la información registrada no pueda ser manipulada y que sirva para reproducir exactamente lo que ocurrió", explican los investigadores. Esta trazabilidad permite identificar responsabilidades en caso de incidentes y refuerza la seguridad jurídica y técnica de los sistemas autónomos.
El segundo componente convierte esos datos en explicaciones comprensibles para cualquier persona. Para ello, el equipo leonés ha integrado modelos de lenguaje (LLMs) y modelos visión-lenguaje (VLMs), tecnologías que permiten interpretar tanto registros textuales como imágenes. Así, el robot no solo dice qué hizo, sino por qué lo hizo, apoyándose en el contexto visual.
En las pruebas realizadas en un entorno simulado —un hospital virtual desarrollado por Amazon Web Services—, el sistema fue capaz de explicar por qué modificó su ruta: “Detecté un obstáculo porque había una mano con rayas azules y blancas en mi camino”, describió tras analizar la imagen y los datos de navegación. Esta respuesta, validada con métricas como ROUGE y BLEU y con evaluación asistida por GPT-4, demuestra la precisión del método.
Los autores destacan que esta innovación mejora la interacción humano-robot (HRI) y abre la puerta a aplicaciones en sectores críticos: desde la logística hasta la asistencia sanitaria. “Si un robot puede justificar sus decisiones en tiempo real, aumenta la confianza y reduce riesgos”, señalan.
El proyecto, financiado por fondos europeos NextGenerationEU a través de INCIBE y por el Ministerio de Ciencia e Innovación, sitúa a León en la vanguardia de la investigación en robótica explicable. Entre los próximos retos figuran incorporar otros tipos de datos, como audio o señales táctiles, y escalar el sistema para flotas de robots en entornos complejos.
"Queremos que los robots sean responsables y transparentes, que puedan explicar sus acciones de forma clara y segura", concluyen los investigadores. Un objetivo que, según subrayan, será clave para integrar estas tecnologías en la vida cotidiana sin perder la confianza humana.