Explicabilidad y predictibilidad del plan para la planificación de tareas robóticas

Los robots y máquinas inteligentes están volviéndose omnipresentes en entornos habitados por humanos. Una capacidad deseable de estos agentes es responder a comandos orientados a objetivos construyendo autónomamente planes de tarea. Sin embargo, tal autonomía puede añadir una carga cognitiva significativa y potencialmente introducir riesgos de seguridad para los humanos cuando los agentes se comportan de maneras inesperadas. Por lo tanto, para que dichos agentes sean útiles, un requisito importante es que sinteticen planes que puedan ser fácilmente entendidos por los humanos. Aunque existe trabajo previo que estudió robots socialmente aceptables que interactúan con humanos de formas “naturales”, y trabajos que investigaron la planificación de movimiento legible, no existe una solución general para la planificación de tareas a alto nivel. Para abordar este problema, introducimos las nociones de explicabilidad y predictibilidad del plan. Para calcular estas medidas, primero postulamos que los humanos entienden los planes del agente asociando tareas abstractas con acciones del agente, lo cual puede considerarse como un proceso de etiquetado. Aprendemos el esquema de etiquetado de los humanos para planes del agente a partir de ejemplos de entrenamiento usando campos aleatorios condicionales (CRFs). Luego, usamos el modelo aprendido para etiquetar un nuevo plan y calcular su explicabilidad y predictibilidad. Estas medidas pueden ser usadas por los agentes para elegir proactivamente o sintetizar directamente planes que sean más explicables y predecibles para los humanos. Proveemos evaluaciones en un dominio sintético y con un robot físico para demostrar la efectividad de nuestro enfoque.