RT-1: Robotics Transformer para Controle no Mundo Real em Escala

Ao transferir conhecimento de grandes conjuntos de dados diversos e agnósticos a tarefas, modelos modernos de aprendizado de máquina podem resolver tarefas específicas a jusante, seja em zero-shot ou com pequenos conjuntos de dados específicos da tarefa, atingindo alto desempenho. Embora essa capacidade tenha sido demonstrada em outras áreas, como visão computacional, processamento de linguagem natural ou reconhecimento de fala, ainda precisa ser comprovada na robótica, onde as capacidades de generalização dos modelos são particularmente críticas devido à dificuldade de coletar dados robóticos do mundo real. Argumentamos que uma das chaves para o sucesso de tais modelos robóticos gerais reside no treinamento aberto, agnóstico a tarefas, combinado com arquiteturas de alta capacidade que possam absorver toda a diversidade dos dados robóticos. Neste artigo, apresentamos uma classe de modelo, denominada Robotics Transformer, que exibe propriedades promissoras de escalabilidade. Verificamos nossas conclusões em um estudo de diferentes classes de modelos e sua capacidade de generalização como função do tamanho dos dados, do tamanho do modelo e da diversidade dos dados, baseado em uma coleta de dados em larga escala com robôs reais executando tarefas do mundo real.