Mais Leve e Melhor: Redes de Autoatenção Decompostas de Baixa Ordem para Recomendação do Próximo Item

Redes de autoatenção (SANs) têm sido intensamente aplicadas em recomendadores sequenciais, mas são limitadas devido a: (1) a complexidade quadrática e a vulnerabilidade ao superparametrização na autoatenção; (2) modelagem imprecisa das relações sequenciais entre itens devido à codificação implícita de posição. Neste trabalho, propomos as redes de autoatenção decompostas de baixa ordem (LightSANs) para superar esses problemas. Particularmente, introduzimos a autoatenção decomposta de baixa ordem, que projeta os itens históricos do usuário em um pequeno número constante de interesses latentes e aproveita a interação item-interesse para gerar a representação ciente do contexto. Ela escala linearmente em relação ao comprimento da sequência histórica do usuário em termos de tempo e espaço, e é mais resiliente ao superparametrização. Além disso, projetamos a codificação de posição desacoplada, que modela as relações sequenciais entre os itens com mais precisão. Estudos experimentais extensivos foram realizados em três conjuntos de dados do mundo real, onde LightSANs superam os recomendadores baseados em SANs existentes tanto em efetividade quanto eficiência.