Détection automatisée des discours haineux et le problème du langage offensant

Un défi majeur pour la détection automatique des discours haineux sur les réseaux sociaux est la distinction entre les discours haineux et d'autres cas de langage offensant. Les méthodes de détection lexicale ont tendance à avoir une faible précision car elles classifient tous les messages contenant certains termes comme discours haineux, et des travaux antérieurs utilisant l'apprentissage supervisé n'ont pas réussi à différencier ces deux catégories. Nous avons utilisé un lexique de discours haineux constitué par crowdsourcing pour collecter des tweets contenant des mots-clés de discours haineux. Nous utilisons le crowdsourcing pour annoter un échantillon de ces tweets en trois catégories : ceux contenant des discours haineux, uniquement du langage offensant, et ceux n'ayant ni l'un ni l'autre. Nous entraînons un classificateur multi-classes pour distinguer ces différentes catégories. Une analyse approfondie des prédictions et des erreurs montre quand nous pouvons séparer avec fiabilité les discours haineux des autres langages offensants et quand cette différenciation est plus difficile. Nous constatons que les tweets racistes et homophobes sont plus susceptibles d'être classifiés comme discours haineux, mais que les tweets sexistes sont généralement classifiés comme offensants. Les tweets sans mots-clés explicites de haine sont également plus difficiles à classifier.