Os algoritmos dominam o mundo? Tomada de decisão algorítmica e proteção de dados no âmbito do GDPR e além

O objetivo deste artigo é analisar as regras do Regulamento Geral sobre a Proteção de Dados (GDPR) e da Diretiva sobre Proteção de Dados em Matéria Penal relativas à tomada de decisão automatizada e explorar como garantir a transparência de tais decisões, em particular aquelas tomadas com auxílio de algoritmos. Ambos os atos jurídicos impõem limitações à tomada de decisão individual automatizada, incluindo o perfilamento. Embora essas limitações possam ser vistas como uma forte proteção aos indivíduos, potencialmente até dificultando o futuro desenvolvimento da Inteligência Artificial na tomada de decisões, as disposições relevantes contêm diversas exceções que permitem tais decisões. Enquanto a Diretiva sobre Proteção de Dados em Matéria Penal preocupantemente não parece oferecer ao titular dos dados a possibilidade de se familiarizar com os motivos da decisão, o GDPR obriga o controlador a fornecer ao titular dos dados "informações significativas sobre a lógica envolvida" (artigos 13(2)(f), 14(2)(g) e 15(1)(h)), levantando a muito debatida questão sobre se o titular dos dados deveria ter um "direito à explicação" da decisão automatizada. Este artigo busca ir além da questão semântica sobre se esse direito deve ser denominado "direito à explicação" e argumenta que o GDPR obriga o controlador a informar o titular dos dados dos motivos pelos quais a decisão automatizada foi tomada. Embora tal direito se encaixe em princípio no âmbito mais amplo da busca do GDPR por um alto nível de transparência, ele também levanta várias questões: O que exatamente deve ser revelado ao titular dos dados? Como uma decisão baseada em algoritmo pode ser explicada? O artigo visa explorar essas questões e identificar desafios para pesquisas futuras quanto à explicabilidade das decisões automatizadas.