Confiança e Transparência na IA: Vozes da Indústria sobre Dados, Ética e Conformidade

A Lei de Inteligência Artificial (IA) da UE orienta as empresas a avaliarem seus sistemas de IA para garantir que sejam desenvolvidos de forma centrada no ser humano e confiável. A rápida adoção da IA na indústria ultrapassou os frameworks de avaliação ética, levando a desafios significativos em responsabilidade, governança, qualidade dos dados, supervisão humana, robustez tecnológica e impactos ambientais e sociais. Por meio de entrevistas estruturadas com quinze profissionais do setor, acompanhadas por uma revisão da literatura realizada sobre cada uma das principais descobertas das entrevistas, este artigo investiga abordagens práticas e desafios no desenvolvimento e avaliação da IA Confiável (TAI). Os achados dos participantes do nosso estudo, e as subsequentes revisões da literatura, revelam complicações na gestão de riscos, conformidade e responsabilidade, agravadas pela falta de transparência, requisitos regulatórios pouco claros e uma implementação apressada da IA. Os participantes relataram preocupações de que a robustez tecnológica e a segurança poderiam ser comprometidas por imprecisões nos modelos, vulnerabilidades de segurança e uma dependência excessiva da IA sem salvaguardas adequadas. Além disso, os impactos ambientais e sociais negativos da IA, incluindo alto consumo de energia, radicalização política, perda cultural e reforço das desigualdades sociais, são áreas de preocupação. Há uma necessidade premente não apenas de mitigação de riscos e avaliação da TAI dentro dos sistemas de IA, mas de uma abordagem mais ampla para desenvolver um cenário de IA que esteja alinhado com os valores sociais e culturais dos países que adotam essas tecnologias.