Confianza y Transparencia en la IA: Voces de la Industria sobre Datos, Ética y Cumplimiento

La Ley de Inteligencia Artificial (IA) de la UE obliga a las empresas a evaluar sus sistemas de IA para asegurar que se desarrollan de manera centrada en el ser humano y confiable. La rápida adopción de la IA en la industria ha superado los marcos de evaluación ética, lo que genera desafíos significativos en responsabilidad, gobernanza, calidad de los datos, supervisión humana, robustez tecnológica e impactos ambientales y sociales. A través de entrevistas estructuradas con quince profesionales de la industria, combinadas con una revisión bibliográfica basada en cada uno de los hallazgos clave de las entrevistas, este artículo investiga los enfoques prácticos y los desafíos en el desarrollo y la evaluación de la IA Confiable (TAI). Los hallazgos de los participantes en nuestro estudio y las revisiones bibliográficas subsecuentes revelan complicaciones en la gestión de riesgos, el cumplimiento y la rendición de cuentas, que se agravan por la falta de transparencia, requisitos regulatorios poco claros y una implementación apresurada de la IA. Los participantes manifestaron preocupaciones sobre que la robustez tecnológica y la seguridad podrían verse comprometidas por inexactitudes en los modelos, vulnerabilidades de seguridad y una dependencia excesiva de la IA sin las salvaguardas adecuadas. Además, los impactos negativos ambientales y sociales de la IA, incluyendo el alto consumo energético, la radicalización política, la pérdida cultural y el refuerzo de desigualdades sociales, son áreas de preocupación. Existe una necesidad urgente no sólo de mitigación de riesgos y evaluación de la TAI dentro de los sistemas de IA, sino de un enfoque más amplio para desarrollar un panorama de IA que se alinee con los valores sociales y culturales de los países que adoptan estas tecnologías.