面向人工智能设计的透明度

在本文中，我们提出了“设计透明度”的概念，作为一种实用指导，有助于促进透明度的有益功能，同时减轻其在自动决策（ADM）环境中的挑战。随着人工智能（AI）的兴起以及AI系统自动和自我学习决策能力的增强，学术界和政策圈内对这些系统如何做出决策的透明度呼声日益高涨。然而，“透明度”这一术语涉及多个概念，承担多重功能，并蕴含不同的承诺，在具体应用中难以实现。事实上，ADM中透明度的复杂性表现为透明度作为规范理想与其转化为实际应用之间的张力。为解决这一张力，我们首先回顾了透明度，分析其在自动决策实践中的挑战和局限。随后，我们借鉴了“隐私设计”（Privacy by Design）的经验作为基础，提出“设计透明度”原则。最后，我们提出了涵盖相关上下文、技术、信息和利益相关者敏感性的九条原则。“设计透明度”是一种模型，帮助组织以逐步方式将这些原则整合为先验价值，而非事后考虑，从而设计出透明的AI系统。