Erkundung des Bereichs vertrauenswürdiger Künstlicher Intelligenz: Status und Herausforderungen

Künstliche Intelligenz (KI) hat den Alltag durchdrungen und gestaltet das Umfeld von Wirtschaft, Wirtschaft und Gesellschaft neu, indem sie die Interaktionen und Verbindungen zwischen Interessengruppen und Bürgern verändert. Dennoch birgt die weitverbreitete Nutzung von KI erhebliche Risiken und Hürden, die Bedenken hinsichtlich der Vertrauenswürdigkeit von KI-Systemen durch Menschen wecken. Kürzlich haben zahlreiche staatliche Stellen Regelungen und Prinzipien eingeführt, die darauf abzielen, vertrauenswürdige KI-Systeme zu fördern, während Unternehmen, Forschungseinrichtungen und Organisationen des öffentlichen Sektors eigene Prinzipien und Leitlinien zur Sicherstellung ethischer und vertrauenswürdiger KI veröffentlicht haben. Zudem haben sie Methoden und Software-Toolkit entwickelt, um bei der Bewertung und Verbesserung der Attribute der Vertrauenswürdigkeit zu unterstützen. Das vorliegende Papier hat zum Ziel, diese Entwicklung zu untersuchen, indem es die Vertrauenswürdigkeit von KI-Systemen analysiert und unterstützt. Wir beginnen mit einer Untersuchung der Merkmale vertrauenswürdiger KI sowie der entsprechenden Prinzipien und Standards, die damit verbunden sind. Anschließend prüfen wir die Methoden und Werkzeuge, die Designern und Entwicklern zur Verfügung stehen, um vertrauenswürdige KI-Systeme in die Praxis umzusetzen. Abschließend skizzieren wir Forschungsherausforderungen für die durchgängige Entwicklung vertrauenswürdiger KI von Anfang an.