Risiko, Angemessenheit und verbleibender Schaden nach dem EU-KI-Gesetz: Ein konzeptueller Rahmen für verhältnismäßige ex-ante-Kontrollen

Zusammenfassung Das EU-Gesetz zur künstlichen Intelligenz (KI-Gesetz) etabliert ein neuartiges risikobasiertes Regulierungsmodell für KI-Systeme und kategorisiert Anwendungen in vier Stufen: unakzeptabel (verboten), Hochrisiko (streng reguliert), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (weitgehend unreguliert). Dieser Artikel entwickelt einen rigorosen konzeptuellen Rahmen zur Analyse der Logik von Risiko, Angemessenheit und verbleibendem Schaden im KI-Gesetz. Er erklärt, wie die Prinzipien der Vorsorge und Verhältnismäßigkeit die ex-ante-Kontrollen des KI-Gesetzes prägen, indem Anbieter verpflichtet werden, vernünftigerweise vorhersehbaren Missbrauch zu antizipieren und Maßnahmen anzuwenden, die dem Stand der Technik entsprechen. 1 Wir schlagen Kriterien für die Kalibrierung zentraler Anforderungen (Datenverwaltung, Transparenz, menschliche Aufsicht, Robustheit oder Cybersicherheit) entsprechend der Schwere und Unsicherheit der Risiken vor, basierend auf der Risikoregulationstheorie (z. B. Baldwin und Blacks Responsive Regulation und Sunsteins Kosten-Nutzen-Rationalität). Die Analyse setzt den EU-Ansatz auch in einen vergleichenden Kontext und weist auf Übereinstimmungen und Abweichungen mit den US- und OECD-KI-Rahmen hin – beispielsweise kontrastieren die vorsorglichen Verbote der EU zur biometrischen Massenüberwachung mit dem US-Vertrauen auf freiwillige Richtlinien zum Risikomanagement. Spezifische hochwirksame Anwendungsfälle (biometrische Identifikation im öffentlichen Raum, KI in kritischer Infrastruktur) illustrieren, wie das Schweregrad der Risiken strengere Kontrollen auslöst. Der Artikel schließt mit einer Diskussion der politischen Implikationen für die Umsetzung, einschließlich der Rolle harmonisierter Normen und Konformitätsvermutungen, der Schnittstelle mit parallelen Cybersicherheitsregimen (NIS2, DORA) als "Risikoverstärker" sowie des Bedarfs an weiterem Leitfaden und delegierten Rechtsakten, um sicherzustellen, dass die verhältnismäßigen Schutzmaßnahmen des KI-Gesetzes angesichts technologischer Veränderungen wirksam bleiben.