Verantwortung und Rechenschaftspflicht für den Einsatz von KI in der Strafverfolgung in der Europäischen Union

Dieser Artikel untersucht die Anwendung des EU-KI-Gesetzes auf die Strafverfolgung, hebt hervor, wie dieser Sektor in den risikobasierten Ansatz integriert wird, und bewertet, inwieweit diese Integration die Schutzmaßnahmen für Einzelpersonen schwächen könnte. Es wird argumentiert, dass das neu geschaffene Rechenschaftsrahmenwerk zwar komplex ist, jedoch nur begrenzte Abhilfen für betroffene Personen bietet. Um einen echten Schutz der Grundrechte zu gewährleisten, müssen die im Rahmen eingebetteten Ausnahmen („Hintertüren“) kritisch geprüft, Anfechtungsmechanismen gestärkt und die Verantwortlichkeiten der Anbieter und Einsatzstellen von Hochrisiko-KI klar definiert werden. Soweit angemessen, sollte ein auf Rechten basierender Ansatz in den risikobasierten Ansatz integriert werden, um zu betonen, dass Grundrechte nicht verhandelbar sind. Diese Integration ist unerlässlich, um den Einsatz von KI mit den Zielen des KI-Gesetzes in Einklang zu bringen, nämlich dem Schutz der Grundrechte und der Förderung von Innovation.