Der agentische Regulator: Risiken für KI im Finanzwesen und ein vorgeschlagenes agentenbasiertes Rahmenwerk für Governance

Generative und agentische künstliche Intelligenz dringt schneller in die Finanzmärkte ein, als die bestehende Governance sich anpassen kann. Aktuelle Rahmenwerke für Modellrisiken gehen von statischen, gut spezifizierten Algorithmen und einmaligen Validierungen aus; große Sprachmodelle und Multi-Agenten-Handelssysteme verletzen diese Annahmen, indem sie kontinuierlich lernen, latente Signale austauschen und emergentes Verhalten zeigen. Auf Basis der Theorie komplexer adaptiver Systeme modellieren wir diese Technologien als dezentrale Ensembles, deren Risiken sich über mehrere Zeitskalen hinweg ausbreiten. Anschließend schlagen wir eine modulare Governance-Architektur vor. Das Rahmenwerk unterteilt die Aufsicht in vier Schichten von „regulatorischen Blöcken“: (i) Selbstregulierungs-Module, die neben jedem Modell eingebettet sind, (ii) Governance-Blöcke auf Firmenebene, die lokale Telemetrie aggregieren und Richtlinien durchsetzen, (iii) von Regulierungsbehörden gehostete Agenten, die sektorenweite Indikatoren auf kollusive oder destabilisierende Muster überwachen, und (iv) unabhängige Audit-Blöcke, die Drittanbieter-Zertifizierungen liefern. Acht Designstrategien ermöglichen es den Blöcken, sich so schnell zu entwickeln wie die Modelle, die sie kontrollieren. Eine Fallstudie zu emergentem Spoofing im Multi-Agenten-Handel zeigt, wie die geschichteten Kontrollen schädliches Verhalten in Echtzeit isolieren und gleichzeitig Innovation bewahren. Die Architektur bleibt kompatibel mit heutigen Modellrisikoregeln, schließt jedoch kritische Lücken bei Beobachtbarkeit und Kontrolle und bietet einen praktischen Weg zu belastbarer, adaptiver KI-Governance in Finanzsystemen.