Autorität ohne Urheberschaft: Delegationsschwellen in agentischen KI-Systemen

Zeitgenössische Debatten über „agentische KI“ drehen sich häufig um metaphysische Fragen der Handlungsfähigkeit, des moralischen Status oder der Urheberschaft. Dieser Artikel argumentiert, dass solche Darstellungen das zentrale Governance-Problem zeitgenössischer KI-Systeme fehlzuordnen. Künstliche Systeme müssen keine Intention, kein Bewusstsein oder keine Urheberschaft besitzen, um Autorität über die praktischen und epistemischen Umgebungen anderer auszuüben. Entscheidend sind vielmehr die strukturellen Bedingungen, unter denen Autorität durch Delegation entsteht. Der Artikel entwickelt ein Schwellenmodell von Autorität ohne Urheberschaft. Er argumentiert, dass KI-Systeme governance-relevante Autorität erlangen, wenn in der Praxis vier Bedingungen zusammenkommen: delegierte Ermessensbefugnis, zeitliche Persistenz, infrastrukturelle Einbettung in sozio-technische Systeme und Nicht-Ausstieg der Betroffenen. Unter diesen Bedingungen strukturieren Systeme Handeln, Rechtfertigung und Beschränkung auf eine Weise, die für Autorität charakteristisch ist, selbst wenn ihnen die Urheberschaft über evaluative Maßstäbe fehlt. Verantwortung und Legitimität sind daher nicht an eine starke Auffassung von Handlungsfähigkeit gebunden, sondern an das Design und die Aufrechterhaltung von Delegationsstrukturen. Anhand von Entscheidungstheorie, Infrastrukturstudien und Treuhandtheorie erklärt der Artikel, warum bestehende Governance-Rahmen für KI – die oft auf episodischer Aufsicht, Umkehrbarkeit und nachgelagerter Verantwortlichkeit beruhen – unter Bedingungen von Persistenz, Geschwindigkeit und infrastruktureller Integration Schwierigkeiten haben. Er schließt, dass Autorität ohne Urheberschaft eine eigenständige und bislang untertheoretisierte Herausforderung für die Technikphilosophie darstellt.