Navigieren durch die Risiken: Eine Übersicht über Sicherheits- und Datenschutzbedrohungen bei LLM-basierten Agenten

Große Sprachmodelle (LLMs) werden zunehmend als autonome oder halbautonome Agenten in Softwareentwicklungs-Workflows eingesetzt, beispielsweise zur Codegenerierung, Testsynthese, Werkzeugorchestrierung und End-to-End-Aufgabenautomatisierung. Während diese agentenbasierten Fähigkeiten erhebliche Produktivitäts- und Qualitätssteigerungen versprechen, bringen sie auch spezifische Sicherheits- und Datenschutzrisiken auf Ebene von Artefakten, Prozessen und sozio-technischen Bereitstellungspipelines mit sich. Diese Risiken gefährden die Vertrauenswürdigkeit von LLM-gestützter Software und erschweren grundlegende Entwicklungsaktivitäten wie Spezifikation, Entwurf, Verifizierung, Wartung und Governance. Diese Übersicht systematisiert die Bedrohungslandschaft für LLM-basierte Agenten aus Sicht der Softwareentwicklung. Wir schlagen eine Taxonomie vor, die nach Bedrohungsquellen und deren Auswirkungen im gesamten Softwarelebenszyklus organisiert ist und explizit modullübergreifende und phasenübergreifende Angriffsflächen (z.B. Werkzeugnutzung, Speicherverwaltung und Umweltinteraktion) erfasst. Weiterhin leiten wir sechs Agentenmerkmale ab, die auf Informationsfluss- und Kontrollflusseigenschaften basieren und die Risikoexposition beeinflussen. Wir fassen aktuelle Gegenmaßnahmen und deren Grenzen für jedes Merkmal zusammen und führen vier Fallstudien zu Websuche, Gaming, Navigation und Softwareentwicklung durch, um praktische Risiken und Ausfallmodi zu veranschaulichen. Aufbauend auf diesen Analysen skizzieren wir Forschungsrichtungen in den Bereichen Daten, Methodik und Politik, um die Entwicklung sicherer und vertrauenswürdiger LLM-basierter Agenten zu fördern.