Eine Übersicht über Sicherheit und Vertrauenswürdigkeit großer Sprachmodelle aus der Perspektive der Verifikation und Validierung

Zusammenfassung Große Sprachmodelle (LLMs) haben eine neue Welle der KI ausgelöst, dank ihrer Fähigkeit, mit Endbenutzern menschenähnliche Gespräche mit detaillierten und artikulierten Antworten in vielen Wissensbereichen zu führen. Als Reaktion auf ihre schnelle Verbreitung in vielen industriellen Anwendungen befasst sich diese Umfrage mit deren Sicherheit und Vertrauenswürdigkeit. Zunächst prüfen wir bekannte Schwachstellen und Einschränkungen der LLMs und kategorisieren sie in inhärente Probleme, Angriffe und unbeabsichtigte Fehler. Anschließend betrachten wir, ob und wie die Verifikations- und Validierungstechniken (V&V), die für traditionelle Software und Deep-Learning-Modelle wie Faltungsneurale Netze entwickelt wurden, als unabhängige Prozesse zur Überprüfung der Übereinstimmung ihrer Implementierungen mit den Spezifikationen in den Lebenszyklus der LLMs integriert und weiterentwickelt werden können, um eine rigorose Analyse der Sicherheit und Vertrauenswürdigkeit von LLMs und ihren Anwendungen zu ermöglichen. Speziell betrachten wir vier komplementäre Techniken: Falsifikation und Evaluation, Verifikation, Laufzeitüberwachung sowie Regulierung und ethische Nutzung. Insgesamt wurden über 370 Referenzen berücksichtigt, um ein schnelles Verständnis der Sicherheits- und Vertrauenswürdigkeitsfragen aus der V&V-Perspektive zu unterstützen. Während intensive Forschung durchgeführt wurde, um diese Probleme zu identifizieren, sind anspruchsvolle und dennoch praktikable Methoden erforderlich, um die Übereinstimmung der LLMs mit Sicherheits- und Vertrauenswürdigkeitsanforderungen zu gewährleisten.