KI-Halluzination als Problem der Beweislast

Künstliche Intelligenz und Rechtssysteme streben beide danach, Wahrheit unter Unsicherheit in komplexen Umgebungen zu bestimmen, unterscheiden sich jedoch grundlegend darin, wie die Zulässigkeit festgestellt wird. Zeitgenössische KI-Systeme verlassen sich auf probabilistische Erzeugung, die Kandidatenoutputs über einen weiten Suchraum produziert, bevor eine Validierung angewandt wird, wodurch plausible, jedoch nicht verifizierte Zustände eingeschlossen werden können. Rechtssysteme hingegen lassen keine Behauptungen durch explorative oder probabilistische Erzeugung zu; sie verlangen, dass definierte Bedingungen – basierend auf Beweisen und der Beweislast – erfüllt sind, bevor eine Behauptung berücksichtigt wird. Dieser Artikel vertritt die These, dass KI-Halluzination zum Teil eine Folge dieser umgekehrten Reihenfolge ist. Er schlägt vor, die Validierung an den Beginn des Argumentationsprozesses zu stellen – durch einen validierungsorientierten, auf Beschränkungen basierenden Rahmen –, um die Zulassung unbegründeter Outputs zu reduzieren, die Recheneffizienz zu verbessern und KI-Systeme näher an etablierte Strukturen verifizierter Wahrheit anzunähern.