Zeitgenössische Sicherheitsarchitekturen in der Robotik greifen erst ein, nachdem ein System bereits Handlungsentscheidungen getroffen hat, indem sie versuchen, Ausgaben einzuschränken, anstatt die Kognition selbst zu steuern. Diese Arbeit zeigt, dass Sicherheit nach dem Reasoning für lernfähige verkörperte Systeme, die in offenen Umgebungen operieren, nicht nur unzureichend ist – sie ist strukturell nicht in der Lage, Sicherheit zu gewährleisten. Wir führen Pre-Reasoning Constitutional Gating (PRCG) ein, eine Governance-Architektur, die das vorherrschende Paradigma umkehrt. Anstatt Handlungen nach dem Reasoning zu filtern, steuert PRCG, ob das Reasoning verfassungsmäßig überhaupt begonnen werden darf. Vier Vorbedingungsbereiche – epistemische Genügsamkeit, menschliche Autorisierung, Würdeerhaltung und Eskalationsverfügbarkeit – müssen erfüllt sein, bevor kognitive Prozesse Rechenressourcen erhalten. Integriert mit Immaculate Reasoning Atom (IRA) v2.0 etabliert PRCG ein Zwei-Tore-System: kein Reasoning ohne verfassungsmäßige Freigabe und keine Handlung ohne verfassungsmäßig gesteuertes Reasoning. Die Arbeit liefert formale Definitionen, strukturelle Beweise für die Unzulänglichkeit von Sicherheit nach dem Reasoning, architektonische Spezifikationen und Implementierungsabbildungen für verkörperte Intelligenzsysteme. Die zentrale Schlussfolgerung ist architektonisch und präzise: Für adaptive Roboter, die in menschlichen Umgebungen eingebettet sind, kann Governance nicht der Fähigkeit folgen – sie muss ihr vorgelagert sein.
Building similarity graph...
Analyzing shared references across papers
Loading...
Rodney Manyakaidze (Sun,) untersuchte diese Fragestellung.
www.synapsesocial.com/papers/699d4008de8e28729cf64fea — DOI: https://doi.org/10.5281/zenodo.18728582
Rodney Manyakaidze
Immaculata University
Building similarity graph...
Analyzing shared references across papers
Loading...