Rechen-effiziente Ära: Eine umfassende Übersicht über Zustandsraummodelle in der medizinischen Bildanalyse

Sequenzmodellierung spielt eine entscheidende Rolle in verschiedenen Bereichen, wobei rekurrente neuronale Netze historisch die vorherrschende Methode zur Durchführung dieser Aufgaben waren. Das Aufkommen von Transformern hat dieses Paradigma jedoch aufgrund ihrer überlegenen Leistung verändert. Aufbauend auf diesen Fortschritten haben sich Transformer und CNNs als zwei führende grundlegende Modelle für das Erlernen visueller Repräsentationen zusammengefunden. Transformer werden jedoch durch die O(N²)-Komplexität ihrer Aufmerksamkeitsmechanismen eingeschränkt, während CNNs keine globalen rezeptiven Felder und keine dynamische Gewichtszuteilung besitzen. Zustandsraummodelle (SSMs), insbesondere das Mamba-Modell mit Selektionsmechanismen und hardwarebewusster Architektur, haben in letzter Zeit starkes Interesse im Bereich der sequenziellen Modellierung und des Lernens visueller Repräsentationen erlangt und fordern die Dominanz der Transformer heraus, indem sie unendliche Kontextlängen bereitstellen und erhebliche Effizienz bei linearer Komplexität der Eingabesequenz bieten. Aufbauend auf den Fortschritten in der Computer Vision hat die medizinische Bildgebung eine neue Epoche mit Mamba-Modellen eingeleitet. Um Forschern bei der Navigation durch diesen Aufschwung zu helfen, bietet diese Untersuchung eine enzyklopädische Übersicht über Mamba-Modelle in der medizinischen Bildgebung. Konkret beginnen wir mit einer umfassenden theoretischen Überprüfung, die die Grundlage der SSMs bildet, einschließlich der Mamba-Architektur und ihrer Alternativen für Sequenzmodellierungsparadigmen in diesem Kontext. Anschließend bieten wir eine strukturierte Klassifikation der Mamba-Modelle im medizinischen Bereich und führen ein vielfältiges Kategorisierungsschema basierend auf Anwendung, Bildgebungsmodalitäten und Zielorganen ein. Abschließend fassen wir die wichtigsten Herausforderungen zusammen, diskutieren verschiedene zukünftige Forschungsrichtungen der SSMs im medizinischen Bereich und schlagen mehrere Richtungen vor, um den Anforderungen dieses Gebiets gerecht zu werden. Darüber hinaus haben wir die in diesem Artikel diskutierten Studien zusammen mit ihren Open-Source-Implementierungen in unserem GitHub-Repository zusammengestellt.