Induktive Verzerrung im Vision Transformer zur EEG-Klassifikation hervorrufen

Menschliche Gehirnsignale sind von Natur aus hochkomplex und dynamisch. Elektroenzephalogramm (EEG)-Geräte erfassen einen Teil dieser Komplexität sowohl räumlich als auch zeitlich mit einer bestimmten Auflösung. Kürzlich wurden transformer-basierte Modelle in verschiedenen Anwendungen mit unterschiedlichen Datenmodalitäten untersucht. In dieser Arbeit stellen wir ein transformer-basiertes Modell zur Klassifikation von EEG-Signalen vor, inspiriert von dem jüngsten Erfolg des Vision Transformer (ViT) in der Bildklassifikation. Getrieben von den charakteristischen Merkmalen der EEG-Daten entwerfen wir ein Modul, das es uns ermöglicht, (1) spatio-temporale Tokens, die den EEG-Signalen innewohnen, zu extrahieren, und (2) zusätzliche Nichtlinearitäten zu integrieren, um komplexe und nichtlineare Muster in EEG-Signalen zu erfassen. Zu diesem Zweck führen wir eine neue leichte architektonische Komponente ein, die unser vorgeschlagenes Aufmerksamkeitsmodell mit Faltung kombiniert. Dieses konvolutionale Tokenisierungsmodul bildet die Grundlage unseres Vision-Backbones, der als Brain Signal Vision Transformer (BSVT) bezeichnet wird. Diese Architektur berücksichtigt die räumlichen und zeitlichen Merkmale in EEG-Datensätzen, was zu Token-Einbettungen führt, die die Fusion von räumlich-zeitlichen Informationen effektiv erfassen. Darüber hinaus zeigen wir, dass unsere Kombination aus der inhärenten inductive bias von Convolutional Neural Networks (CNN) mit dem Transformer eine effiziente Schulung von Grund auf mit relativ kleinen Datensätzen ermöglicht, mit nur etwa 0,75 Millionen Parametern. Auf dem öffentlich verfügbaren EEG-Datensatz vom Temple University Hospital (TUH Abnormal) erzielt unser Modell Ergebnisse, die mit seinem ViT-Gegenstück mit Patchify-Stamm vergleichbar oder überlegen sind. Die Implementierung ist verfügbar unter https://github.com/IamRabin/BSVT.git