Theoretische Neurowissenschaften

Unsere Gruppe arbeitet derzeit an drei großen Forschungslinien:

1. Theoretisches und wissenschaftliches maschinelles Lernen

Wir arbeiten an Modellen und Trainingsalgorithmen für die Rekonstruktion dynamischer Systeme (DSR) und die Zeitreihenanalyse sowie an deren theoretisch-mathematischen Grundlagen (die Arbeit wird durch verschiedene DFG-Einzelstipendien und im Rahmen von Exzellenzclustern unterstützt).

Unser wichtigstes theoretisches Arbeitspferd ist die Theorie dynamischer Systeme, ein allgemeiner und schöner mathematischer Rahmen für die Analyse jedes (natürlichen oder technischen) Prozesses, der sich in Zeit und Raum entwickelt und den wir in der Wissenschaft normalerweise durch Systeme von Differential- oder Rekursionsgleichungen beschreiben. Mit der Rekonstruktion dynamischer Systeme meinen wir Deep-Learning-Algorithmen, die ein generatives Modell der dynamischen Prozesse oder Gleichungen ableiten, die den beobachteten Daten zugrunde liegen. In gewisser Weise geht es darum, den wissenschaftlichen Entdeckungsprozess zu automatisieren: Anstatt sich auf Zyklen menschlicher Einsicht und Intuition zu verlassen, um mathematische Modelle der Welt zu entwerfen und nach experimentellen Tests iterativ zu verfeinern, besteht unsere Idee darin, solche Modelle direkt und automatisch aus beobachteten Zeitreihen und anderen Datenquellen abzuleiten.

Wir nennen diese Klasse von Modellen "Neural Flow Operators (NFOs)", da die zentrale Idee dahinter die Annäherung an den Flow-Operator (Lösungsoperator) des zugrunde liegenden dynamischen Systems ist. In den letzten Jahren haben wir auf der Grundlage theoretischer Erkenntnisse hochmoderne Trainingsalgorithmen und -modelle entwickelt, die selbst bei anspruchsvollen, verrauschten, nicht-stationären, hochdimensionalen empirischen Daten (wie multivariaten physiologischen Aufzeichnungen jeglicher Art oder Verhaltensdaten) hervorragende Leistungen erbringen, z. B. Schmidt et al. (2021), Brenner et al. (2022), Mikhaeil et al. (2022), Hess et al. (2023).

Gegenwärtig machen wir Fortschritte in den folgenden Richtungen:

• Modelle, die interpretierbar und mathematisch nachvollziehbar sind, und Algorithmen, die automatisch dynamisch (wissenschaftlich) relevante Strukturen aus trainierten NFO/DSR-Modellen abrufen (z.B. verschiedene Attraktorzustände), z.B. Monfared & Durstewitz (2020), Eisenmann et al. (2023).
• Multimodale Datenintegration in NFO/DSR-Modelle, d.h. wenn mehrere Datenströme mit unterschiedlichen statistischen Eigenschaften (z.B. Spike-Zählungen und Verhaltenskategorien) gleichzeitig für das Modelltraining zur Verfügung stehen, oder wenn die beobachteten Zufallsvariablen diskret und nicht-gaußverteilt sind (z.B. Punktprozesse), z.B. Kramer et al. (2022), Brenner et al. (2022).
• Nicht-autonome NFO/DSR-Modelle zur Antizipation von Kipp-Punkten und zur Vorhersage der Dynamik nach dem Kipp-Punkt.

Neben diesem Schwerpunkt haben wir in der Vergangenheit auch an vielen spezifischeren ML-Algorithmen für die Zeitreihenanalyse gearbeitet, z. B. für die effiziente Erkennung und statistische Prüfung von räumlich-zeitlichen Mustern (Russo & Durstewitz, 2017) oder von Veränderungspunkten (Toutounji & Durstewitz, 2018) in multivariaten Zeitreihen.

2. Anwendungen in den Neurowissenschaften und Neuro-AI

Wir nutzen unsere methodischen Werkzeuge, um zusammen mit vielen experimentellen Partnern (insbesondere im Rahmen des DFG FOR-5159) den neuronalen Code, die Sprache des Gehirns und die neuronalen Berechnungen zu untersuchen, die der Leistung bei verschiedenen Aufgaben und dem Verhalten zugrunde liegen. NFO/DSR-Modelle können verwendet werden, um direkt aus Multi-Einzelzellableitungen, Ca2+-Bildgebung oder fMRI-Daten, möglicherweise in Kombination mit Verhalten, dynamische Modelle der zugrundeliegenden Berechnungsprozesse abzuleiten, die dann mathematisch analysiert, gestört oder simuliert werden können, um wissenschaftliche Erkenntnisse zu gewinnen (z.B. Durstewitz 2017, Koppe et al. 2019, Kramer et al. 2021, Durstewitz et al. 2023).

Unser besonderes Interesse gilt dem präfrontalen Kortex und den Interaktionen zwischen Präfrontal- und Hippocampus (z. B. Domanski et al. 2023) beim Langzeitarbeitsgedächtnis, beim Lernen und Abrufen von Sequenzen und bei Aufmerksamkeitsprozessen, da dies Kernprozesse sind, von denen man annimmt, dass sie auch für die beeindruckende Leistung von Transformers, großen Sprachmodellen oder modernen rekurrenten neuronalen Netzen und Zustandsraummodellen entscheidend sind und somit das Potenzial haben, verbesserte KI-Designs zu inspirieren. Ein weiterer Bereich der neurowissenschaftlichen Forschung mit potenziell großen Auswirkungen auf die KI ist das verhaltensorientierte Strategielernen: Wir untersuchen die Prozesse, die Tiere dazu veranlassen, systematisch verschiedene Verhaltensstrategien zu erproben und zu erforschen, wenn sich Umweltbedingungen ändern oder neue Aufgabenkontexte zum ersten Mal angetroffen werden (Durstewitz et al. 2010, Russo et al. 2021, Bähner et al. 2022). Wir haben beobachtet, dass Nagetiere systematisch verschiedene Verhaltenshypothesen testen und plötzliche Leistungssprünge zeigen, wenn sich die Aufgabenkontexte ändern, anstatt sich allmählich zu verbessern. Dies sind Ergebnisse, die mit standardmäßigen Verstärkungslernalgorithmen unvereinbar und nicht reproduzierbar sind. Wir hoffen, auf der Grundlage dieser Erkenntnisse neue KI-Lernalgorithmen entwickeln zu können.

3. Anwendungen in der (psychischen) Gesundheit

In Zusammenarbeit mit Gruppen am Zentralinstitut für Seelische Gesundheit in Mannheim (insbesondere der Abteilung für Public Mental Health unter der Leitung von Prof. Ulrich Reininghaus) und internationalen Partnern arbeiten wir an verschiedenen Problemen, die für die Psychiatrie und die Prävention psychischer Erkrankungen relevant sind. Eine Reihe von Projekten im Rahmen des DFG TRR-265 zur Drogensucht, des europäischen Konsortiums IMMERSE und eines AI Living Labs zur Prävention psychischer Erkrankungen bei jungen Erwachsenen beschäftigt sich mit der Vorhersage von Verhaltenstrajektorien aus mobilen Daten und Ecological Momentary Assessments (EMAs; z.B. Durstewitz et al. 2019, Fechtelpeter et al. 2023). Dies dient dazu, maladaptive Verhaltensmuster zu identifizieren bzw. Kipppunkte in Richtung eines solchen Verhaltens vorherzusagen und den Probanden ein entsprechendes Feedback zu geben oder in Regelkreisen mit den Probanden aus einem Repertoire von Bewältigungsstrategien optimale Interventionsn (Ecological Momentary Interventions, EMI) auszuwählen.

Andere Projekte befassen sich mit der Diagnose und Verfeinerung psychiatrischer und neurologischer Erkrankungen (z.B. Thome et al. 2022, Durstewitz et al. 2021) auf der Grundlage von dynamischen Systemmerkmalen, die aus Neuroimaging-Daten extrahiert werden (teilweise zusammen mit der Gruppe von Prof. Emanuel Schwarz), mit der Vorhersage von Kipppunkten in Richtung Sepsis bei Patienten auf Intensivstationen (zusammen mit Prof. Verena Schneider-Lindner; im Rahmen des AI Health Innovation Clusters) oder mit der Ableitung dynamischer Signaturen der Narkosetiefe aus elektrophysiologischen Aufzeichnungen und Ca2+-Bildgebung (mit Prof. Simon Wiegert im Rahmen des AI Health Innovation Clusters). Verena Schneider-Lindner; im Rahmen des AI Health Innovation Clusters), oder die Ableitung dynamischer Signaturen der Narkosetiefe aus elektrophysiologischen Aufzeichnungen und Ca2+-Bildgebung (mit Prof. Simon Wiegert im Rahmen des AI Health Innovation Clusters), alle basierend auf unseren NFO/DSR-Architekturen.