Over de leerstoel

De leerstoel Cognitieve Neurobiologie, in het bijzonder Computational Neuroscience, richt zich op computationele modellen van neurale systemen met een duidelijk biologisch-realistische inslag.

Het onderzoek binnen deze bijzondere leerstoel spitst zich toe op het raakvlak van neurowetenschappen en AI, ook wel te plaatsen als "Biologisch Plausibele Deep Learning". Dit in de context van paradigma’s als reinforcement learning, predictive coding, spiking neural networks, local learning, working memory, en feedback-gated attention.

Een voorbeeld is van dit onderzoek binnen deze leerstoel is het werk dat laat zien hoe biologisch plausibele modellen van predictive coding kunnen worden opgeschaald naar grotere netwerken¹ , naar dynamische stimuli², en naar netwerken van spiking  neuronen³. Met deze innovaties is het computationele model van predictive coding te relateren aan diverse experimentele datasets.

Biologische geïnspireerde spiking neural networks vinden in toenemende mate toepassing in AI in de vorm van "neuromorphic computing": doordat, net als in de biologie, spiking neuronen slecht spaarzaam met "1"-en communiceren, kunnen ze zeer energiezuinig hun werk doen. Mogelijke toepassingen variëren van slimme drones tot medische implantaten. Recent werk⁴ heeft laten zien hoe zeer grote spiking neurale netwerken bestaande uit spiking neuronen sterk geinspireerd op de pyrimidaal neuronen in de hersenen in staat zijn om complexe percepuele taken uit te voeren.

Figuur 1 Modellen van spiking neuronen. Links: eenvoudig Leaky-Integrate-and-Fire neuron. Rechts: Multi-compartment Spiking Neuron met dynamische tijdsconstante. Uit [4].

De komende jaren zal dit onderzoek worden doorgezet in de richting van grootschalige cognitieve modellen, rond paradigma's als self-supervised learning en human alignment. Daarnaast zullen we nadrukkelijk onderzoeken hoe neuronen, specifiek spiking neuronen, het mogelijk maken om met onzekerheid te rekenen, ook binnen het lopende NWA project "Acting Under Uncertainty".

Een voorbeeld hiervan zijn modellen die in staat zijn om te leren hoe sensorische informatie geïntegreerd en getransformeerd moeten worden tot effectieve acties; een ander voorbeeld zijn neurale netwerkmodellen die energiezuinig zijn door efficiënt te communiceren, zoals neuronen dat in het brein doen.

Daarnaast wil Bohté het onderwijs op het raakvlak tussen machine learning en neuroscience versterken en uitbreiden, om studenten wiskunde- en informaticavaardigheden te leren combineren met biologisch plausibele hersenmodellen.

[1] Dora, Shirin, Sander M. Bohte, and Cyriel MA Pennartz. "Deep gated Hebbian predictive coding accounts for emergence of complex neural response properties along the visual cortical hierarchy." Frontiers in Computational Neuroscience 15 (2021): 666131.
[2] Brucklacher, M., Bohte, S. M., Mejias, J. F., & Pennartz, C. M. (2022). Local minimization of prediction errors drives learning of invariant object representations in a generative network model of visual perception. bioRxiv, 2022-07.
[3] Lee, Kwangjun, Shirin Dora, Jorge Mejias, Sander Bohte, and Cyriel Pennartz. "Predictive coding with spiking neurons and feedforward gist signalling." bioRxiv (2023): 2023-04.
[4] Yin, Bojian, Federico Corradi, and Sander M. Bohté. "Accurate online training of dynamical spiking neural networks through Forward Propagation Through Time." Nature Machine Intelligence (2023): 1-10.