L’informatique neuromorphique en quête d’un calcul plus efficace en ressources

Résultats scientifiques Informatique

Inspirée du fonctionnement du cerveau, l’informatique neuromorphique explore de nouvelles architectures de calcul. Ioana Vatajelu, chargée de recherche CNRS au laboratoire Techniques de l’informatique et de la microélectronique pour l’architecture des systèmes intégrés (TIMA - CNRS/Université Grenoble Alpes), a publié un état des lieux de la recherche sur la question, avec des chercheurs du CNRS à l'Institut des Nanotechnologies de Lyon, des universités de Lyon et de Grenoble, du CEA, de l’École centrale de Lyon, de l’École polytechnique de Turin (Italie), de Ghent University et des Hewlett Packard Labs (Belgique). Ces travaux ont été présentés lors d’un symposium de l’Institut des ingénieurs électriciens et électroniciens (IEEE).

Quelle est votre approche de l’informatique neuromorphique ?

Ioana Vatajelu - Je m’intéresse à des méthodes de calcul bioinspirées capables de s’attaquer à de petits problèmes, à leur implémentation matérielle ainsi qu’à l’étude de leur fiabilité. J’aime m’éloigner un peu du monde très populaire des réseaux de neurones profonds, qui n’offrent pas toujours les solutions les plus efficaces en termes de ressources matérielles et énergétiques. Mes travaux tournent notamment autour de réseaux où il n’y a plus vraiment de différence entre les parties dédiées au calcul et celles consacrées à la mémoire.

Pour cela, je conçois des réseaux matériels, analogiques ou numériques, inspirés du cerveau. Il s’agit principalement de réseaux de neurones à impulsions, ou SNN pour Spiking neural networks. Alors que les réseaux de neurones profonds calculent en permanence lorsqu’ils interprètent une image, les SNN ne transmettent un signal, le spike, qu’en présence d’un changement ou d’une nouvelle activité.

Je travaille sur des réseaux à base de composants électroniques classiques de type CMOS et memristor, mais aussi avec de la photonique. Dans tous les cas, j’essaye de les rendre plus précis, fiables et efficaces dès leur conception, voire à des étapes encore plus en amont.

Quelles sont les applications des SNN ?

I.V. : Ces réseaux bioinspirés sont très adaptés au traitement de signaux biologiques : les SNN sont utilisés avec succès pour la reconnaissance de sons. Ils identifient par exemple les chiffres prononcés, mais aussi la personne qui les récite. Dans la même lignée, ils lisent bien les nombres écrits à la main. Ils sont également très efficaces pour repérer les changements soudains et les anomalies sur des images de caméras de surveillance. Dans le cadre du projet européen Neuropuls, nous envisageons d’ailleurs de tester ces systèmes pour la détection d’anomalies en temps réel pour la sécurité des réseaux mais nous n’en sommes pas encore là.

Qu’est-ce que le projet Neuropuls ?

I.V. : Lancé en début d’année, Neuropuls est un projet ambitieux et interdisciplinaire qui réunit quinze partenaires académiques et industriels européens et qui est porté par le CNRS, via Fabio Pavanello, chargé de recherche CNRS à l'Institut de Microélectronique Électromagnétisme Photonique & LAboratoire d'Hyperfréquences & de Caractérisation (IMEP-LaHC - CNRS/Université Grenoble Alpes/Université Savoie Mont-Blanc). Il vise à réaliser un nœud de calcul sur réseau photonique bioinspiré, adapté à l’internet des objets. Il sera connecté à de plus gros réseaux afin de parvenir à résoudre des problèmes pour l’instant réservés aux réseaux de neurones profonds. L’accent est mis sur la sécurité et sur une faible consommation énergétique.

Le développement de ces accélérateurs s'appuiera sur des matériaux émergents non volatils, de nouvelles conceptions photoniques pour les architectures de calcul, et les primitives de sécurité, ainsi que sur des interfaces basées sur RISC-V et des couches de sécurité HW/SW.

Vous avez récemment co-écrit un article faisant le point sur les dernières avancées de l’informatique neuromorphique. Quelles en sont les grandes lignes ?

I.V. : Il est partagé en trois parties, qui forment autant d’idées principales. D’abord, nous y décrivons comment les réseaux photoniques peuvent être utilisés dans l’informatique neuromorphique, où ils réduisent les pertes d’énergie. Ensuite, nous expliquons l’implémentation de SNN sur des Circuits intégrés prédiffusés programmables (FPGA), un type de puces électroniques aujourd’hui largement disponibles. Polytechnique Turin s’est spécialisée dans leur emploi en informatique neuromorphique.

Enfin, nous discutons dans l’article des différentes méthodes d’apprentissage disponibles avec les SNN, car cette technique en offre une grande variété. Il faut donc savoir choisir la solution la plus adaptée à chaque nouvelle situation, en fonction de leur fiabilité et de leur précision.

Quels sont les verrous majeurs que la recherche en informatique neuromorphique doit surmonter ?

I.V. : Dans les SNN, tous les neurones doivent être connectés à toutes les synapses. Ce principe offre une grande puissance de calcul, mais, lors de son implémentation matérielle, il provoque une importante détérioration du signal. Celle-ci freine la mise à l’échelle des SNN afin qu’ils puissent s’attaquer à des problèmes aussi complexes que ceux que traitent les réseaux de neurones profonds.

Le choix des différentes formes d’apprentissages et le développement de nouvelles stratégies en SNN est également une question épineuse. Pour l’instant, les solutions les plus efficaces au niveau du temps de calcul ne sont généralement pas bio-inspirées et consomment beaucoup d’énergie.

Publication

Pavanello, Fabio, Elena Ioana Vatajelu, Alberto Bosio, Thomas Van Vaerenbergh, Peter Bienstman, Benoit Charbonnier, Alessio Carpegna, Stefano Di Carlo, and Alessandro Savino. Special Session: Neuromorphic hardware design and reliability from traditional CMOS to emerging technologies, IEEE 41st VLSI Test Symposium (VTS), 2023.

Contact

Elena Ioana Vatajelu
Chargée de recherche CNRS au TIMA