IA et incertitude, une nouvelle chaire IUF pour Thierry Denœux

Les systèmes d’intelligence artificielle (IA) n’y échappent pas, il faut parfois se décider sans disposer de données fiables. Professeur à l’Université de technologie de Compiègne et membre du laboratoire Heuristique et diagnostic des systèmes complexes (Heudiasyc - CNRS/Université de technologie de Compiègne ), Thierry Denœux travaille depuis plus de trois décennies sur la modélisation de l’incertitude pour les sciences de l’ingénieur et l’intelligence artificielle.

« Je m’intéresse tout particulièrement à la fusion d’informations, à la propagation des incertitudes dans les modèles et à leur quantification en apprentissage statistique, explique celui qui a par ailleurs dirigé le Laboratoire d’excellence Maîtrise des systèmes de systèmes technologiques (Labex MS2T – CNRS/Université de technologie de Compiègne). Nous devons, par exemple, souvent combiner des données issues de sources imparfaites, comme des avis d’experts ou des mesures provenant de capteurs différents ». Pour cela, Thierry Denœux a contribué au développement de la théorie des fonctions de croyance, aussi appelée théorie de Dempster-Shafer. Cette extension de la théorie des probabilités permet de raisonner et de prendre des décisions en présence de fortes incertitudes.

Dans le cas de l’apprentissage automatique, les incertitudes sont réparties en deux grandes catégories. L’incertitude aléatoire est due au fait que les entrées d’un système d’apprentissage ne peuvent pas décrire complètement un objet ou une situation, ce qui rend toute prédiction exacte impossible, même en supposant une quantité infinie de données. L’incertitude épistémique provient quant à elle de la nécessité de généraliser à de nouveaux exemples une règle apprise à partir d’un échantillon de taille finie.

« La qualité des données doit également être prise en compte, poursuit Thierry Denœux. Leur étiquetage, c’est-à-dire l’attribution de catégories descriptives, peut être ambigu. Pour les systèmes de véhicules autonomes, par exemple, certaines catégories proches telles que “camions” et “bus” ne sont pas toujours distinguées dans les données d’apprentissage. Il faut aussi prendre en compte les mesures imparfaites, voire erronées, et la possibilité de rencontrer un cas de figure non prévu lors de l’apprentissage, comme croiser un convoi exceptionnel sur une route. »

Si ses travaux sont surtout théoriques, Thierry Denœux a aussi mené des recherches dans des domaines où la maîtrise des incertitudes est cruciale. Avec Su Ruan, professeure à l’Université de Rouen Normandie et membre du laboratoire d’informatique, du traitement de l’information et des systèmes (LITIS - Université de Rouen Normandie/INSA Rouen Normandie/Université du Havre Normandie), il a exploré le traitement automatique d’images médicales pour la segmentation de tumeurs et il commence un nouveau projet sur la prédiction de l’espérance de vie de patients à partir de données médicales. À Heudiasyc, laboratoire très orienté sur la robotique et les transports, il a travaillé sur la perception pour les véhicules autonomes. Il a notamment contribué à des travaux sur la fusion distribuée d’informations issues de véhicules communiquant entre eux et avec l’infrastructure routière.

En 2019, Thierry Denœux a obtenu une chaire fondamentale senior à l’Institut universitaire de France (IUF). Pendant les cinq années de sa délégation, il a développé une généralisation de la théorie des fonctions de croyance. Il est parvenu à l’unifier avec la théorie des possibilités pour mieux prendre en compte et quantifier les incertitudes, aléatoires comme épistémiques, dans le cadre de l’inférence statistique et de l’apprentissage automatique.

Forte de son succès, cette chaire IUF a été renouvelée cette année. Thierry Denœux va ainsi pouvoir poursuivre ses travaux théoriques et les appliquer à de nouveaux problèmes de fusion d’informations et de propagation de l’incertitude. Il va également adapter ses approches afin qu’elles continuent de fonctionner efficacement quand elles sont employées sur des modèles comportant un très grand nombre de variables, ce qui est le cas dans beaucoup de problèmes réels. Ces avancées seront essentielles pour améliorer la gestion de l’incertitude dans les algorithmes et autres systèmes d’intelligence artificielle.