L’informatique sociale pour une IA plus équitable
Les algorithmes façonnent de plus en plus nos interactions en ligne, influençant recommandations, travail collaboratif et accès à l’information. Pourtant, ces systèmes amplifient parfois des biais et réduisent la diversité des contenus proposés. Les avancées actuelles en informatique sociale et en intelligence artificielle permettent aujourd’hui de concilier performance, algorithmique et équité.
À l’interface entre ingénierie des données et informatique sociale, Sihem Amer-Yahia, directrice de recherche CNRS et directrice adjointe du Laboratoire d'informatique de Grenoble (LIG - CNRS/Université Grenoble Alpes), s’intéresse à la modélisation du comportement humain en informatique. L’informatique sociale est omniprésente dans notre quotidien : des algorithmes de recommandations à l’utilisation de l’IA en éducation.
Lauréate du prix IEEE TCDE Impact Award 2024, Sihem Amer-Yahia se concentre sur le traitement des données à grande échelle afin de créer des systèmes fiables de gestion de données alimentés par l'IA. Ainsi, des algorithmes évolutifs ont été développés pour analyser les signaux communautaires sur internet et optimiser les recommandations en tenant compte des préférences de différents groupes. Cela signifie que divers groupes de personnes bénéficient conjointement des recommandations : ce sont les recommandations de groupe. Ces premiers résultats ouvrent aujourd’hui la voie vers de nouvelles recherches sur la diversité et l'équité dans les systèmes de recommandation, ainsi qu’à des applications plus inattendues comme le crowdsourcing.
Le crowdsourcing repose sur la collaboration d’un grand nombre de personnes via des plateformes numériques pour accomplir de petites tâches. Ce modèle est souvent utilisé dans la classification de données, la traduction ou encore l’annotation d’images, reposant sur la participation de personnes qui effectuent des micro-tâches via des plateformes en ligne. L’intégration de principes d’équité est donc essentielle pour assurer une répartition plus juste des tâches et des rémunérations. Ainsi, de nouveaux modèles d’attribution des tâches visant à garantir une meilleure répartition des opportunités et une protection accrue des contributeurs et contributrices face aux décisions algorithmiques ont été développés par l’équipe du LIG.
L’informatique sociale part également à la rencontre des sciences de l’éducation, via notamment la création en janvier 2023 du réseau EDUC’ACTION en France pour étudier l’éthique des applications de l’IA Education (AIED) au sein du Groupement de recherche (GDR) Masses de données, informations et connaissances en sciences (MaDICS) du CNRS. L’objectif ? Développer des bases de données et des tests d'hypothèses via des requêtes sur les prédictions pour permettre aux apprenantes et apprenants de mieux appréhender les risques et les opportunités sur les plateformes éducatives ainsi que des recommandations de parcours conformes aux dernières pédagogies en sciences de l'éducation.
L’intégration des principes de diversité et d’inclusion dans le développement des algorithmes est aujourd’hui une priorité. Des initiatives émergent pour sensibiliser la communauté scientifique et améliorer la représentation des minorités dans la recherche en bases de données. Ces efforts se traduisent par des chartes éthiques et des sessions dédiées lors de conférences internationales.
En intégrant les enjeux sociétaux dans leur conception, les algorithmes issus de l’informatique sociale ouvrent la voie à des systèmes plus responsables. L’enjeu est de taille : faire en sorte que l’IA ne soit pas seulement performante, mais qu’elle contribue activement à une société plus équitable.