Le champ de l’Explainable AI : des machines pour expliquer les machines ?

Résumé

L’avènement des réseaux de neurones en apprentissage machine a opéré un changement de paradigme dans de nombreux domaines, des sciences appliquées aux usages de la vie de tous les jours. Nous sommes désormais en interaction quotidienne avec des réseaux de neurones : sur nos smartphones, en naviguant sur internet ou bien par la présence d’objets connectés.

Néanmoins, leur fonctionnement interne demeure assez obscur, y compris pour les communautés qui les développent, et il est généralement admis qu’il n’existe à l’heure actuelle pas de formalisme mathématique satisfaisant pour décrire leur processus d’apprentissage. Pourtant, une compréhension sur le plan des mathématiques seules serait-elle suffisante? Étant donné l’immense impact de ces technologies en dehors des laboratoires, un nouvel impératif (fondé sur différentes dimensions sociales, légales, économiques) apparaît : il faut produire des explications des résultats des réseaux de neurones pour les usager·ère·s.

Dans cette présentation, Nicolas Berkouk proposera une analyse préliminaire des réponses apportées à cette question par la recherche en Explainable AI, tout en discutant les conditions dans lequel ce très jeune champ s’est constitué.

• Places limitées à 15 dans la salle : inscriptions via ce formulaire.
• Pass Covid obligatoire.
• Lien zoom : https://unil.zoom.us/j/95790667537.