Explainable AI : Pourquoi on doit faire confiance au Black Box ?
Conference (INTERMEDIATE level)
L'oranger
Les modèles d’IA comme les réseaux des neurones profonds, sont souvent considérés comme
des « boîtes noires » car leurs processus décisionnels ne sont pas facilement interprétables. Ce
manque de transparence peut être problématique, en particulier dans des applications critiques
telles que les systèmes de santé, financiers et juridiques, où il est crucial de comprendre la
justification d'une décision.
Cette session a pour but d’ouvrir ces boîtes noires avec Explainable AI (XAI), qui vise à les
transformer en systèmes plus transparents en fournissant des informations sur les
caractéristiques ou concepts clés qui influencent les résultats d'un modèle, permettent ainsi
aux humains de comprendre et de faire confiance aux décisions des modèles de l’IA, et aussi
d’identifier les biais dans ces modèles.
Une partie sera dédiée sur les outils d’explicabilité comme la bibliothèque Captum qui
comprend une panoplie des fonctions permettant d’expliquer les réseaux des neurones et les
systèmes IA.
des « boîtes noires » car leurs processus décisionnels ne sont pas facilement interprétables. Ce
manque de transparence peut être problématique, en particulier dans des applications critiques
telles que les systèmes de santé, financiers et juridiques, où il est crucial de comprendre la
justification d'une décision.
Cette session a pour but d’ouvrir ces boîtes noires avec Explainable AI (XAI), qui vise à les
transformer en systèmes plus transparents en fournissant des informations sur les
caractéristiques ou concepts clés qui influencent les résultats d'un modèle, permettent ainsi
aux humains de comprendre et de faire confiance aux décisions des modèles de l’IA, et aussi
d’identifier les biais dans ces modèles.
Une partie sera dédiée sur les outils d’explicabilité comme la bibliothèque Captum qui
comprend une panoplie des fonctions permettant d’expliquer les réseaux des neurones et les
systèmes IA.