Les réseaux des neurones profonds montrent de plus en plus un potentiel important dans la résolution des uses cases notamment celles de traitement des images. La compréhension du fonctionnement d’apprentissage de ces modèles permet d’améliorer leur performance et de présenter de nouvelles architectures plus performantes.
De nombreuses recherches ont traité l’interprétabilité des réseaux de neurones, et permettent de mieux expliquer les Black Box.
Le but de cette session est d’abord de comprendre le mécanisme de détection des paternes pour la reconnaissance d’image, avant d’ensuite expliquer le rôle des Layer et des neurones au sein des Deep models. Une partie est prévue pour la construction d’un réseau CNN, avec la présentation de Captum Library qui présentent un ensemble des fonctions qui permettent l’interprétabilité des réseaux de neurones.