Introduction au deep learning

Ce cours a pour objectif d'introduire les notions fondamentales qui sont à la base de l'apprentissage automatique, et plus particulièrement de l'apprentissage profond. Un second objectif est de familiariser les élèves avec les bibliothèques numpy et pytorch de python, largement utilisées dans l'académie et l'industrie pour l'apprentissage automatique.

Cette matière se décline sous la forme d’une séance de cours (CM) suivie de trois séances de cours-TP (CTP) combinant l’exposition des concepts à des exemples pratiques sur jupyter. La séance CM fournit les éléments de base pour comprendre l’apprentissage automatique (données, hypothèses, risque statistique, risque empirique, fonction de perte, ...), et en particulier le paradigme d’apprentissage supervisé, sur lequel se focalise ce cours. Ensuite, la première séance CTP permet la prise en main de numpy avec une implémentation d’une couche classique (MLP) d’un modèle d’apprentissage profond (réseau de neurones), et de son entraînement. Le deuxième CTP se focalise sur l’entraînement d’un modèle profond, les techniques de régularisation et leur lien avec la capacité de généralisation du modèle. Nous introduisons dans le troisième CTP les réseaux de neurones convolutifs (CNN) et leur motivation, ainsi que leur implémentation en pytorch.

·        algèbre linéaire et analyse matricielle (dérivées d’une function multivariée)

·        optimisation (descente du gradient)

·        probabilités et statistiques

·        traitement du signal (convolution, filtres linéaires)

-        programmation en python