Code et crédits : 5MS32, 18 ECTS
Période : septembre à décembre

Cours 1 : Apprentissage statistique

Responsable : G. Biau
Contact : gerard.biau@upmc.fr
Objectif : ce cours présente les grands principes de l'apprentissage statistique et les problématiques liées.
Prérequis : notions fondamentales de probabilités et statistique.

1. Introduction au problème de la classification supervisée
2. Principe de minimisation du risque empirique, théorie de Vapnik-Chervonenkis
3. Bornes de performance, pertes convexes, sélection de modèle
4. Classification non paramétrique, théorème de Stone, plus proches voisins, arbres
5. Classification par réseaux neuronaux
6. Quantification et clustering

Cours 2 : Réduction de dimension et apprentissage non-supervisé

Responsable : M. Sangnier
Contact : maxime.sangnier@upmc.fr
Objectif : ce cours présente les principales méthodes d'exploration et d'analyse de données, de réduction de dimension et d'apprentissage non-supervisé. Il introduit aussi les méthodes semi-supervisées ainsi qu'une vision numérique de l'apprentissage supervisé. Ce cours sera illustré par de nombreux travaux pratiques (en Python) ainsi que par un challenge en science des données.
Prérequis : notions fondamentales de probabilités et statistique, algèbre linéaire, calcul scientifique en Python.

1. Réduction de dimension et visualisation de données : décomposition en valeurs singulières, ACP, MDS, ISOMAP
2. Apprentissage non-supervisé : classification hiérarchique, K-means, modèles de mélange gaussiens, clustering spectral
3. Apprentissage semi-supervisé : induction/transduction, méthodes de faible densité, de graphes, de variétés, changement de représentation
4. Apprentissage supervisé : algorithmes et approches numériques
5. Page web du cours
   

Cours 3 : Théorèmes limites

Responsable : O. Lopez
Contact : olivier.lopez0@upmc.fr
Objectif : acquérir les méthodes fondamentales utilisées pour déterminer la convergence et la loi asymptotique d’estimateurs.
Prérequis : notions fondamentales de probabilités et statistique.

1. Fonction de répartition empirique
2. Théorèmes limites fonctionnels
3. Mesures de complexité
4. Application à l’estimation paramétrique
5. Estimation non-paramétrique
6. Introduction à l’estimation semi-paramétrique
7. Page web du cours

Cours 4 : Méthodes Monte-Carlo

Responsable : A. Guyader
Contact : arnaud.guyader@upmc.fr
Objectif : introduire et appliquer les principales méthodes Monte-Carlo.
Prérequis : notions fondamentales de probabilités et statistique, logiciel R.

1. Génération de variables aléatoires
2. Intégration Monte-Carlo
3. Monte-Carlo par Chaînes de Markov
4. Page web du cours