MATH80629

Prérequis

Calendrier

Évaluation

Soutien

Référence

---

1- Séance 1 (le 30 Août): Introduction au cours et rappels mathématiques

• Lecture:
  • Diapos
  • Lecture obligatoire:Prologue to The Master Algorithm
  • Lecture suggérée:
    • Chapitre 1 de ESL
    • Rappel d’algèbre linéaire
    • Rappel de probabilité

---

2- Séance 2 (le 6 Septembre): Les fondements de l’apprentissage automatiques

• Capsules:
  • Diapos
  • Learning Problem [14:40]
  • Types of Experiences [13:15]
  • A first Supervised Model [8:03]
  • Model Evaluation [15:26]
  • Regularization [4:09]
  • Model Validation [3:08]
  • Bias / Variance tradeoff [11:50]
• Lecture obligatoire::
  • Chapter 5 of Deep Learning. You can skip 5.4 (except 5.4.4) to 5.10.
• Matériel pour la classe::
  • Résumé.
  • Exercices,
  • Solution

---

3- Séance 3 (le 13 Septembre): Modèles d’apprentissage supervisé

• Capsules:
  • Diapos
  • Nearest Neighbor [19:05]
  • Linear Classification [15:26]
  • Introduction to Probabilistic Models (for Classification) [11:55]
  • The Naive Bayes Model [24:28]
  • Naive Bayes Example [9:26]
• Lecture: Sections 4.1-4.3, 4.5 of The Elements of Statistical Learning (available online), Sections 3.5 and 4.2 of Machine Learning (K. Murphy)
• Matériel pour la classe::
  • Résumé.
  • Exercices,
  • Solution

---

4- Séance 4 (le 20 Septembre): Python pour la programmation scientifique et pour l’apprentissage automatique [Séance pratique]

• ATENTION:
  • Pour cette séance pratique, il est obligatoire d’avoir un ordinateur portable!
  • Je vous recommande de démarrer le tutoriel la semaine avant le cours et de le terminer pendant le cours.
• Lecture:
  • Tutorial
  • Solution

---

5- Séance 5 (le 27 Septembre): Réseaux de neurones et apprentissage profond

• Capsules:
  • Diapos
  • From linear classification to neural networks [19:28]
  • Training neural networks [20:14]
  • Learning representations [13:40]
  • Neural networks hyperparameters [25:20]
  • Neural networks takeaways [7:00]
• Lecture obligatoire: 6.1–6.3 et 6.5 du livre DL (arrëtez à 6.5.4).
• Lecture facultatif: Chapitre 11 du livre ESL.
• Matériel pour la classe::
  • Résumé
  • Exercices
  • Solution

---

6- Séance 6 (le 4 Octobre): Réseaux de neurones récurrents et réseaux de neurones à convolutions

• Capsules:
  • Diapos
  • Modelling Sequential Data [8:42]
  • Practical Overview of RNNs [29:32]
  • RNNs for language modelling [15:13]
  • Overview of CNNs [13:30]
  • Convolutions and Pooling [26:00]
  • Conclusions and Practical remarks [9:17]
• Lecture obligatoire: Sections 10, 10.1, 10.2 (survoler 10.2.2, sauter 10.2.3) et 10.7. Sections 9, 9.1, 9.2, 9.3 (9.11 pour le plaisir). Les deux venant de DL
• Matériel pour la classe::
  • Résumé
  • Exercices_RNNs
  • Solution_RNNs
  • Exercices_CNNs
  • Solution_CNNs

---

7- Séance 7 (le 11 Octobre): Apprentissage Non supervisé

• Capsules:
  • Diapos
  • Introduction to unsupervised learning [8:17]
  • K-means clustering [41:58] (there’s a natural break at 22:28)
  • GMMs for clustering [17:52]
  • Beyond Clustering [14:42]
• Lecture obligatoire: Section 14.3 (sauf 14.3.5 et 14.3.12) du livre [ESL]
• Matériel pour la classe::
  • Résumé
  • Exercices
  • Solution

---

8- Semaine d’étude (le 18 Octobre): pas de cours

---

9- Proposition du projet(le 25 Octobre): Rencontre en équipe à propos du projet

---

10- Séance 8 (le 1 Novembre): Calcul parallèle pour données massives

• ATENTION:
  • Cette séance ne sera pas donnée en pédagogie inversée.
• Capsules:
  • Diapos
  • Introduction to Distributed Computing for ML [19:35]
  • MapReduce [17:41]
  • Spark [17:37]
• Matériel pour la classe::
  • Diapos
  • Résumé

---

11- Séance 9 (le 8 Novembre): Systèmes de recommandations

• Lecture obligatoire: Présentation du cas et du dérolement de la séance et réponse à la Question 1 à remettre la veille du cours au plus tard)
• Matériel pour la classe::
  • Diapos
  • Référence (facultative)Tutoriel sur les systèmes de recommandation

---

12- Séance 10 (le 15 Novembre): Prise de décision séquentielle I

• Capsules:
  • Diapos
  • Motivating RL [8:22]
  • Planning with MDPs [12:16]
  • MDP objective [14:16]
  • Algorithms for solving MDPs [17:51]: Note: In this capsule, there is a mistake in the second equation of the policy iteration algorithm (the transition should be given a and not π(s)), the slides have been corrected (see slides 47 and 48)
• Lecture facultatif: Optional: Démonstration de l’algorithme policy iteration (de Andrej Karpathy)

---

13- Séance 11 (le 22 Novembre): Prise de décision séquentielle II

• Lecture:
• Capsules:
  • Dapo
  • Introduction to RL [13:31]
  • A first RL algorithm [17:13]
  • RL Algorithms for Control [21:10]
• Lectures obligatoires: Sections 1 à 4 de cet Article,
• Lectures complementaires: Chapiters 1,3,4, et 6 de Livre.
• Lectures facultatif: Demo of the TD algorithm (de Andrej Karpathy)
• Sommaire: Lien
• Exercice: Exercices, Solution

---

14- Présentations des projets(le 29 Novembre): Poster

• Local: à communiquer