Eden BELOUADAH (Dpt INFO – Laboratoire Lab-STICC) soutient sa thèse de doctorat le 29/11/2021

Titre : " Apprentissage Incrémental Profond à Large Echelle "
Mots-clés : Apprentissage incrémental ; oubli catastrophique ; classification d'image ; réseaux de neurones

Texte

Soutenance le 29/11/2021 à 9h00 au CEA Saclay, Amphi 34 - Bât.862 de Nano-Innov. ou par Visio-conférence

Le jury est composé de :
-M. Ioannis KANELLOS: Professeur, IMT Atlantique
-Mme Céline HUDELOT: Professeur, Centrale Supélec
-Mme Tinne TUYTELAARS: Professeur, Université Catholique de Louvain
-M. Symeon PAPADOPOULOS, Chercheur Senior, CERTH - ITI
-M. Adrian POPESCU, Ingénieur-Chercheur, CEA - LIST
-M. David FILLIAT, Professeur, ENSTA Paris - IPP
-M. Niculae SEBE, Professeur, University of Trento

Résumé:
L'apprentissage incrémental (IL) permet l'adaptation d'agents artificiels à des environnements dynamiques dans lesquels les données sont présentées séquentiellement. Ce type d’apprentissage est nécessaire lorsque l'accès aux données passées est limité ou impossible, mais il est affecté par l'oubli catastrophique. Ce phénomène consiste en une chute drastique des performances des informations précédemment apprises lors de l'ingestion de nouvelles données. Une façon de résoudre ce problème est d'utiliser une mémoire limitée du passé pour rafraîchir les connaissances apprises précédemment. Actuellement, les approches basées sur la mémoire obtiennent les meilleurs résultats de l'état de l'art. Dans cette thèse, nous présentons plusieurs méthodes avec et sans mémoire du passé. Nos méthodes traitent l'oubli catastrophique soit (1) en calibrant les scores des classes passées et nouvelles à la fin du réseau, soit (2) en réutilisant les poids initiaux des classes passées, soit (3) en transférant les connaissances entre les datasets de référence et cibles. Nous étudions notamment l'utilité de la distillation largement utilisée et l'effet d'utiliser ou non une mémoire du passé. Des expériences approfondies contre des méthodes de l'état de l'art ont été menées afin de valider l'efficacité de nos méthodes.

 

Contacts

avis de soutenance :  Eden BELOUADAH
lien de diffusion: direct  

Publié le 22.11.2021

par Pascale MÉNARD