Adresse :
Monsieur Lucas Grativol Ribeiro du département MEE et du laboratoire Lab-STICC, présentera ses travaux de recherche sur le sujet :
"Compression des Réseaux de Neurones dans le Contexte de l’Apprentissage Fédéré et des Systèmes Embarqués"
Résumé : En raison des préoccupations croissantes concernant la confidentialité des données, l’apprentissage fédéré est un cadre d’apprentissage automatique collaboratif et décentralisé. En déléguant l’entraînement du modèle à différents participants et en conservant les données localement, ce cadre permet une routine d’entraînement plus respectueuse de la vie privée. Cependant, ce compromis implique des coûts supplémentaires de communication et de calcul pour les entités qui souhaitent s’entraîner avec une telle méthode.
Ce manuscrit aborde les différents défis émergents du domaine, en proposant des solutions possibles pour augmenter son efficacité et réduire ses exigences matérielles. Cela est obtenu en appliquant des techniques classiques de compression, telles que l’élagage et la réutilisation des adaptations de faible rang pour réduire les coûts de l’apprentissage fédéré.
De plus, dans les cas où les participants ont des capacités de communication limitées, une méthodologie de co-conception d’un algorithme d’apprentissage par peu d’exemples embarqué est proposée. La solution présentée prend en compte les limitations matérielles lors de la proposition d’une chaîne de déploiement pour une plateforme du type FPGA.
Cette solution permet un algorithme à faible latence qui peut également être utilisé pour implémenter des modèles après l’entraînement par l’apprentissage fédéré.
Organisateur(s)
Dans le cadre de la co-accréditation de thèse d’IMT Atlantique au sein de l'école doctorale SPIN
Mots-clés : Apprentissage Fédéré, Élagage, Adaptation de Basse Rang, Apprentissage avec Peu d’Exemples, FPGA