Catégorie
Conferences / Workshops

Workshop FL-Day - Decentralized Federated Learning: Approaches and Challenges

Bandeau image
Date de tri
Lieu de l'événement
LISN : 1 rue Raimond Castaing / Rue René Thom (Bât Digitéo) - 91190 Gif-sur-Yvette

Partager

twlkml
Chapo
Rendez-vous le 10 janvier prochain pour un workshop sur la thématique : Decentralized Federated Learning: Approaches and Challenges.
Contenu
Ancre
Contexte
Corps de texte

Cette journée scientifique vise à un moment d'échanges autour du thème de l'apprentissage fédéré et décentralisé avec des développements récents issus de l'intelligence artificielle. Organisée par l'équipe ADAM du Laboratoire DAVID dans le cadre des journées de l'institut DATAIA de Paris-Saclay.

La journée abordera à travers plusieurs présentations, les problématiques liées à la thématique « Decentralized Federated Learning », de l'apprentissage automatique, au traitement de données décentralisées (Edge Computing) ou encore de la protection des données « privacy » dans un contexte décentralisé avec des illustrations dans différents domaines. Les présentations seront suivies d’une table ronde.

Les participants qui le souhaitent sont invités à proposer des Posters pour exposer leurs travaux pendant les pauses. Il est possible de réutiliser un poster en indiquant l’évènement auquel il a déjà été présenté.

Un buffet déjeunatoire ainsi que des pauses gourmandes seront prévus tout au long de la journée.

Avec la participation de la Graduate School Informatique et Sciences du Numérique.


GS ISN

Ancre
Programme
Corps de texte
  • 9h00 - 9h30 : Accueil
  • 9h30 - 10h40 : Aurélien Bellet "Better Privacy Guarantees for Decentralized Federated Learning" (1h d'exposé + 10min de questions)
  • 10h40 - 11h10 : Pause café
  • 11h10 - 12h20 : Sonia Ben Mokhtar "Decentralized Learning (as an enabler) for Decentralized Online Services" (1h de présentation + 10min de questions)
  • 12h20 - 12h50 Pitchs posters
  • 12h50 - 14h00 Déjeuner et posters
  • 14h00 - 15h10 : Hakim Hacid "Towards Edge AI: Principles, current state, and perspectives" (1h d'exposé + 10min de questions)
  • 15h10 - 15h40 : Pause café
  • 15h40 - 16h50 : Table ronde
  • 16h50 - 17h00 : Clôture

Pour participer à l'évènement en visioconférence, voici le lien de connexion (disponible à partir de 9h30).


Conférenciers invités :

Nom de l'accordéon
Aurélien Bellet - CR INRIA, équipe Magnet, laboratoire CRISTAL
Texte dans l'accordéon
  • Titre : Better Privacy Guarantees for Decentralized Federated Learning
  • Résumé : Les algorithmes entièrement décentralisés, dans lesquels les participants échangent des messages de pair à pair le long des bords d'un graphe de réseau, sont de plus en plus populaires dans l'apprentissage fédéré en raison de leur évolutivité et de leur efficacité. Intuitivement, les algorithmes décentralisés devraient également offrir de meilleures garanties de confidentialité, puisque les nœuds n'observent que les messages envoyés par leurs voisins dans le graphe. Mais formaliser et quantifier ce gain est un défi : les résultats existants se limitent à des garanties de confidentialité différentielle locale (LDP) qui négligent les avantages de la décentralisation. Dans cet exposé, je présenterai des relaxations appropriées de la confidentialité différentielle et montrerai comment elles peuvent être utilisées pour montrer des garanties de confidentialité plus fortes pour le SGD décentralisé, correspondant au compromis confidentialité-utilité du SGD centralisé dans certains contextes. Il est intéressant de noter que certains de ces algorithmes amplifient les garanties de confidentialité en fonction de la distance entre les nœuds du graphe, ce qui correspond bien aux attentes des utilisateurs en matière de confidentialité dans certains cas d'utilisation.
  • Biographie : Aurélien Bellet est chercheur à l'Inria. Ses recherches actuelles portent sur la conception d'algorithmes d'apprentissage automatique préservant la vie privée dans des environnements centralisés, fédérés et décentralisés. Aurélien a été président de domaine lors de conférences majeures sur l'apprentissage automatique telles que ICML, NeurIPS et AISTATS. Il a co-organisé plusieurs ateliers internationaux sur l'apprentissage automatique et la protection de la vie privée à NeurIPS, CCS et FOCS, ainsi que la 10ème édition de la conférence pluridisciplinaire française sur la protection de la vie privée (APVP). Il co-organise également FLOW, un séminaire en ligne sur l'apprentissage fédéré avec plus de 1000 participants inscrits.

En savoir plus

Nom de l'accordéon
Sonia Benmokhtar - DR CNRS, LIRIS, Lyon
Texte dans l'accordéon
  • Titre : Decentralized Learning (as an enabler) for Decentralized Online Services
  • Résumé : Il y a un fort élan vers les services basés sur les données à tous les niveaux de la société et de l'industrie. Cela a commencé par des applications Web à grande échelle telles que les moteurs de recherche Web (par exemple, Google, Bing), les réseaux sociaux (par exemple, Facebook, Twitter) et les systèmes de recommandation (par exemple, Amazon, Netflix) et devient de plus en plus omniprésent grâce à l'adoption de dispositifs portables et à l'avènement de l'Internet des objets. Tous ces services sont rendus possibles par la disponibilité de grandes infrastructures de calcul, de forts progrès en matière d'intelligence artificielle (IA) et en particulier d'apprentissage automatique, et la possibilité de collecter et d'agréger de grandes quantités de données sur les utilisateurs, leurs environnements et leurs organisations dans des infrastructures de cloud. Mais si les progrès de l'IA/ML et des infrastructures distribuées ont été considérables, les applications axées sur les données rendues possibles par ces avancées posent des problèmes importants en ce qui concerne le respect de la vie privée de leurs utilisateurs et peuvent engendrer des menaces telles que la censure, la perte de contrôle des données personnelles et les fuites de données. Plus récemment, des initiatives telles que le Web 3.0 promettent de décentraliser les services en ligne, au cœur desquels l'IA/ML joue un rôle crucial pour donner aux utilisateurs la possibilité de reprendre le contrôle de leurs données personnelles et empêcher une poignée d'acteurs économiques de trop concentrer le pouvoir de décision.

Dans cet exposé, je présenterai les défis ouverts pour concevoir des algorithmes d'apprentissage décentralisés qui peuvent servir de catalyseur pour les services en ligne décentralisés. Je présenterai également des travaux de recherche récents dans ce contexte, en mettant l'accent sur la mise en place de systèmes de recommandation décentralisés basés sur le Gossip Learning, et je discuterai des orientations de recherche ouvertes.

  • Biographie : Sonia Ben Mokhtar est directrice de recherche CNRS au laboratoire LIRIS (UMR 5205) et responsable du groupe Systèmes distribués et recherche d'information (DRIM). Elle a obtenu son doctorat en 2007 à l'Université Pierre et Marie Curie avant de passer deux ans à l'University College London (UK). Ses recherches portent sur la conception de systèmes distribués résilients et préservant la confidentialité. Sonia a coécrit plus de 70 articles dans des conférences et des journaux évalués par des pairs. Elle a fait partie du comité de rédaction de IEEE Transactions on Dependable and Secure Computing et a co-présidé des conférences majeures dans le domaine des systèmes distribués (par exemple, ACM Middleware, IEEE DSN). Sonia a été présidente de l'ACM SIGOPS France et est actuellement vice-présidente du GDR RSD, un réseau universitaire national de chercheurs en systèmes et réseaux distribués.

En savoir plus

Nom de l'accordéon
Hakim Hacid - Principal Researcher, TII, Abu Dhabi, UAE (groupe AIDRC)
Texte dans l'accordéon
  • Titre : Towards Edge AI: Principles, current state, and perspectives
  • Résumé : La communauté de l'intelligence artificielle (IA) a beaucoup investi pour développer des techniques capables de digérer de très grandes quantités de données pour en extraire des informations et des connaissances à valeur ajoutée. La plupart des techniques, en particulier les modèles d'apprentissage profond, nécessitent une grande puissance de calcul et de stockage, ce qui les rend appropriées aux environnements basés sur le cloud. L'intelligence est donc éloignée de l'utilisateur final, ce qui soulève des inquiétudes concernant, par exemple, la confidentialité des données et la latence. L'IA de périphérie vient apporter des solutions à certains problèmes inhérents au nuage et se concentre sur les meilleures pratiques, architectures et processus pour étendre l'IA des données en dehors du nuage. L'IA de périphérie rapproche l'IA de l'utilisateur final et utilise, par exemple, moins de ressources de communication, car le traitement est effectué directement sur le périphérique de périphérie. Cet exposé présentera l'IA de périphérie et donnera un aperçu des travaux existants et des futures pistes de contribution potentielles.
  • Biographie : Le Dr Hakim Hacid est le scientifique principal de l'unité transversale de l'IA au sein du Technology Innovation Institute (TII), un centre de recherche scientifique de pointe basé aux Émirats arabes unis. Avant de rejoindre le TII, il était professeur associé à l'université Zayed et a contribué à la recherche dans les domaines de l'analyse des données, de la recherche d'informations et de la sécurité. Il a également été président du département de l'informatique et des technologies appliquées. M. Hacid est l'auteur de plus de 60 articles de recherche publiés dans des revues et conférences de premier plan et détient plusieurs brevets industriels à son actif. Ses recherches portent sur les bases de données, l'exploration et l'analyse des données, la programmation, les systèmes d'information Web, le traitement du langage naturel et la sécurité. Hakim Hacid a obtenu son doctorat en exploration de données/bases de données à l'Université de Lyon, en France. Il a également obtenu un double master en informatique (master de recherche et master professionnel) de la même université.

En savoir plus

Ancre
Contacts organisateurs
Corps de texte