Catégorie
Événement

SAVE THE DATE! Séminaire DATAIA - "Nonlinear independent component analysis" - Aapo Hyvärinen

Bandeau image

SAVE THE DATE! Séminaire DATAIA - "Nonlinear independent component analysis" - Aapo Hyvärinen

  • Actualités sur le même thème

Partager

twlkfbml
Chapo
"Nonlinear independent component analysis: A principled framework for unsupervised deep learning"
Aapo Hyvärinen anime le séminaire DATAIA
Contenu
Corps de texte

Aapo Hyvärinen (Inria, University of Helsinki) est l’animateur du séminaire DATAIA du 9 octobre qui se concentrera sur un des plus grands défis de l'apprentissage machine : l'apprentissage non supervisé.

Il illustrera et discutera de l'analyse non linéaire en composantes indépendantes (ACI), la méthode qui permet de résoudre ce problème; de ses contributions au sujet; et du lien entre l'ACI non linéaire et les encodeurs à variation automatique (VAE).

 

"Unsupervised learning, in particular learning general nonlinear representations, is one of the deepest problems in machine learning. Estimating latent quantities in a generative model provides a principled framework, and has been successfully used in the linear case, e.g. with independent component analysis (ICA) and sparse coding. However, extending ICA to the nonlinear case has proven to be extremely difficult: A straight-forward extension is unidentifiable, i.e. it is not possible to recover those latent components that actually generated the data. Here, we show that this problem can be solved by using additional information either in the form of temporal structure or an additional, auxiliary variable. As a first approach, we formulate self-supervised learning schemes which are similar to those heuristically proposed in computer vision. Our main contribution is to provide a rigorous theoretical framework for such self-supervised algorithms, proving that they are able to solve the nonlinear ICA problem. We further show how a connection between nonlinear ICA and variational autoencoders (VAE): While ordinary VAE suffers from the lack of identifiability, conditioning by auxiliary variables leads to identifiability and provides another method for learning nonlinear ICA."

Nom de l'accordéon
Biographie
Texte dans l'accordéon

Aapo Hyvarinen a étudié mathématiques aux universités de Helsinki (Finlande), Vienne (Autriche), et Paris, et a obtenu son doctorat en Information Science au Helsinki University of Technology en 1997. De 2016 à 2019, il a été professeur au Gatsby Computational Neuroscience Unit, University College London, UK. Maintenant il est chez DATAIA à Inria-Saclay pour un an.

Aapo est lauteur principal des livres « Independent Component Analysis » (2001) et « Natural Image Statistics » (2009), et auteur et co-auteur de plus de 200 articles scientifiques. Il est Action Editor au Journal of Machine Learning Research and Neural Computation et Editorial Board Member au Foundations and Trends in Machine Learning. Son travail actuel est concentré sur lapprentissage automatique sans supervision et ses applications à la neuroscience.

Corps de texte

 

Le séminaire aura lieu le 9 octobre 2019 de 14h00 à 16h00 au centre Inria Saclay.

Inscriptions gratuites mais obligatoires dans la limite des places disponibles
Pour des raisons de sécurité, toute personne non-inscrite ne pourra accéder au lieu du séminaire

Corps de texte
Actualités sur le même thème
Bandeau image
fleche
Bandeau image
fleche
Catégorie
Événement
Bandeau image
fleche
Catégorie
Événement