Auteurs : Oyallon, Edouard (Auteur de la Conférence)
CIRM (Editeur )
Résumé :
Since 2012, deep neural networks have led to outstanding results in many various applications, literally exceeding any previously existing methods, in texts, images, sounds, videos, graphs... They consist of a cascade of parametrized linear and non-linear operators whose parameters are optimized to achieve a fixed task. This talk addresses 4 aspects of deep learning through the lens of signal processing. First, we explain image classification in the context of supervised learning. Then, we show several empirical results that allow us to get some insights about the black box of neural networks. Third, we explain how neural networks create invariant representation: in the specific case of translation, it is possible to design predefined neural networks which are stable to translation, namely the Scattering Transform. Finally, we discuss several recent statistical learning, about the generalization and approximation properties of this deep machinery.
Keywords : apprentissage profond; traitement du signal; transformée en scattering
Codes MSC :
94A12
- Signal theory (characterization, reconstruction, filtering, etc.)
68T07
- Artificial neural networks and deep learning
|
Informations sur la Rencontre
Nom de la rencontre : Mathematics, Signal Processing and Learning / Mathématiques, traitement du signal et apprentissage Organisateurs de la rencontre : Anthoine, Sandrine ; Chaux, Caroline ; Mélot, Clothilde ; Richard, Frédéric Dates : 25/01/2021 - 29/01/2021
Année de la rencontre : 2021
URL Congrès : https://conferences.cirm-math.fr/2472.html
DOI : 10.24350/CIRM.V.19705803
Citer cette vidéo:
Oyallon, Edouard (2021). One signal processing view on deep learning - lecture 2. CIRM. Audiovisual resource. doi:10.24350/CIRM.V.19705803
URI : http://dx.doi.org/10.24350/CIRM.V.19705803
|
Voir aussi
-
[Multi angle]
Teasing poster: mathematics, signal processing and learning
/ Auteur de la Conférence Antonsanti, Pierre-Louis ; Auteur de la Conférence Belotto Da Silva, André ; Auteur de la Conférence Cano, Cyril ; Auteur de la Conférence Cohen, Jeremy ; Auteur de la Conférence Doz, Cyprien ; Auteur de la Conférence Lazzaretti, Marta ; Auteur de la Conférence Pilavci, Yusuf Yigit ; Auteur de la Conférence Rodriguez, Willy ; Auteur de la Conférence Stergiopoulou, Vasiliki ; Auteur de la Conférence Kaloga, Yacouba ; Auteur de la Conférence Safaa, Al-Ali.
-
[Virtualconference]
Optimization - lecture 4
/ Auteur de la Conférence Pustelnik, Nelly.
-
[Virtualconference]
Optimization - lecture 3
/ Auteur de la Conférence Pustelnik, Nelly.
-
[Virtualconference]
Optimization - lecture 2
/ Auteur de la Conférence Pustelnik, Nelly.
-
[Virtualconference]
Optimization - lecture 1
/ Auteur de la Conférence Pustelnik, Nelly.
-
[Multi angle]
One signal processing view on deep learning - lecture 1
/ Auteur de la Conférence Oyallon, Edouard.
-
[Virtualconference]
Signal processing tutorial - part 2
/ Auteur de la Conférence Oudre, Laurent.
-
[Virtualconference]
Signal processing tutorial - part 1
/ Auteur de la Conférence Oudre, Laurent.
-
[Virtualconference]
Reinforcement learning - lecture 4
/ Auteur de la Conférence Lazaric, Allesandro.
-
[Virtualconference]
Reinforcement learning - lecture 3
/ Auteur de la Conférence Lazaric, Allesandro.
-
[Virtualconference]
Reinforcement learning - lecture 2
/ Auteur de la Conférence Lazaric, Allesandro.
-
[Virtualconference]
Reinforcement learning - lecture 1
/ Auteur de la Conférence Lazaric, Allesandro.
-
[Multi angle]
Basics in machine learning - practical session 2
/ Auteur de la Conférence Clausel, Marianne.
-
[Multi angle]
Basics in machine learning - practical session 1
/ Auteur de la Conférence Clausel, Marianne.
-
[Multi angle]
Basics in machine learning - lecture 2
/ Auteur de la Conférence Clausel, Marianne.
-
[Multi angle]
Basics in machine learning - lecture 1
/ Auteur de la Conférence Clausel, Marianne.
Bibliographie