En poursuivant votre navigation sur ce site, vous acceptez l'utilisation d'un simple cookie d'identification. Aucune autre exploitation n'est faite de ce cookie. OK
1

Regularization via permutation of labels - Lecture 1

Sélection Signaler une erreur
Multi angle
Auteurs : Lounici, Karim (Auteur de la Conférence)
CIRM (Editeur )

Loading the player...

Résumé : A novel regularization technique based on random permutations of labels was proposed recently to tune hyper-parameters. Although this technique was successfully used in practice to train neural networks, little is known about its theoretical properties. This talk will present several results toward the theoretical understanding of this permutation technique in the simple Ridge regression model. These results combine a statistical analysis of the impact of random permutations on the geometry of the model with several novel perturbations bounds on the spectral decomposition of empirical covariance operators which can be of interest in themselves. Interestingly, this technique allows to build a novel smooth in-sample estimator of the excess risk which can be used to efficiently optimize the continuous hyper-parameters of regular models via gradient descent. This presentation is based in part on joint work with K. Meziani, G. Pacreau and B. Riu.

Codes MSC :

    Informations sur la Vidéo

    Réalisateur : Petit, Jean
    Langue : Anglais
    Date de publication : 25/01/2023
    Date de captation : 12/12/2022
    Sous collection : Research School
    arXiv category : Machine Learning
    Domaine : Computer Science ; Probability & Statistics
    Format : MP4 (.mp4) - HD
    Durée : 00:52:27
    Audience : Researchers ; Graduate Students ; Doctoral Students, Post-Doctoral Students
    Download : https://videos.cirm-math.fr/2022-12-12_Lounici_1.mp4

Informations sur la Rencontre

Nom de la rencontre : Meeting in Mathematical Statistics / Rencontres de Statistique Mathématique
Organisateurs de la rencontre : Butucea, Cristina ; Minsker, Stanislav ; Pouet, Christophe ; Spokoiny, Vladimir
Dates : 12/12/2022 - 16/12/2022
Année de la rencontre : 2022
URL Congrès : https://conferences.cirm-math.fr/2908.html

Données de citation

DOI : 10.24350/CIRM.V.19985603
Citer cette vidéo: Lounici, Karim (2022). Regularization via permutation of labels - Lecture 1. CIRM. Audiovisual resource. doi:10.24350/CIRM.V.19985603
URI : http://dx.doi.org/10.24350/CIRM.V.19985603

Voir aussi

Bibliographie



Imagette Video

Sélection Signaler une erreur