CIRM - Videos & books Library - The Metropolis Hastings algorithm: introduction and optimal scaling of the transient phase

Multi angle

Auteurs : Jourdain, Benjamin (Auteur de la Conférence)
CIRM (Editeur )

Loading the player...

Résumé : We first introduce the Metropolis-Hastings algorithm. We then consider the Random Walk Metropolis algorithm on $R^n$ with Gaussian proposals, and when the target probability measure is the $n$-fold product of a one dimensional law. It is well-known that, in the limit $n$ tends to infinity, starting at equilibrium and for an appropriate scaling of the variance and of the timescale as a function of the dimension $n$, a diffusive limit is obtained for each component of the Markov chain. We generalize this result when the initial distribution is not the target probability measure. The obtained diffusive limit is the solution to a stochastic differential equation nonlinear in the sense of McKean. We prove convergence to equilibrium for this equation. We discuss practical counterparts in order to optimize the variance of the proposal distribution to accelerate convergence to equilibrium. Our analysis confirms the interest of the constant acceptance rate strategy (with acceptance rate between 1/4 and 1/3).

Codes MSC :
60F17 - Functional limit theorems; invariance principles
60G09 - Exchangeability
60G50 - Sums of independent random variables; random walks
60J10 - Markov chains (discrete-time Markov processes on discrete state spaces)
60J22 - Computational methods in Markov chains
60J60 - Diffusion processes
65C05 - Monte Carlo methods
65C40 - Computational Markov chains (numerical analysis)

Ressources complémentaires :
http://smai.emath.fr/cemracs/cemracs17/Slides/jourdain.pdf

Informations sur la Vidéo

Réalisateur :

Hennenfent, Guillaume

Langue :

Date de publication :

Date de captation :

Sous collection :

arXiv category :

Domaine :

Format :

Durée :

Audience :

Download :

https://videos.cirm-math.fr/2017-07-19_Jourdain.mp4

Informations sur la Rencontre

Nom de la rencontre : CEMRACS - Summer school: Numerical methods for stochastic models: control, uncertainty quantification, mean-field / CEMRACS - École d'été : Méthodes numériques pour équations stochastiques : contrôle, incertitude, champ moyen
Organisateurs de la rencontre : Bouchard, Bruno ; Chassagneux, Jean-François ; Delarue, François ; Gobet, Emmanuel ; Lelong, Jérôme
Dates : 17/07/17 - 25/08/17
Année de la rencontre : 2017
URL Congrès : http://conferences.cirm-math.fr/1556.html

Données de citation

DOI : 10.24350/CIRM.V.19199403
Citer cette vidéo: Jourdain, Benjamin (2017). The Metropolis Hastings algorithm: introduction and optimal scaling of the transient phase. CIRM. Audiovisual resource. doi:10.24350/CIRM.V.19199403
URI : http://dx.doi.org/10.24350/CIRM.V.19199403

Voir aussi

[Multi angle] Forward and backward simulation of Euler scheme / Auteur de la Conférence Gobet, Emmanuel.
[Multi angle] Stochastic variational inequalities for random mechanics / Auteur de la Conférence Mertz, Laurent.
[Multi angle] Mean field type control with congestion / Auteur de la Conférence Laurière, Mathieu.
[Multi angle] On the discretization of some nonlinear Fokker-Planck-Kolmogorov equations and applications / Auteur de la Conférence Silva Álvarez, Francisco José.
[Multi angle] Project evaluation under uncertainty / Auteur de la Conférence Zubelli, Jorge P..
[Multi angle] Some asymptotic results about American options and volativity / Auteur de la Conférence De Marco, Stefano.
[Multi angle] Projected particle methods for solving McKean Vlasov SDEs / Auteur de la Conférence Belomestny, Denis.
[Multi angle] Splitting algorithm for nested events / Auteur de la Conférence Goudenège, Ludovic.
[Multi angle] Lecture 2: Introduction to HPC - MPI: design of parallel program and MPI / Auteur de la Conférence Lelong, Jérôme.
[Multi angle] Lecture 1: Introduction to HPC, random generation, and OpenMP / Auteur de la Conférence Lelong, Jérôme.
[ Post-edited] Numerical methods for mean field games - Lecture 2: Monotone finite difference schemes / Auteur de la Conférence Achdou, Yves.
[Multi angle] Numerical methods for mean field games - Lecture 3: Variational MFG and related algorithms for solving the discrete system of nonlinear equations / Auteur de la Conférence Achdou, Yves.
[Multi angle] Numerical methods for mean field games - Lecture 1: Introduction to the system of PDEs and its interpretation. Uniqueness of classical solutions / Auteur de la Conférence Achdou, Yves.
[Multi angle] Metamodels for uncertainty quantification and reliability analysis / Auteur de la Conférence Marelli, Stefano.
[Multi angle] Global sensitivity analysis in stochastic systems / Auteur de la Conférence Le Maître, Olivier.
[Multi angle] Subsurface flow with uncertainty : applications and numerical analysis issues / Auteur de la Conférence Charrier, Julia.
[Multi angle] Dynamic formulations of optimal transportation and variational MFGs / Auteur de la Conférence Benamou, Jean-David.
[Multi angle] Least squares regression Monte Carlo for approximating BSDES and semilinear PDES / Auteur de la Conférence Turkedjiev, Plamen.
[Multi angle] Bandits in auctions (& more) / Auteur de la Conférence Perchet, Vianney.
[Multi angle] Multilevel and multi-index sampling methods with applications - Lecture 2: Multilevel and Multi-index Monte Carlo methods for the McKean-Vlasov equation / Auteur de la Conférence Tempone, Raul.
[Multi angle] Multilevel and multi-index sampling methods with applications - Lecture 1: Adaptive strategies for Multilevel Monte Carlo / Auteur de la Conférence Tempone, Raul.
[Multi angle] Model-free control and deep learning / Auteur de la Conférence Bellemare, Marc.
[Multi angle] Optimal vector quantization: from signal processing to clustering and numerical probability / Auteur de la Conférence Pagès, Gilles.
[Multi angle] Branching for PDEs / Auteur de la Conférence Warin, Xavier.
[Multi angle] On the interplay between kinetic theory and game theory / Auteur de la Conférence Degond, Pierre.
[Multi angle] Particle algorithm for McKean SDE: a short review on numerical analysis / Auteur de la Conférence Bossy, Mireille.
[Multi angle] Cubature methods and applications / Auteur de la Conférence Crisan, Dan.
[Multi angle] Capacity expansion games with application to competition in power generation investments / Auteur de la Conférence Aïd, René.
[Multi angle] An introduction to BSDE / Auteur de la Conférence Imkeller, Peter.
[Multi angle] Mean field games with major and minor players / Auteur de la Conférence Carmona, René.

Bibliographie

Jourdain, B., Lelièvre, T., & Miasojedow, B. (2015). Optimal scaling for the transient phase of the random walk Metropolis algorithm: the mean-field limit. The Annals of Applied Probability, 25(4), 2263-2300 - http://dx.doi.org/10.1214/14-AAP1048

Jourdain, B., Lelièvre, T., & Miasojedow, B. (2014). Optimal scaling for the transient phase of Metropolis Hastings algorithms: the longtime behavior. Bernoulli, 20(4), 1930-1978 - http://dx.doi.org/10.3150/13-BEJ546

Jourdain.jpg

Sélection Signaler une erreur

TUTELLES

PARTENAIRES

Destination de la recherche

Raccourcis

Voir aussi