PANA-C: A Highly Parallel Algorithm for Annealed Monte Carlo Sampling
Annealing is a technique used to improve the efficiency of Monte Carlo samplers, typically by targeting multiple artificial distributions that are simplified versions of the target. These samplers alternate between exploring a distribution and propagating information between different distributions. We introduce PANA-C (Parallel ANnealed Arrayed-Chains), an annealing-based Markov chain Monte Carlo algorithm that uses a multi-candidate proposal to combine within-distribution and between-distribution moves into a single transition kernel. The structure of the algorithm admits highly parallel implementation, greatly reducing the computational burden of annealing and multiple chains. Through simulation and example datasets we demonstrate the effectiveness of the PANA-C algorithm, with a focus on distributions exhibiting multiple modes and highly non-Gaussian features. We explore the performance of the algorithm both in generating samples as well as estimating the normalizing constant.
PANA-C : un algorithme hautement parallèle pour l'échantillonnage Monte Carlo avec recuit
Le recuit est une technique utilisée pour améliorer l'efficacité des échantillonneurs Monte Carlo, généralement en ciblant plusieurs distributions artificielles qui sont des versions simplifiées de la cible. Ces échantillonneurs alternent entre l'exploration d'une distribution et la propagation d'informations entre différentes distributions. Nous présentons PANA-C (Parallel ANnealed Arrayed-Chains), un algorithme de Monte Carlo à chaîne de Markov basé sur le recuit qui utilise une proposition à candidats multiples pour combiner les mouvements intra-distribution et inter-distribution en un seul noyau de transition. La structure de l'algorithme permet une implémentation hautement parallèle, ce qui réduit considérablement la charge de calcul du recuit et des chaînes multiples. À l'aide de simulations et d'exemples de jeux de données, nous démontrons l'efficacité de l'algorithme PANA-C, en nous concentrant sur les distributions présentant plusieurs modes et des caractéristiques hautement non gaussiennes. Nous explorons les performances de l'algorithme tant dans la génération d'échantillons que dans l'estimation de la constante de normalisation.
Date and Time
-
Langue de la présentation orale
Anglais
Langue des supports visuels
Anglais