Normalizing Flows for Bayesian Hierarchical Models
Normalizing flows are a class of models that allow for flexible density estimation and efficient sampling of complex densities. These methods aim to find the transformation that maps a simple random variable to the target of interest through a neural network. Normalizing flows can enhance posterior inference in Bayesian hierarchical models, particularly when the likelihood is intractable, making direct density evaluation impossible and limiting the applicability of many traditional methods. We consider a setting where samples can be drawn from a function of the likelihood using a pre-trained software, though the explicit mathematical form of this function is unavailable. To address this, we propose a two-stage algorithm leveraging normalizing flows to approximate the posterior density and generate samples from it. We evaluate the effectiveness of this approach by comparing it to existing methods, highlighting its potential advantages in dealing with intractable posteriors.
Flots normalisateurs pour les modèles hiérarchiques bayésiens
Les flots normalisateurs sont une classe de modèles permettant une estimation flexible de la densité et un échantillonnage efficace de densités complexes en apprenant une transformation qui associe une variable aléatoire simple à la distribution cible via un réseau neuronal. Ces méthodes peuvent améliorer l’inférence a posteriori dans les modèles hiérarchiques bayésiens, en particulier lorsque la vraisemblance est intraitable, rendant l’évaluation directe de la densité impossible et limitant l’applicabilité de nombreuses méthodes traditionnelles. Nous considérons un cadre où des échantillons peuvent être obtenus à partir d’une fonction de la vraisemblance à l’aide d’un logiciel préentraîné, bien que la forme mathématique explicite de cette fonction soit inconnue. Pour surmonter cette difficulté, nous proposons un algorithme en deux étapes exploitant les flots normalisateurs pour approximer la densité postérieure et générer des échantillons. Nous évaluons l’efficacité de cette approche en la comparant aux méthodes existantes, en mettant en avant ses avantages potentiels pour traiter des postérieurs intraitables.
Session
Date and Time
-
Language of Oral Presentation
English
Language of Visual Aids
English