Variational Bayesian Multidimensional Scaling
Multidimensional Scaling (MDS) is a statistical method often used for visualization or as a preprocessing step for subsequent analysis. MDS estimates a configuration of points in Euclidean space such that the distances between them closely approximate the observed dissimilarities between a set of items. Bayesian Multidimensional Scaling (BMDS) extends classical MDS by accounting for uncertainty in the configuration and measurement error in the dissimilarities. However, fitting BMDS using Markov Chain Monte Carlo is computationally intractable when the embedding dimensionality and/or sample size is large. Therefore, we propose a variational algorithm to accelerate inference under the BMDS model. Using modern techniques such as mini-batching and stochastic gradient descent, our approach substantially reduces computational burden and enables the application of BMDS to large-scale datasets, thus improving on both MDS and BMDS.
Mise à l'échelle multidimensionnelle bayésienne variationnelle
La mise à l'échelle multidimensionnelle (MDS) est une méthode statistique souvent utilisée pour la visualisation ou comme étape de prétraitement pour une analyse ultérieure. La MDS estime une configuration de points dans l'espace euclidien de telle sorte que les distances entre eux se rapprochent étroitement des dissemblances observées entre un ensemble d'éléments. La mise à l'échelle multidimensionnelle bayésienne (BMDS) élargit la MDS classique en tenant compte de l'incertitude dans la configuration et de l'erreur de mesure dans les dissemblances. Cependant, l'ajustement de la BMDS à l'aide de la méthode de Monte Carlo par chaîne de Markov est impossible à calculer lorsque la dimensionnalité d'intégration ou la taille de l'échantillon sont importantes. Nous proposons donc un algorithme variationnel pour accélérer l'inférence dans le cadre du modèle de BMDS. Grâce à des techniques modernes telles que le « mini-batching » et la descente de gradient stochastique, notre approche réduit considérablement la charge de calcul et permet d'appliquer la BMDS à des ensembles de données à grande échelle, améliorant ainsi à la fois la MDS et la BMDS.
Date and Time
-
Language of Oral Presentation
English
Language of Visual Aids
English