CBMA: Improving Conformal Prediction Through Bayesian Model Averaging
Conformal prediction has emerged as a popular technique for facilitating valid predictive inference, under minimal assumption of exchangeability. Recently, Hoff (2023) demonstrated that full conformal Bayes provides the most efficient prediction sets at the $(1 - \alpha)$ level when the model is correctly specified. However, mis-specification of the Bayesian model can lead to suboptimal prediction intervals, despite maintaining frequentist coverage guarantees. To overcome this, we propose a hybrid approach combining Bayesian model averaging with conformal prediction, enhancing both efficiency and robustness. We theoretically prove that the resulting prediction intervals converge to optimal efficiency if the true model is among the candidates. This assurance of optimality, even under potential model uncertainty, provides a significant improvement over existing methods, ensuring more reliable and precise uncertainty quantification.
CBMA : amélioration de la prédiction de la conformité grâce à la moyenne des modèles bayésiens
La prédiction conforme est devenue une technique populaire pour faciliter l'inférence prédictive valide, sous l'hypothèse minimale d'échangeabilité. Récemment, Hoff (2023) a démontré que la prédiction conforme complète de Bayes fournit les ensembles de prédiction les plus efficaces au niveau $(1 - \alpha)$ lorsque le modèle est correctement spécifié. Cependant, une mauvaise spécification du modèle bayésien peut conduire à des intervalles de prédiction sous-optimaux, malgré le maintien des garanties de couverture fréquentiste. Pour y remédier, nous proposons une approche hybride combinant la moyenne du modèle bayésien et la prédiction conforme, ce qui améliore à la fois l'efficacité et la robustesse. Nous prouvons théoriquement que les intervalles de prédiction résultants convergent vers une efficacité optimale si le vrai modèle fait partie des candidats. Cette garantie d'optimalité, même en cas d'incertitude potentielle du modèle, constitue une amélioration significative par rapport aux méthodes existantes, garantissant une quantification plus fiable et plus précise de l'incertitude.
Date and Time
-
Langue de la présentation orale
Anglais
Langue des supports visuels
Anglais