On Nested Cross-Validation for Functional and Ridge Regression
Cross-validation (CV) is a resampling procedure that provides a point estimate of prediction error. Uncertainty in this estimate is challenging to quantify and requires multiple runs of the entire CV procedure at large computational cost. Nested Cross-validation (NCV) (Bates et al., 2024) addresses this by providing a prediction interval. However, computing this interval can be infeasible as it requires running the CV procedure and refitting the model an extraordinary number of times. Under penalized regression, we provide a fast and efficient way to compute the prediction interval with a single model fit. Our method performs best when the number of folds scales with sample size. We evaluate NCV on tuning parameters for signal regression models, comparing results with restricted maximum likelihood. This is joint work with Prof. Alex Stringer.
À propos de la validation croisée imbriquée pour la régression fonctionnelle et la régression Ridge
La validation croisée (CV) est une procédure de rééchantillonnage qui fournit une estimation ponctuelle de l'erreur de prédiction. L'incertitude de cette estimation est difficile à quantifier et nécessite plusieurs exécutions de l'ensemble de la procédure CV, ce qui entraîne des coûts de calcul importants. La validation croisée imbriquée (NCV) (Bates et coll., 2024) résout ce problème en fournissant un intervalle de prédiction. Cependant, le calcul de cet intervalle peut s'avérer irréalisable, car il nécessite d'exécuter la procédure CV et de réajuster le modèle d'innombrables fois. Dans le cadre de la régression pénalisée, nous proposons un moyen rapide et efficace de calculer l'intervalle de prédiction à l'aide d'un seul ajustement du modèle. Notre méthode est la plus performante lorsque le nombre de plis est proportionnel à la taille de l'échantillon. Nous évaluons la NCV sur les paramètres de réglage des modèles de régression des signaux, en comparant les résultats avec la vraisemblance maximale restreinte. Il s'agit d'un travail conjoint avec le professeur Alex Stringer.
Date and Time
-
Langue de la présentation orale
Anglais
Langue des supports visuels
Anglais