Sparsity Meets Low-Rank: A Stein-Based Framework for Unbiased Risk Estimation in Matrix Denoising
Low-rank matrix approximation serves as a cornerstone for recovering structured data in fields from medical imaging to recommendation systems. However, its performance hinges on the delicate calibration of regularization parameters, a task that remains non-trivial for estimators defined as solutions to regularized problems. This work leverages Stein’s Unbiased Risk Estimate (SURE) to provide a principled framework for risk estimation of spectral shrinkage estimators. By characterizing the differentiability of these estimators, we derive an intuitive interpretation of the risk formula by linking degrees of freedom to a notion of effective matrix rank. We also extend this framework to a broad class of spectral operators, specifically addressing singular value sparsity patterns. Finally, we propose extensions for weighted cost functions and non-Gaussian noise, offering a path towards more robust low-rank methods that can be applied to high-stakes applications like clinical imaging.
Parcimonie et rang faible : un cadre de Stein pour l'estimation du risque sans biais en débruitage matriciel
L'approximation matricielle de faible rang sert de pierre angulaire à la récupération de données structurées dans des domaines allant de l'imagerie médicale aux systèmes de recommandation. Cependant, ses performances dépendent du calibrage délicat de paramètres de régularisation, une tâche qui reste non triviale pour les estimateurs définis comme des solutions à des problèmes régularisés. Ce travail s'appuie sur l'estimation du risque sans biais de Stein (SURE) pour fournir un cadre théorique de l'estimation du risque des estimateurs à rétrécissement spectral. En caractérisant la différentiabilité de ces estimateurs, nous dérivons une interprétation intuitive de la formule de risque en reliant les degrés de liberté à une notion de rang matriciel effectif. Nous étendons également ce cadre à une large classe d'opérateurs spectraux, en abordant spécifiquement les modèles de parcimonie des valeurs singulières. Enfin, nous proposons des extensions pour les fonctions de coût pondérées et le bruit non gaussien, offrant ainsi une voie vers des méthodes de faible rang plus robustes qui peuvent être appliquées à des applications à haut risque telles que l'imagerie clinique.
Date and Time
-
Langue de la présentation orale
Anglais
Langue des supports visuels
Anglais