Post-Shrinkage Strategies in High-Dimensional Graph Neural Networks
This paper studies post-shrinkage estimation for graph neural network (GNN) weight matrices in high-dimensional settings with strong, weak, and null feature channels. We consider a graph-propagated model and develop a post-shrinkage estimator that interpolates between an overfitted and a strong-only underfitted estimator to balance bias and variance. A Monte Carlo framework is constructed under structured sparsity and multiple graph topologies. Performance is evaluated using quadratic risk and relative mean-squared error as a function of the departure from the restricted model. Results show that while strong-only estimation performs best when weak signals are absent, the proposed strategy remains stable and achieves lower risk across moderate and weak-signal regimes.
Stratégies post-réduction dans les réseaux neuronaux graphiques à haute dimension
Cet article étudie l'estimation post-réduction des matrices de poids des réseaux neuronaux graphiques (GNN) dans des contextes de haute dimension comportant des groupes de variables fortement, faiblement et non informatives. Nous considérons un modèle à propagation sur graphe et développons un estimateur post-réduction qui interpole entre un estimateur surajusté et un estimateur sous-ajusté ne tenant compte que des groupes forts (strong-only), afin d'équilibrer le biais et la variance. Nous construisons un cadre de Monte Carlo sous des conditions de parcimonie structurée et de topologies de graphes multiples. Nous en évaluons la performance à l'aide du risque quadratique et de l'erreur quadratique moyenne relative comme fonction de l'écart par rapport au modèle restreint. Les résultats montrent que, si l'estimation « strong-only » offre les meilleures performances en l'absence de signaux faibles, la stratégie proposée reste stable et présente un risque moindre dans les régimes de signaux modérés et faibles.
Date and Time
-
Langue de la présentation orale
Anglais
Langue des supports visuels
Anglais