Varying-Coefficient Mixture of Experts Model
Mixture-of-Experts (MoE) models represent heterogeneity by combining multiple “experts” with covariate-dependent mixing weights (“gating functions”). Most MoE formulations assume constant coefficients in the gating and expert components, which can be restrictive in indexed settings (e.g., longitudinal or spatial) where effects and latent structure evolve. We propose a Varying-Coefficient Mixture of Experts (VCMoE) model that allows all coefficients to vary smoothly with an index variable. We establish identifiability and consistency, develop a label-consistent EM algorithm with asymptotic theory, and provide inference via simultaneous confidence bands (asymptotic and bootstrap) and a generalized likelihood ratio test for coefficient stationarity. Simulations show good finite-sample performance. We apply VCMoE to single-nucleus embryonic mouse data to study time-varying associations between Satb2 and Bcl11b across two latent neuronal subpopulations, consistent with prior evidence.
Modèle de mélange d'experts à coefficients variables
Les modèles Mixture-of-Experts (MoE) représentent l'hétérogénéité en combinant plusieurs « experts » avec des poids de mélange dépendants des covariables (« fonctions de gating »). La plupart des formulations MoE supposent des coefficients constants dans les composants de gating et d'expert, ce qui peut être restrictif dans des contextes indexés (par exemple, longitudinaux ou spatiaux) où les effets et la structure latente évoluent. Nous proposons un modèle VCMoE (Varying-Coefficient Mixture of Experts) qui permet à tous les coefficients de varier en douceur avec une variable d'index. Nous établissons l'identifiabilité et la cohérence, développons un algorithme EM cohérent avec les étiquettes et la théorie asymptotique, et fournissons une inférence via des bandes de confiance simultanées (asymptotiques et bootstrap) et un test généralisé du rapport de vraisemblance pour la stationnarité des coefficients. Les simulations montrent de bonnes performances sur des échantillons finis. Nous appliquons le VCMoE à des données embryonnaires de souris à noyau unique afin d'étudier les associations dans le temps entre les variables Satb2 et Bcl11b dans deux sous-populations neuronales latentes, en accord avec les preuves antérieures.
Date and Time
-
Language of Oral Presentation
English
Language of Visual Aids
English