Generalized Random Forests Using Fixed-Point Trees
Abstract We propose a computationally efficient alternative to generalized random forests (GRFs) for estimating heterogeneous effects in large dimensions. While GRFs rely on a gradient-based splitting criterion, which are in large dimensions is computationally expensive and unstable, our method introduces a fixed-point approximation that eliminates the need for Jacobian estimation. This gradient-free approach preserves GRF’s theoretical guarantees of consistency and asymptotic normality while significantly improving computational efficiency. We demonstrate that our method achieves multiple times speed improvement over standard GRFs without compromising statistical accuracy. Experiments, on both simulated and real-world data, validate our approach. Our findings suggest that the proposed method is a scalable alternative for localized effect estimation in machine learning and causal inference applications.
Forêts aléatoires généralisées avec arbres à point fixe
Nous proposons une alternative efficace en termes de calcul aux forêts aléatoires généralisées (GRF) pour l'estimation des effets hétérogènes en grandes dimensions. Alors que les GRF s'appuient sur un critère de division basé sur le gradient, qui est coûteux en calcul et instable en grandes dimensions, notre méthode introduit une approximation en point fixe qui élimine le besoin d'une estimation jacobienne. Cette approche sans gradient préserve les garanties théoriques de cohérence et de normalité asymptotique de la GRF tout en améliorant considérablement l'efficacité des calculs. Nous démontrons que notre méthode permet d'améliorer plusieurs fois la vitesse par rapport aux GRF standard sans compromettre la précision statistique. Des expériences, sur des données simulées et réelles, valident notre approche. Nos résultats suggèrent que la méthode proposée est une alternative évolutive pour l'estimation des effets localisés dans les applications d'apprentissage automatique et d'inférence causale.
Date and Time
-
Langue de la présentation orale
Anglais
Langue des supports visuels
Anglais