Regression Lasso et ridge

Question

Je fait une prévision Lasso et ridge avec 350 régresseurs. Mais mon code dure plus de 2h, quelqu'un pourrait me donner des astuces pour l'accélérer?

Answer 1

Voici quelques astuces pour accélérer votre code de prévision Lasso et Ridge avec 350 régresseurs :

1. Réduisez le nombre de régresseurs : Si vous avez 350 régresseurs, essayez de réduire le nombre de régresseurs en utilisant des techniques de sélection de fonctionnalités, telles que la méthode Lasso elle-même ou la méthode Recursive Feature Elimination (RFE).

2. Utilisez une grille de recherche plus petite : Au lieu de tester toutes les combinaisons possibles de régresseurs et de paramètres de régularisation, essayez d'utiliser une grille de recherche plus petite et plus ciblée.

3. Utilisez des algorithmes d'optimisation plus rapides : Si vous utilisez des algorithmes d'optimisation tels que la descente de gradient stochastique (SGD), essayez d'utiliser des méthodes plus rapides et plus efficaces telles que la descente de gradient par mini-lots ou la descente de gradient de Nesterov.

4. Utilisez des bibliothèques de calcul optimisées : Si vous utilisez un langage de programmation tel que Python, essayez d'utiliser des bibliothèques de calcul optimisées telles que NumPy, SciPy et scikit-learn qui peuvent accélérer le calcul des régressions Lasso et Ridge.

5. Utilisez des ordinateurs plus puissants : Si toutes les autres options échouent, essayez d'utiliser des ordinateurs plus puissants, tels que des ordinateurs avec des processeurs plus rapides ou avec des cartes graphiques spéciales pour accélérer le calcul des régressions Lasso et Ridge.