Lequel parmi Gridsearchcv et l'optimisation bayésienne fonctionne mieux pour optimiser les hyperparamètres?
Réponse
Trop de publicités?Il n'y a pas de meilleure approche ici, ce sont des approches différentes.
Dans Recherche de grille
, vous essayez toutes les combinaisons possibles d'hyperparamètres dans certaines plages.
Dans Bayésien
, vous n'essayez pas toutes les combinaisons, vous explorez l'espace des hyperparamètres en apprenant au fur et à mesure que vous les essayez. Cela permet d'éviter d'essayer TOUTES les combinaisons.
Donc, l'avantage de Recherche de grille
est que vous êtes exhaustif et l'avantage de Bayésien
est que vous n'avez pas besoin de l'être, en gros, si vous le pouvez en termes de puissance de calcul, optez pour Recherche de grille
, mais si l'espace à rechercher est trop grand, optez pour Bayésien
.