728x90 반응형 xgb BayesianOptimization1 [XGB][파라미터 최적화] Bayesian Optimization 1. Bayesian Optimization 이란? 미지의 함수가 최대/최소값을 갖게 하는 지점 X를 찾는 일종의 optimize 알고리즘으로 베이지안 룰에 의해 사전지식을 반영하면서 하이퍼파라미터를 찾는다. 즉 베이지안 최적화는 현재까지 얻은 모델과 추가적인 실험정보를 통해 데이터가 주어졌을 때의 모델을 추정해 나가는 방식을 가진다. 실질적으로 베이지안 최적화는 그리드 서치나 랜덤 서치 그리고 autoML 과 비교하였을 때 비교적 빠르면서 더 높은 성능을 이끌어낼 수 있도록 파라미터가 최적화되는 사례가 많다. 2. Bayesian Optimization을 통한 XGBClassifier 최적화 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24.. 2022. 2. 16. 이전 1 다음 728x90 반응형
