Random Forest Gradient Boost Machine (GBM) XGBoost (eXtra Gradient Boost) LightGBM (Light Gradient Boost) AdaBoost (Adaptive boosting) Hard Voting Soft Voting 여러개의 분류기를 순차적으로 학습하되, 앞에서 학습한 분류기가 예측이 틀린 데이터에 대해서 올바르게 예측할수 있도록 다음 분류기에게는 가중치를 부여하면서 학습과 예측 진행 개별 분류기가 bootstrapping방식(중복)으로 sampling된 데이터 세트를 학습해 개별적인 예측 결과를 voting을 통해 최종 결과 선정 개별 분류기에 데이터를 sampling 해서 추출하는 방식 (중복) Stacking 여러가지 다른 모델의 예측 결과값을 다시 학습 데이터로 만들어서 다른 모델(메타 모델)로 재학습시켜 결과 예측 최종값 = 예측 결과값 중 다수 분류기의 결과값 최종값 = 분류기의 각 클래스 결정 확률을 평균하여 가장 높은 클래스 Voting 개별 분류기에 데이터를 sampling 해서 추출하는 방식 (중복x)
data set #3 Decision Tree 1 Decision Tree 2 Decision Tree 3 voting 최종 결과 예측 예측 예측 Data set Linear Regreesion K Nearest Neighbor SVM voting 최종 결과 예측 예측 예측 Bagging Voting 다른 알고리즘 같은 알고리즘 (Decision Tree) Sampling (중복 가능) àRandom Forests
Data set Boosting Stacking Stacking Meta model (Logistic Regression) 최종 결과 Data set 타겟값 Decision Tree 1 Data set Decision Tree 2 Data set Decision Tree 3 Data set Decision Tree 4 예측 초기 가중치 가중치 업데이트 예측 가중치 업데이트 예측 가중치 업데이트 예측 다른 알고리즘 예측기 가중치 예측기 가중치 예측기 가중치 예측기 가중치 voting 최종 결과
yazm
occhi
maimyyym
rfdnxbro
kentapapa
teamlab
yut0naga1_fa
kzkhykw1991
bitkey
ykanoh
.png){kind=avatar}
codatum
mfonobong
michaelherold
.jpg){kind=avatar}
cargoodrich
tessaabrams
techseoconnect
bcantrill
akademiya2063
uxyall
bkeepers
trallard
codingconduct
schlessera
