728x90
앙상블 모델은 여러 모델을 결합하여 성능을 높이는 방법이다.
하나의 모델 예측에 의존하는 것보다 여러 모델을 종합해서 보면 모델의 예측력이 좋아지기 때문이다.
1. 보팅
모두 같은 데이터를 학습하는 서로 다른 알고리즘이다.
여러 개의 모델이 예측한 값 중에서 다수결로 최종 분류 클래스를 정한다.
정확도가 개선되는 동시에 개별 모델에 비해 학습 시간이 오래걸린다.
2. 배깅
의사결정나무는 한 개의 트리를 사용한다.
반면 랜덤 포레스트는 트리 모델을 여러 개 사용하여 각 모델의 개별 예측값을 보팅을 통해 결정한다.
이처럼 같은 종류의 알고리즘 모델을 여러 개 결합하여 예측하는 방법을 배깅이라고 한다.
3. 부스팅
여러개의 가벼운 모델을 순차적으로 학습한다.
잘못 예측한 데이터에 대한 예측 오차를 줄일 수 있는 방향으로 모델을 계속 업데이트한다.
여러 모델을 동시에 학습하지 않고 순서대로 학습하는 점에서 배깅과 다르다.
728x90
'AI > Machine Learning&Deep Learning' 카테고리의 다른 글
| MachineLearning_회귀(Regression) (0) | 2021.03.22 |
|---|---|
| MachineLearning_교차 검증 (0) | 2021.03.22 |
| MachineLearning_로지스틱 회귀&의사결정나무 (0) | 2021.03.22 |
| MachineLearning_SVM 분류 알고리즘 (0) | 2021.03.22 |
| MachineLearning_KNN 분류 알고리즘 (0) | 2021.03.22 |