의사결정나무 모형 만들기
의사결정나무 모형은 크게 성장(growing),가지치기(Pruning)단계를 통하여 만들어진다.
성장(growing)단계에서는 먼저 최적화할 목적함수를 정한다. 각 마디에서 이 목적함수를 최적화 하는 변수와 그 분리 기준을 찾아 의사결정나무를 성장시키며 사전에 정의된 정지 규칙(Stopping rule)을 만족하면 성장을 중단한다. 가지치기(Pruning)단계에서는 과적합(Overfitting)을 방지,해석이 안되는 규칙 등 불필요한 가지를 제거한다.
출력변수가 연속형인 경위 회귀분석(regressiong tree),범주형인 경우 분류나무(classification)라고 한다.
출력
회귀나무
1.1 불순도(Impurity)
최적 분리 변수와 그 변수에 해당하는 기준은 다음의 최적화 문제를 풀어서 구하게 된다.
1.2 분리기준 후보 선정
1.3 가지치기(Pruning)
'자격증 공부 > ADSP' 카테고리의 다른 글
| 로지스틱회귀분석 결과 해석 방법 (0) | 2023.05.01 |
|---|---|
| 신경망 모형 (0) | 2023.05.01 |
| 지역변수와 전역변수 (0) | 2023.05.01 |
| 배깅(Bagging) (0) | 2023.04.30 |
| 엔트로피의 이해 (0) | 2023.04.23 |