결정계수와 조정계수

①결정계수의 도출
표본회귀식이 적합하다는 것은 회귀식의 설명력이 높다는 것이다. 회귀식의 설명력을 수치로 표현한 것을 결정계수(R²)라고 한다.
◾결정계수의 범위: 0≦R²≦1 

(R²=0이면 회귀식은 종속변수의 변동을 하나도 설명하지 못하며 R²=1이면 회귀식으로 모든 종속변수의 변동을 설명할 수 있음을 의미한다. R²=0.8이 나왔다면 종속변수의 변동 80%를 회귀식이 설명하고 있다는 의미이다. 상관계수의 제곱으로 도출) 

만약 독립변수의 수가 증가한다면?

1.결정계수(R²)의 값은 무조건 증가

2.n-k-1(자유도)감소

3.다중공선성이 증가함

 

②조정결정계수

조정결정계수 R⊿² ≤ R² 

원래 조정결정계수는 감소할 수도,증가할 수도 음의 값을 가질 수도 있다. 그런데 새로운 독립변수를 추가하여 R⊿²가 증가한다는 것은 추가되는 변수가 회귀식의 적합성을 높인다는 의미. 따라서 회귀모형을 작성할 때 독립변수를 무엇으로 정할 것인가를 결정하는 기준으로 R⊿²을 사용하기도 한다.