Backward selection 방법으로 변수를 선정하게 되면 새롭게 추가하는 변수에 의해
이미 포함되어 있던 변수하나 혹은 그 이상의 변수가 유의하지 않게 되는 단점이 있었다.
이러한 문제점을 피하도록 선정하는 방법이 Backward Elimination 에 의한 변수 선택 방법이다.
 
 

 

Backward Elimination에 의한 방법은 관심이 있는 모든 변수를 포함하는 모델로 부터 시작한다.
그런 다음, 미리 정한 유의 수준보다 큰, 가장 덜 중요한 변수를 제외시킨다.
남아있는 모든 변수들이 통계적으로 유의한 항목만 남을 때까지 같은 방법을 계속한다
 
[회귀분석 Backward Elimination 은 다음순서로 실시한다.]
 
1. 회귀모형에 대한 유의수준을 선택한다. (보통 0.05를 사용한다.)
2. 모든 가능한 변수를 사용하여 단순회귀분석 모형을 확인한다
3. 예측변수의 p-value가 가장 높은 값부터 검토를 시작한다
   - p-value>유의수준 : 해당되는 예측변수를 회귀모형에서 제거한다
   - p-value≤유의수준 : 해당되는 예측변수를 회귀모형에 그대로 포함시키고 현재의 회귀모형을 유지한다
 

 

4. 모든 예측변수의 "p-value≤유의수준"에 도달할 때까지 계속한다
 

 
 
최종, Backward Elimination에 의해 회귀분석의 변수가 선정된 모습이다.