회귀분석시의 과대적합(Overfitting)은 진짜 큰 문제이다.
과대적합은 회귀계수, p-value, R-sq 값을 오해하게 만들수 있다.

과대적합 모형은 분석하려는 데이터가 너무 복잡하기 때문에 발생하는데,
이런 일이 발생되면 회귀모형이 모집단을 반영한다기 보다는 분석을 위해 제시된 데이터에
있는 랜덤 노이즈에 적합하게 된다.

만일 추가적인 데이터를 넣고 그려보면 또 다시 그 데이터 셋트에 맞는 모형을 만들기 때문에
처음의 과대적합 회귀모형은 새로운 데이터에 적합하지 못하게 된다.

위의 그래프를 살펴보면 과대적합 회귀모형의 위험성을 보여주고 있다.
이 회귀모형은 반응변수의 큰 변동을 보여주고 있다. 그러나 이 모형은 샘플 데이터를 설명하기에는
너무 복잡한 모형이 되어졌으며 전체적인 모집단에서 반응변수와 예측변수 사이에는
아무런 상관관계가 없다.

과대적합 회귀모형은 너무 적은 샘플로 부터 너무 많은 모수에 대한 추정을 시도하면 발생한다.
회귀분석은 방정식내에 있는 모든 조건(term)에 대한 계수(Coefficient) 값을 예측하기 위하여
샘플을 사용한다. 샘플개수는 회귀분석시 과대적합을 하기 전에 안전하게 포함할 수 있는
조건(term)의 개수를 한정짓는다.

조건의 개수는 회귀모형 안에 있는 모든 예측변수, 교호작용 효과, 다항식 조건 등을 포함한다.

샘플의 수가 많아지면 보다더 복잡한 모형을 명시할 수 있도록 허용해 준다.
믿을만한 가치가 있는 결과를 얻기 위해서는 분석요구조건의 복잡성의 수준을 충분히 뒷받침
할 수 있을 만큼 샘플의 개수가 많아야 한다.

경험법칙에 의하면 다중회귀분석에서 조건(term) 한개당 10~15개의 관측값이 있으면
좋은 분석결과를 구할 수 있다. 예를 들어, 분석중인 회귀모형에 두개의 예측변수와 교호항이
포함되어 있으면 30~45개 정도의 관측값이 필요하다는 의미이다.
그렇지만 효과의 크기가 작거나 높은 다중공선성이 있으면 조건(term)당 더 많은 관측값이 필요할 수 있다.

회귀분석시에 선형모델에서 예측 R-Sq(Predicted R-Square)값을 참조하여 과대적합을 예방할 수 있다
예측 R-Sq는 모형이 미래의 데이터를 얼마나 잘 적합할 것인 지를 나타낸다.

무엇보다도 먼저, 분석모델의 과대적합을 피하기 위해서는 분석결과인 반응변수가 필요로 하는
모든 예측변수, 교호항, 다항조건 등  를 안전하게 포함할 수 있도록 충분히 많은 샘플을 수집하도록
해야 하는데, 데이터 수집 전에 중요한 변수, 이끌어 내고자 하는 회귀모형이 무엇인지 정의하고
이를 토대로 적합한 샘플 개수를 추정하도록 한다.