단순선형 회귀분석 에서는 두 개의 연속형 변수, 즉 하나의 반응 변수(y)와 하나의
예측 변수(x) 사이의 선형 관계를 조사한다. 두 변수가 연관되어 있으면 단순 추측보다
높은 정확성으로 예측 변수로부터 반응 변수 값을 예측할 수 있다.
 
 

 
 
회귀 분석을 통해 데이터를 "가장 잘" 적합하는 직선을 얻을 수 있다.
이 선을 사용하여 다음을 수행할 수 있다.
   - 예측 변수의 변경에 따른 반응 변수의 변경 정도 조사
   - 예측 변수(x)에 대한 반응 변수(y) 값 예측
 

다중선형 회귀분석 에서는 하나의 연속형 반응 변수와 둘 이상의 예측 변수 사이의
선형 관계를 조사한다.
 
 

 
 
예측 변수가 많으면 모든 예측 변수를 포함한 회귀 모형을 적합하기 전에 단계적
또는 최량 부분 집합 모형 선택 방법을 사용하여 반응 변수와 관련이 없는 예측 변수를
제거해야 한다.