모든 사람들은 매일 조사결과, 일기예보, 스포츠 통계, 상품의 비교 등의 노출된 정보를 근거로
통계의 개념에 대해 익숙해져 있다. 누군가 데이터를 수집하고 그것을 고속으로 처리하여 우리에게
흥미로운 통계를 만들어 낸다. 샘플을 바탕으로 한 이러한 통계를 기술통계라고 한다.

기술통계는 샘플 데이터를 어떤 일부 측면을 요약한다. 예를 들어, 야구 경기의 타율, 월평균 최고,
최저 온도, 설문에 응답한 성인의 퍼센트(%) 등...

하지만, 종종 데이터가 수집된 모집단 혹은 미래의 시간에 생성될 모집단에 대해 샘플이 말해주는 것에
더 큰 관심이 있다. 우리가 모집단의 모수를 추정하기 위하여 샘플의 정보를 사용할 때
우리는 추론통계의 세계로 들어간다. 기술통계가 통계세계에서 연산에 해당된다면, 추론통계는
통계세계에서 과학에 해당한다.

너무나 자주 미디어에서 기술통계가 유행처럼 보고되고 있고 우리는 그 결과를 마치
모집단이 그런 것이 타당하다고 생각한다. 불행하게도 대부분의 이러한 추론에는 적어도
조금씩 잘못된 점이 있으며 어떤 경우에는 매우 잘못된 경우도 있다.

여기서 말하고자 하는 것은 바이어스 정보를 제시하는 숫자를 조작하는 경우에 대해서 이야기하는
것은 아니다. 충실하게 랜덤 샘플로 부터 통계적 계산을 실행한 경우를 이야기 하고 있다.

랜덤하게 생성한 데이터의 경우로 그린 그래프를 살펴보자.

까만점은 모집단 값을, 빨간점은 모집단으로 부터 랜덤하게 선택한 샘플 값을 나타낸다.
보통 관심이 되는 통계량은 평균이다. 모집단의 평균(μ)과 샘플의 평균(X-bar)은 무언가
다르기 때문에 통계학자들은 이름의 기호도 다르게 붙였다.

모집단의 평균과 샘플의 평균을 그래프 상에 나타내어 보면 다음과 같다.

그림에서 살펴보면, x-bar는 μ보다 작게 나타나고 있고 샘플의 갯수가 많아지면 μ에 좀더
가까워 지겠지만 정확하게 μ와 같지는 않을 것이다. 모집단의 평균인 μ와 충분히 가까워지려면
샘플는 과연 몇개나 필요할까?

'충분히 가깝다'라는 것에 대해 모집단과 일치하지 않는한 정확하게 같을 수 없다는 점을
명심하는 것이 좋겠다.