Sampling and Sampling Distribution
표본분포와 CLT — 한 움큼으로 온 들판을 읽는 기술
1,000명에게 물어보면 1억 명의 마음을 알 수 있을까요?
놀랍게도, 통계는 "그렇다"고 답해줍니다.
그 비밀의 이름이 바로 중심극한정리예요.
여는 글 · Curio의 고민
모바일 게임 회사 Curio가 신작을 만들었어요. 출시 전에 테스터 1,000명을 모아 물었죠. "이 게임 마음에 드세요?"
결과는 535명 좋다, 465명 싫다. 회사는 이제 중대한 결정을 앞두고 있어요. 정식 출시를 할까, 말까.
| 테스터 수 | 좋다 (Like) | 싫다 (Dislike) |
|---|---|---|
| 1,000 | 535 | 465 |
그런데 1,000명은 진짜 사용자 중 아주 일부예요. 전체 사용자는 수천만 명일 수도 있잖아요. "1,000명의 53.5%"가 정말 "전 국민의 53.5%"와 같을까요?
작은 표본 하나로 거대한 모집단의 진짜 비율을 얼마나 믿을 수 있나? 정답이 완벽하지 않다면, 그 오차는 얼마나 될까?
한 숟갈의 수프로
큰 냄비의 맛을 판단하는 이야기.
표본을 왜 뽑나
세상 전체를 조사하면 가장 정확해요. 하지만 현실에선 불가능한 경우가 대부분이에요. 돈도 시간도 감당이 안 되거든요.
전수조사 Census
모집단 전체를 조사. 가장 정확하지만, 거의 불가능해요. 10년에 한 번 인구조사 정도.
표본조사 Sampling
일부만 뽑아서 조사. 빠르고 저렴해요. 대신 오차가 생겨요. 그 오차를 다루는 게 통계.
블라인드 테스트 이야기.
새로 나온 콜라 맛을 테스트하고 싶어요. 전 국민에게 한 잔씩 먹여볼 수는 없죠. 대신 300명을 무작위로 뽑아 맛을 보게 해요.
300명의 반응이 곧 표본(sample). 전 국민은 모집단(population)이에요. 한 잔의 맛으로 냄비 전체의 맛을 짐작하듯, 표본으로 모집단을 짐작해요.
표본평균 \(\bar{X}\)
2강에서 모평균 \(\mu\)를 배웠죠. 모집단 전체의 평균이요. 그런데 모집단을 다 모르면 \(\mu\)를 알 길이 없어요. 그래서 표본을 쓰는 거예요.
표본 \(n\)개의 값 \(X_1, X_2, \ldots, X_n\)을 모두 더해 \(n\)으로 나눈 값. X-bar라고 읽어요.
기호에 익숙해지는 게 중요해요. \(\mu\)(뮤)는 모집단, \(\bar{X}\)(엑스바)는 표본. 이 둘을 헷갈리면 안 돼요.
| 개념 | 모집단 | 표본 |
|---|---|---|
| 평균 | \(\mu\) (모평균) | \(\bar{X}\) (표본평균) |
| 분산 | \(\sigma^2\) | \(s^2\) |
| 표준편차 | \(\sigma\) | \(s\) |
| 비율 | \(p\) | \(\hat{p}\) |
| 크기 | \(N\) (아주 큼) | \(n\) (작음) |
"좋다"를 1, "싫다"를 0으로 적어요. 1,000명의 평균을 내면 535/1000 = 0.535. 이게 Curio의 표본평균 \(\bar{X}\)예요. 전 국민의 진짜 비율 \(\mu\)를 짐작하는 도구죠.
표본은 왜 랜덤인가
여기서 머리를 한 번 돌려봐야 해요. Curio가 1,000명을 또 다른 1,000명으로 바꿔 뽑으면 결과가 같을까요? 아니에요. 달라요.
항아리에 구슬 뽑기.
빨간 구슬 5개, 파란 구슬 5개가 섞인 항아리. 3개를 뽑으면? 빨-빨-파일 수도, 파-빨-파일 수도, 파-파-파일 수도 있어요.
같은 항아리에서 같은 방식으로 뽑아도 매번 결과가 다르죠. 표본이 바로 이렇게 움직여요.
표본에 누가 뽑히느냐에 따라 \(\bar{X}\)가 달라져요. 그래서 \(\bar{X}\)는 숫자가 아니라 확률변수예요. 주사위처럼 값이 여러 개 나올 수 있는 거죠.
\(\mu\)는 고정된 진실. 어디 있는지 모를 뿐.
\(\bar{X}\)는 매번 달라지는 확률변수. 값이 춤춰요.
그런데 이 "춤추는 \(\bar{X}\)"로 "고정된 \(\mu\)"를 맞추려 해요. 괜찮을까요?
\(\bar{X}\)는 움직이는 과녁.
그래도 잘 조준할 수 있어요.
표본추출 방법
표본을 "어떻게" 뽑느냐도 중요해요. 잘못 뽑으면 수학이 무너져요. 강의에서는 복원추출(with replacement)을 가정해요.
항아리에서 공을 하나 뽑고, 다시 넣은 뒤 두 번째 공을 뽑아요. 같은 공이 두 번 나올 수도 있어요.
왜 이렇게 할까요? 핵심은 독립성이에요. 복원추출이면 각 뽑힘이 서로 영향을 주지 않아요. 첫 뽑기 결과가 둘째 뽑기에 정보를 주지 않는다는 뜻.
복원 With Replacement
각 관측값이 독립이에요. 수학 공식이 깨끗하게 적용돼요.
- \(X_1\)과 \(X_2\)가 서로 영향 없음
- 공분산 \(\text{Cov}(X_1, X_2) = 0\)
- 분산 계산이 단순해짐
비복원 Without Replacement
관측값이 약간 의존해요. 첫 번째가 두 번째의 확률을 바꿔요.
- \(N\)이 아주 크면 거의 같음
- 현실에선 이게 더 흔해요
- 대신 계산이 복잡해짐
모집단 \(N\)이 표본 \(n\)보다 훨씬 크면 (보통 \(N > 20n\)) 복원과 비복원은 거의 차이가 없어요. 1억 명 중 1,000명을 뽑을 때, 같은 사람이 또 나올 확률은 거의 0이거든요.
다른 표본추출 방법들
강의 범위를 살짝 벗어나지만, 실무에서 자주 쓰이는 방법들이에요.
| 방법 | 설명 | 예시 |
|---|---|---|
| 단순무작위 | 완전히 랜덤 추출 | 추첨식 설문 |
| 층화추출 | 그룹별로 나눠 추출 | 지역별 여론조사 |
| 체계적추출 | 일정 간격으로 추출 | 100명마다 1명 |
| 군집추출 | 덩어리로 묶어 추출 | 학교 단위 추출 |
\(\bar{X}\)의 평균과 분산
\(\bar{X}\)가 확률변수라면, \(\bar{X}\)에도 평균과 분산이 있어야 해요. 이게 오늘 이야기의 뼈대예요.
\(\bar{X}\)의 평균 — 진실에 정확히 맞춰요
기대값의 성질을 떠올려봐요. \(E[X+Y] = E[X] + E[Y]\). 각 관측값 \(X_i\)의 평균은 \(\mu\)니까…
\(E[\bar{X}] = \mu\). 즉 표본평균의 평균은 모평균!
\(\bar{X}\)가 매번 춤춰도, 평균적으론 정확해요. 이런 추정량을 "불편(unbiased)"하다고 해요.
\(\bar{X}\)의 분산 — 흔들림의 크기
평균이 맞아도 값이 너무 흔들리면 못 써요.
그래서 분산을 봐야 해요.
여기서는 두 가지 사실이 결정적이에요.
① 상수 배 성질: \(\text{Var}[aX] = a^2 \cdot \text{Var}[X]\). 그래서 \(1/n\)을 뽑으면 밖에서 \(1/n^2\)으로 나와요.
② 독립이면 분산은 덧셈: \(\text{Var}[X+Y] = \text{Var}[X] + \text{Var}[Y]\) (공분산 항이 0이라서). 복원추출 덕분에 모든 \(\text{Cov}(X_i, X_j) = 0\)이에요.
즉 독립성 가정이 깨지면 이 깔끔한 결과가 깨져요. 앞서 복원추출을 강조한 이유가 이거예요.
\(\text{Var}[\bar{X}] = \sigma^2/n\). 표본 크기 \(n\)으로 나눠져요!
즉 \(n\)이 커지면 분산이 줄어들어요. \(n=100\)이면 원래의 1/100, \(n=10{,}000\)이면 1/10,000.
여론조사 이야기.
100명에게 물어 얻은 지지율. 1,000명에게 물어 얻은 지지율. 어느 쪽이 더 안정적일까요? 당연히 1,000명 쪽이에요.
표본이 커질수록 \(\bar{X}\)는 \(\mu\)에 더 꽉 붙어 움직여요. 이게 \(\text{Var}[\bar{X}] = \sigma^2/n\)의 의미예요.
표준오차 SE
분산 대신 표준편차를 쓰는 게 직관적이에요. 단위가 원래 변수랑 같아지거든요. \(\bar{X}\)의 표준편차에는 특별한 이름이 있어요.
표본평균 \(\bar{X}\)가 얼마나 흔들리는지를 나타내는 값. 추정의 불확실성 척도예요. 줄여서 SE라고 불러요.
SE가 크면? 표본을 다시 뽑을 때마다 \(\bar{X}\)가 휙휙 바뀌어요. \(\mu\)를 맞추기 어려운 상태죠. SE가 작으면? \(\bar{X}\)들이 \(\mu\) 근처에 얌전히 모여요.
SE는 \(n\)이 아니라 \(\sqrt{n}\)으로 줄어요. \(n\)을 4배로 늘려야 SE가 반으로 줄어요. \(n\)을 100배로 늘려야 SE가 10배로 줄어요.
그래서 "표본을 두 배 늘린다"고 정확도가 두 배가 되진 않아요.
중심극한정리 CLT
지금까지 우리는 \(\bar{X}\)의 평균과 분산만 알았어요. 하지만 진짜 궁금한 건 \(\bar{X}\)의 분포 모양이에요. 이 분포를 알아야 "\(\bar{X}\)가 이 값 이상일 확률"을 계산할 수 있거든요.
모집단이 어떤 모양인지 몰라요. 치우쳐 있을 수도 있고, 이봉우리일 수도 있고, 마구잡이일 수도 있어요. 그럼 \(\bar{X}\)의 분포는 어떻게 생겼을까요?
놀랍게도, 답은 거의 항상 정규분포예요. 이게 바로 통계학의 기적, 중심극한정리입니다.
표본 \(X_1, X_2, \ldots, X_n\)이 (a) 서로 독립이고 (b) 같은 분포(평균 \(\mu\), 분산 \(\sigma^2\))를 따를 때, \(n\)이 충분히 크면 표본평균 \(\bar{X}\)의 분포는 정규분포에 가까워요.
① 독립 (Independent) — 각 관측값이 서로 영향 주지 않음. 복원추출이나 충분히 큰 모집단에서 보장.
② 동일분포 (Identically Distributed) — 모든 \(X_i\)가 같은 평균 \(\mu\)와 같은 분산 \(\sigma^2\)를 가진 모집단에서 나옴.
③ 충분한 \(n\) (Large Enough) — 경험적으로 \(n \ge 30\)이면 안전. 모집단이 이미 종 모양이면 더 작아도 OK.
혹은 합계로 표현하면:
모집단이 어떻게 생겼든 상관없어요. 울퉁불퉁해도, 한쪽으로 치우쳤어도, 두 봉우리여도.
\(n\)만 충분히 크면 \(\bar{X}\)는 반드시 종 모양 정규분포가 돼요. 마법이에요. 이유가 없어요. 수학이 그렇대요.
"충분히 크다"는 얼마예요?
경험적으로 \(n \ge 30\)이면 안전해요. 모집단이 이미 정규에 가까우면 \(n=10\)도 괜찮아요. 많이 찌그러진 분포면 \(n=50\) 이상이 좋아요.
| 모집단 모양 | 권장 \(n\) | 메모 |
|---|---|---|
| 이미 정규분포 | \(n \ge 1\) | \(\bar{X}\)도 정확한 정규 |
| 대칭이지만 봉우리 있음 | \(n \ge 15\) | 보통 빠르게 수렴 |
| 한쪽으로 치우침 | \(n \ge 30\) | 표준 경계선 |
| 심하게 찌그러짐 | \(n \ge 50\) | 안전 기준 |
모집단은 어떻게 생겼어도 좋아요.
\(\bar{X}\)는 정규가 됩니다.
CLT 시각 시연
말로만 들으면 믿기 어렵죠. 그림으로 보여드릴게요. 일부러 심하게 치우친 모집단을 하나 만들어 볼게요. 그리고 \(n\)을 점점 키우면서 \(\bar{X}\)의 분포가 어떻게 변하는지 봐요.
다이스 실험 이야기.
주사위 1개를 굴리면 결과는 1~6이 균등하게 나와요. 평평한 분포죠.
주사위 2개를 굴려 평균을 내봐요. 2~6 근처가 나오기 쉽고, 1이나 6은 잘 안 나와요. 슬슬 종 모양이 보여요.
주사위 30개 평균? 거의 완벽한 종 모양이에요. CLT가 작동한 거예요.
CLT 응용
CLT의 진짜 힘은 여기서 나와요. \(\bar{X}\)가 정규분포를 따른다는 걸 알면, 정규분포표(5강)를 그대로 써서 확률을 구할 수 있거든요.
표본 크기 \(n = 100\). 모평균 \(\mu = 1200\). 모표준편차 \(\sigma = 300\).
CLT에 따라 \(\bar{X} \approx N(1200, 300^2/100) = N(1200, 900)\). 표준오차 \(\text{SE} = 300/\sqrt{100} =\) 30.
표준화 Z-변환
5강에서 배운 \(Z\)변환을 \(\bar{X}\)에 적용해요. 평균을 빼고 표준오차로 나눠요.
- \(P(\bar{X} > 1500)\)? — \(Z = (1500-1200)/30 = 10\). 거의 0에 가까움.
- \(P(|\bar{X} - 1200| < 450)\)? — \(Z = \pm 450/30 = \pm 15\). 거의 100%.
- \(P(\bar{X} < 600)\)? — \(Z = (600-1200)/30 = -20\). 또 거의 0.
\(n=100\)인데도 표본평균이 1200 근처에서 크게 벗어날 확률은 거의 없어요. 1500이나 600은 천문학적으로 희박해요.
이게 "\(n\)이 100이면 대부분의 경우 추정이 꽤 정확"하다는 뜻이에요.
활쏘기 비유.
과녁의 중심이 \(\mu\). 내 화살이 \(\bar{X}\). SE는 화살이 퍼지는 반경이에요.
\(n\)이 크면 활이 좋아져요. 화살들이 중심 근처에 똘똘 모이죠. 10점(중심) 맞을 확률이 쭉 올라가요.
모비율 \(\hat{p}\)
서두에 Curio의 질문이 떠오르나요?
"전 국민의 몇 %가 이 게임을 좋아해?"
이게 모비율 \(p\)를 묻는 질문이에요.
"예"를 1, "아니오"를 0으로 코딩하면, 모집단의 평균 \(\mu\)가 곧 비율 \(p\)가 돼요. 둘은 같은 것이에요.
→ 비율 추정 = 1/0 답변의 평균 추정. 그러니까 앞서 배운 게 그대로 적용돼요.
Bernoulli 분포의 특별한 성질
값이 0 또는 1뿐이면 분산 공식이 아주 깔끔해져요.
한 줄 결론: \(\sigma^2 = p(1-p)\). 이 결과는 베르누이(4강)에서 왔어요.
\(\sigma^2 = p(1-p)\) 유도
값이 0/1밖에 없으니 \(x_i^2 = x_i\)라는 사실이 핵심이에요. 그래서 제곱 평균이 그냥 원래 평균과 같아져요.
그런데 \(x_i\)는 0 또는 1이므로 \(x_i^2 = x_i\). 즉 \(\sum x_i^2 = \sum x_i = N\mu\). 대입하면:
0/1 변수의 분산은 평균 × (1 − 평균)으로 뚝 떨어져요.
모비율 추정 · Estimating Population Proportion
모비율 \(p\)는 1/0 응답의 모평균 \(\mu\)예요.
따라서 \(p\)를 추정하는 일은 그대로 \(\mu\)를 추정하는 일과 같아요.
\(\bar{X}\)의 역할을 이제 표본비율 \(\hat{p}\)이 맡아요.
Curio의 경우 \(\hat{p} = 535/1000 = 0.535\). 이게 \(p\)의 추정값이에요.
표본비율 \(\hat{p}\)의 분포
표본평균 \(\bar{X}\)에 대응하는 게 표본비율 \(\hat{p}\)예요.
CLT를 그대로 적용하면:
\(n=1{,}000 , \hat{p} = 0.535\). 만약 진짜 \(p=0.5\)라면, \(\text{SE} = \sqrt{0.5 \times 0.5/1000} = \sqrt{0.00025} \approx\) 0.0158.
그러면 \(\hat{p}\)가 0.535에 이르려면 \(Z = (0.535-0.5)/0.0158 \approx 2.2\). 우연히 그 이상 나올 확률은 약 1.4%. 꽤 드물어요.
즉 "진짜 \(p=0.5\)"라는 가설은 의심스러워져요. 다음 강(7강 신뢰구간)의 단서예요.
| 대상 | 중심 | 분산 | 표준오차 |
|---|---|---|---|
| 표본평균 \(\bar{X}\) | \(\mu\) | \(\sigma^2 / n\) | \(\sigma / \sqrt{n}\) |
| 표본비율 \(\hat{p}\) | \(p\) | \(p(1-p) / n\) | \(\sqrt{p(1-p)/n}\) |
맺는 글
오늘 우리는 통계학의 허브를 지나왔어요. 1,000명에게 물어 1억 명의 마음을 추정하는 방법. 그 이론적 근거가 CLT예요.
6강은 기술통계(1~2강)에서 추리통계(7강~)로 넘어가는 다리입니다. 이 다리를 건너지 않고는 남은 강의가 열리지 않아요.
오늘의 장면 요약
- 모집단은 못 봐요. 표본만 봐요.
- 표본평균 \(\bar{X}\)는 확률변수예요.
- \(E[\bar{X}] = \mu\). \(\bar{X}\)는 평균적으로 정확.
- \(\text{Var}[\bar{X}] = \sigma^2/n\). 표본이 크면 흔들림이 작아져요.
- 표준오차 \(\text{SE} = \sigma/\sqrt{n}\). 추정의 불확실성.
- CLT — \(n\)이 크면 \(\bar{X}\)는 무조건 정규분포.
- \(\hat{p}\)도 같은 원리. 비율은 1/0 평균의 특수형.
다음 강 예고 · 7강 신뢰구간
오늘은 "\(\bar{X}\)가 얼마나 정확해요?"까지 답했어요. 7강은 이걸 한 단계 더 밀고 나가요.
"진짜 \(\mu\)는 어디쯤일까?" 답은 구간으로 표현돼요. "\(\mu\)는 0.50과 0.57 사이에 95% 확률로 있어요." 같은 식이에요. 오늘 배운 SE와 정규분포가 그 재료가 됩니다.
"1,000명에게 물어, 1억 명을 읽는다."
CLT가 가능하게 해준 기적이에요.
오늘의 마음가짐
CLT는 한 번에 와닿지 않아요. 자연스러운 일이에요.
"모집단이 뭐든 \(\bar{X}\)는 정규다"라는 단 한 문장만 남겨두세요.
7강에서 그 문장이 어떻게 꽃피는지 직접 보게 될 거예요.
— 6강, 마침 —