가설 검정 — "정말 그런가?"를 숫자로 따져보기

여는 글 · 의심하기로 시작하는 과학

"이 학교 학생들의 평균 키는 170cm야."
선배가 자신 있게 말해요. 그 말, 진짜일까요?

50명을 무작위로 재 봤어요. 표본평균이 174cm로 나왔어요. 4cm나 차이가 나는데, 이 정도면 선배 말이 틀린 거라고 단언해도 될까요? 아니면 그냥 우연일 수도 있잖아요.

이 강의에서 우리는 그 판단을 객관적으로 내리는 법을 배워요. 그 이름이 바로 가설 검정 (Hypothesis Testing, H.T.)이에요.

가설 검정은 "법정"이에요.
피고는 지금까지 믿어온 얘기.
증거는 표본. 판결은 p-값.

잠깐, CLT부터 다시

지난 6강·7강에서 우리는 한 가지 사실을 단단히 다졌어요.

가설 검정도 결국 이 정규분포 위에서 벌어지는 일이에요. 그러니 "내가 본 \(\bar{X}\)이 정규분포의 어디쯤 있는가"를 계속 따져보게 될 거예요.

"만약 \(H_0\)가 참이라면…"이라는 가정 게임

가설 검정의 핵심 트릭은 이거예요. 일단 "기존 얘기가 진짜라고 가정"해요. 그리고 묻죠. "그 가정이 맞다면, 내가 본 이 표본이 얼마나 흔할까?"

만약 흔하면 → 기존 얘기를 의심할 이유가 없어요.
만약 거의 안 일어날 일이면 → "어, 기존 얘기가 틀렸을 수도?" 하고 의심하는 거예요.

\(\mu\) = 100이라 가정한 그림

예시로 모평균이 100이라는 얘기가 있다고 해요. 만약 그 얘기가 참이라면, 표본평균 \(\bar{X}\)은 100을 중심으로 종 모양으로 쌓일 거예요.

95%의 표본평균은 가운데 종 모양 안에 떨어져요. 양쪽 5%는 극단이에요. "흔치 않은 일"이라는 뜻이죠.

두 개의 가설 — \(H_0\)와 \(H_1\)

가설 검정에는 항상 두 개의 가설이 짝지어 나와요. 어느 한쪽만 쓰는 게 아니에요. 둘이 서로 정반대인 한 쌍이에요.

왜 "지금까지 얘기"가 \(H_0\)일까?

이건 통계 안전장치 같은 거예요. 우리가 가진 증거가 어중간하면 큰 변화를 함부로 만들지 말자는 약속이거든요. 새 얘기(\(H_1\))를 받아들이려면 진짜 강력한 증거가 필요해요.

가설 표기의 3가지 모양

한 가지 약속: 등호(=)는 항상 \(H_0\) 쪽에 있어요. "확실하지 않으면 기존 얘기 편을 들어준다"는 안전장치 때문이에요.

이 표본, 흔해요? 아니면 극단?

이제 표본을 한 번 뽑았어요. \(\bar{X}\)이라는 숫자 하나가 손에 들어왔죠. \(H_0\)(\(\mu\) = 100)가 참이라고 가정했을 때, 이 \(\bar{X}\)이 어디에 떨어졌는지 봐요.

경우 1 · \(\bar{X}\)이 흔한 영역에 떨어졌어요

경우 2 · \(\bar{X}\)이 극단에 떨어졌어요

핵심 발상 정리

\(\bar{X}\)이 극단에 떨어졌다 = "\(H_0\)가 참인데 이런 일이?" = \(H_0\)를 의심해야 할 때.

이 직관을 정확한 숫자로 바꿔주는 도구가 다음 장의 주인공, p-값이에요.

p-값 — "얼마나 극단이야?"의 숫자

지금까지 우리는 "흔하다, 극단이다"라는 말을 썼어요. 근데 이걸 어떻게 숫자로 표현할까요? 그 답이 p-값(p-value)이에요.

그림으로 보는 p-값 (양측)

\(\bar{X}\)이 한 쪽 꼬리로 빠졌다면, 반대쪽 꼬리도 "그만큼 또는 더 극단"이에요. 그래서 양측 검정에서는 양쪽 꼬리의 확률을 다 더해요.

같은 \(\bar{X}\), 다른 p-값

\(\bar{X}\)이 \(\mu\)에서 멀수록 꼬리가 좁아져요. → 면적이 작아져요. → p-값이 작아져요.

p-값이 작을수록 \(H_0\)를 의심할 이유가 커져요.

p-값, 어떻게 계산해요?

p-값이 정규분포 꼬리의 면적이라고 했어요. 그럼 면적을 어떻게 구하지? 라는 질문이 남아요. 답은 6강·7강에서 배운 표준화(Standardization)예요.

1단계 · 표본평균을 z-값으로 바꿔요

\(\bar{X}\)은 정규분포 N(\(\mu , \sigma^2/n\))을 따르죠. 이걸 표준정규 N(0, 1)로 옮겨요.

여기서 \(\mu\)는 \(H_0\)가 주장하는 값을 그대로 넣어요. (예: \(H_0\)가 \(\mu\) = 100이면 100을 대입.)

2단계 · z 값을 Z-표에서 찾아요

Z-표는 표준정규의 누적확률을 알려주는 표예요. 우리가 알고 싶은 건 "z만큼 또는 그보다 더 극단인 영역의 확률" — 즉 꼬리 면적이에요.

예시로 따라가 보기

① 표준오차: \(\sigma /\sqrt{n}\) = 12/\(\sqrt{36}\) = 12/6 = 2.

② z-값: z = (105 − 100) / 2 = 2.5.

③ 꼬리 확률: Z-표에서 P(Z > 2.5) \(\approx\) 0.0062.

④ p-값(양측): 2 × 0.0062 \(\approx\) 0.0124 = 1.24%.

결론 짓기 — 기각? 보류?

p-값을 구했어요. 이제 판결을 내려야죠. 가설 검정의 결론은 딱 두 가지밖에 없어요.

그럼 "얼마나 작아야" 기각해요?

여기서 자연스럽게 다음 질문이 나와요. p-값이 0.04면 기각? 0.06이면 보류? 그 기준선이 바로 다음 장의 주인공, 유의수준 \(\alpha\)예요.

유의수준 \(\alpha\) — "얼마나 작아야 작은가"

p-값은 "이 표본이 얼마나 희귀하냐"의 숫자예요. 그럼 도대체 얼마나 희귀해야 \(H_0\)를 버릴 결심을 할 수 있을까요?

이 기준선을 유의수준 \(\alpha\)라고 해요. 흔히 5%, 1%, 10%를 써요.

판정 규칙 (Decision Rule)

\(\alpha\)의 진짜 의미 — "1종 오류 허용 한도"

\(\alpha\)는 단순히 컷오프가 아니에요. "\(H_0\)가 진짜 맞는데도 우리가 기각해 버리는 실수의 확률"이에요.

\(\alpha = 0.05\)라는 건 이런 약속이에요.

"\(H_0\)가 진짜 참인데도, 우리가 운 나빠서 기각해 버릴 확률은 5%까지는 허용할게요."

이 "허용 한도"를 작게 잡을수록 (예: 1%) 우리는 더 신중해져요. 진짜 강력한 증거 없이는 \(H_0\)를 안 버려요. 대신 진짜 \(H_1\)이 맞을 때 그걸 놓칠 위험은 좀 커져요. (이게 2종 오류! 9장에서)

같은 데이터, 다른 결론?

아까 예시(p-값 = 0.0124)로 돌아가 볼게요.

같은 표본이지만 기준선을 어디로 두냐에 따라 결론이 달라져요. 그래서 보고서에는 항상 "유의수준 ◯%에서"라는 단서를 같이 써요.

가설 검정 5단계 — 한 페이지에 정리

여기까지 배운 내용을 정리해볼게요. 어떤 가설 검정 문제도 이 5단계로 풀려요.

예시 한 번 더 — 전체 흐름

① 설정: \(H_0 : \mu\) = 170, \(H_1 : \mu \ne\) 170 (양측).

② 표본: n = 50, \(\bar{X}\) = 173, \(\sigma\) = 7.

③ 표준화: 표준오차 = 7/\(\sqrt{50} \approx\) 0.99. z = (173 − 170)/0.99 \(\approx\) 3.03.

④ p-값: P(Z > 3.03) \(\approx\) 0.00122. 양측이니 × 2 \(\approx\) 0.00244.

⑤ 결론: p = 0.00244 < 0.05 = \(\alpha\) → \(Reject H_0\).

1종 오류·2종 오류 — H.T.가 틀릴 때

가설 검정은 표본으로 판단을 내려요. 표본은 항상 일부예요. 그래서 결론은 가끔 틀려요. 잘못될 수 있는 방향이 두 가지인데, 이름을 외워둘게요.

그래서 가설 검정은 "1종 오류를 \(\alpha\) 이하로 막는 것"을 최우선으로 해요. \(\alpha\)를 작게 잡을수록 1종 오류는 줄지만, 2종 오류는 늘어나는 트레이드오프가 있어요.

양측 검정 vs 단측 검정

지금까지 살펴본 예시는 \(H_1\)이 "\(\ne\)"인 경우, 즉 양측 검정(two-sided)이에요. 그런데 \(H_1\)이 한 방향만 묻는 경우가 있어요. 그게 단측 검정(one-sided)이에요.

양측이 자연스러운 경우

단측이 자연스러운 경우

그림으로 비교

p-값 공식 비교

단측 검정 — 한 번 더 정밀하게

단측 검정에서 핵심은 "\(H_1\)이 가리키는 쪽이 극단"이라는 거예요. 반대쪽으로 빠진 표본은 아예 의심할 이유조차 안 생겨요.

경우 A · \(\bar{X}\)이 \(H_1\) 방향으로 빠짐 (의심 가능)

경우 B · \(\bar{X}\)이 반대쪽으로 빠짐 (의심 불가능)

왜 "등호 케이스(\(\mu\) = \(\mu_0\))만" 계산해도 충분?

단측에서 \(H_0\)는 보통 "\(\mu \le \mu_0\)" 처럼 여러 값을 포함해요. 그럼 모든 가능한 \(\mu\)값을 다 따져야 하는 거 아닌가? 라는 생각이 들 수 있어요. 다행히 그럴 필요가 없어요.

그림처럼 \(\mu\)가 작아지면(=\(H_0\)의 더 안쪽으로 들어가면) \(\bar{X}\) = 115는 점점 더 "튀는" 값이 돼서 p-값이 작아져요. 그러니 \(\mu\) = 100(경계)에서 p-값이 가장 커요. 이 가장 큰 p-값이 \(\alpha\)보다도 작다면, 다른 모든 케이스도 자동으로 \(\alpha\)보다 작아요.

비율 (Proportion)에 대한 가설 검정

지금까지는 모평균 \(\mu\)를 다뤘죠. 이번엔 모비율 \(p\) (예: 한국 사람 중 커피 마시는 사람 비율)를 검정해 봐요.

좋은 소식: 거의 모든 게 똑같아요. 표준오차의 모양만 살짝 달라요.

표준오차의 모양

7강에서 배운 대로, 모비율 p가 주어지면 표본비율 \(\bar{p}\)의 표준오차는:

표본평균 \(\bar{X}\)의 SE가 \(\sigma /\sqrt{n}\) 이었던 것처럼, 비율은 \(\sqrt{\(p(1-p)/n\)}\) 로 살짝 바뀌어요. 여기서 \(\sigma^2\) ↔ p(1−p)라고 생각하면 돼요. (비율의 분산이 p(1−p)니까)

z-값 공식

여기서 \(p_0\)는 \(H_0\)가 주장하는 값이에요. (예: \(H_0\)가 p = 0.75면 \(p_0\) = 0.75.)

SE의 분모 안에 들어가는 p에도 \(p_0\)를 그대로 써요. (왜? "\(H_0\)가 참이라고 가정"하니까!)

예시 — 30번 슬라이드 그대로

① 표준오차: \(\sqrt{0.75 \times 0.25 / 50}\) = \(\sqrt{0.00375} \approx\) 0.0612.

② z-값: (0.78 − 0.75) / 0.0612 \(\approx\) 0.49.

③ p-값(양측): P(Z > 0.49) \(\approx\) 0.312. × 2 \(\approx\) 0.624.

④ 결론: 0.624 ≫ 0.05 → Fail to reject. p = 75%일 가능성을 부정할 증거 없음.

두 평균 비교 — 독립 표본

이제 한 단계 더 나아가요. 한 집단이 아니라 두 집단을 비교하는 검정이에요. 예: 서울 학생들 점심값 평균 \(\mu_S\) vs 도쿄 학생들 점심값 평균 \(\mu_T\).

가설을 차이로 표현

"같다 vs 다르다"를 차이의 형태로 써요.

차이 D = \(\mu_S\) − \(\mu_T\)가 0이냐 아니냐의 검정으로 환원돼요. 한 집단 검정과 똑같은 모양이죠!

\(\bar{X}_S\) − \(\bar{X}_T\) 의 분포

각 집단에서 표본평균을 따로 뽑아요. 두 표본이 독립이면 (서로 다른 집단이라 영향 없음):

z-값 공식

"−0"인 이유: \(H_0\)가 "차이가 0"이라고 주장하니까요.

예시 — 슬라이드 33 그대로

① 차이: 155 − 157 = −2.

② 표준오차: \(\sqrt{250/50 + 400/70}\) = \(\sqrt{5 + 5.71}\) = \(\sqrt{10.71} \approx\) 3.27.

③ z-값: −2 / 3.27 \(\approx\) \(-0.61\).

④ p-값(양측): 2 × P(Z > 0.61) \(\approx\) 2 × 0.271 \(\approx\) 0.542.

⑤ 결론: 0.542 ≫ 0.05 → Fail to reject. 두 도시 평균에 차이 있다는 증거 없음.

두 비율 비교 — 합쳐서 \(\bar{p}\) 만들기

두 집단의 비율을 비교할 때도 같은 발상이에요.

SE에 들어가는 p가 문제

두 평균 때처럼 SE = \(\sqrt{p_S(1-p_S)/n_S + p_T(1-p_T)/n_T}\) 로 쓰고 싶어요. 그런데 우리는 진짜 \(p_S , p_T\)를 모르잖아요. 어떻게 처리해야 할까요?

합친 비율 \(\bar{p}\) (pooled proportion)

각 집단의 비율을 표본 크기로 가중평균 한 거예요. 큰 표본의 비율에 더 무게를 둬요.

z-값 공식

예시 — 슬라이드 34~36 그대로

① 합친 비율:

\(\bar{p}\) = (50 × 0.62 + 80 × 0.65) / (50 + 80) = (31 + 52) / 130 = 83/130 \(\approx\) 0.6385.

② 표준오차:

SE = \(\sqrt{ 0.6385 \times 0.3615 \times (1/50 + 1/80) }\) = \(\sqrt{ 0.2308 \times 0.0325 }\) = \(\sqrt{0.0075} \approx\) 0.0866.

③ z-값: (0.62 − 0.65) / 0.0866 \(\approx\) \(-0.347\).

④ p-값(양측): 2 × P(Z > 0.347) \(\approx\) 2 × 0.364 \(\approx\) 0.728.

⑤ 결론: 0.728 ≫ 0.05 → Fail to reject. 두 도시 비율 차이 증거 없음.

짝 표본 검정 — 같은 사람 안에서 비교

7강에서 짝 표본을 배웠죠. "한 사람의 본관 vs 기타식당 식비"처럼 같은 단위에서 두 측정을 비교하는 경우. 가설 검정으로도 똑같이 다뤄요.

왜 짝 표본이 따로 있나요?

두 평균 비교(13장)는 표본이 독립이어야 했어요. 그런데 같은 사람한테서 두 값을 측정하면 두 측정이 서로 묶여 있어요. 김민수의 본관 식비와 김민수의 기타 식비는 그 사람의 식습관·소득 같은 공통 요인을 공유하니까요.

이걸 처리하는 핵심 트릭은 차이를 미리 계산해서 한 표본 문제로 바꾸는 것이에요.

차이 D 변환

가설과 통계량

z(또는 t)-값:

표본이 충분히 크면 Z로, 작으면 자유도 \(n - 1\)인 t-분포로. (이번엔 Z 케이스 위주.)

독립 vs 짝 — 한 표로 비교

맺는 글 · 의심을 다루는 법

가설 검정은 결국 "지금까지 얘기가 진짜인가?"를 객관적으로 따져보는 방법이에요. 한 표본을 손에 쥐고, 그것이 흔한 일인지 희귀한 일인지 따져요.

희귀하면 의심해요. 흔하면 그냥 둬요. 그 결정을 위해 p-값이라는 숫자를 만들고, \(\alpha\)라는 기준선과 비교해요. 그게 전부예요.

오늘의 장면 요약

• 가설은 짝지어 와요 — \(H_0\)(기존 얘기) vs \(H_1\)(새 얘기)
• 등호는 항상 \(H_0\) 쪽
• p-값 = "\(H_0\) 아래서 내 \(\bar{X}\)만큼 극단일 확률"
• z = (\(\bar{X}\) − \(\mu_0\)) / (\(\sigma /\sqrt{n}\)). 양측이면 ×2.
• p < \(\alpha\) → Reject \(H_0\). 아니면 Fail to Reject.
• "Fail to Reject"는 "\(H_0\)가 맞다"가 아니에요
• 1종 오류 = \(\alpha\). 2종 오류 = \(\beta\).
• 양측 / 오른쪽 단측 / 왼쪽 단측 — \(H_1\)의 부등호 방향이 결정
• 비율: \(\sigma^2\) ↔ p(1−p), 나머지는 똑같음
• 두 평균 비교: 차이 / \(\sqrt{SE 두 개 합}\)
• 두 비율 비교: 합친 비율 \(\bar{p}\)로 SE 계산
• 짝 표본: D = X − Y 만들면 한 표본 문제로 환원

다음 강의 예고