설문 200부를 돌렸는데”표본이 너무 적다”는 지적을 받았습니다.
어떤 학생은 150명으로 통과했는데,어떤 학생은 300명을 채우고도같은 지적을 받습니다.
기준이 대체 뭘까요?
답은 간단합니다.
표본수는 숫자 하나로 정해지는 게 아니라연구방법·효과크기·목표 검정력이 함께 만드는 결과값입니다.
논문 표본수를 둘러싼 이 혼란, 오늘 원칙부터 방법론별 기준까지 차근차근 정리하겠습니다.
표본수는 ‘감’이 아니라 검정력 분석으로 정합니다
이 질문에 답하려면 먼저 검정력 분석(power analysis)이라는 틀을 알아야 합니다.여기에는 네 가지 요소가 서로 맞물려 있습니다.
효과크기, 검정력(1-β), 유의수준(α), 표본수.
이 네 값 중 세 개를 정하면 나머지 하나가 자동으로 계산됩니다.
보통은 효과크기·검정력·유의수준을 먼저 정하고 표본수를 역산하는 방식입니다.
검정력(1-β)은 “실제로 효과가 존재할 때 그 효과를 통계적으로 검출해낼 확률”이며 관행적으로 0.80(80%) 이상을 목표로 삼습니다.
유의수준(α)은 “실제로는 효과가 없는데 있다고 잘못 판단할 확률”의 최대 허용 한계이며 보통 0.05를 씁니다.
효과크기는 차이나 관계의 강도를 나타내는 값입니다.
코헨(Cohen, 1988)은 검정 종류별로 작은·중간·큰 효과크기 기준값을 제시했는데, 회귀분석에서 쓰는 f² 값은 작은 효과 .02, 중간 효과 .15, 큰 효과 .35입니다.
여기서 중요한 사실이 하나 있습니다.
표본수를 2배로 늘려도 검정력이 2배가 되는 것은 아닙니다.
효과크기가 클수록 필요한 표본수는 줄고, 효과크기가 미묘할수록(작을수록) 더 많은 표본이 필요합니다.
실제 계산 예시를 보면 감이 옵니다.
독립표본 t-검정(양측, α=.05, 검정력 80%) 기준으로 집단당 필요 표본수는 작은 효과(d=0.2)일 때 394명, 중간 효과(d=0.5)일 때 64명, 큰 효과(d=0.8)일 때 26명입니다.
같은 t-검정인데도 효과크기 하나에 따라 필요 표본수가 10배 넘게 차이 나는 이유입니다.
반대로 표본이 지나치게 크면 또 다른 문제가 생깁니다.
표본이 매우 크면 실질적으로 무시해도 될 만큼 작은 차이까지 “통계적으로 유의함”으로 잡아내 실무적으로 의미 없는 차이를 문제로 오인할 수 있습니다.
반대로 표본이 극히 작으면(예: n=5) 실제 존재하는 뚜렷한 변화조차 40% 확률로만 감지되어 60% 확률로 놓치게 됩니다.
그러니 표본수 결정의 원칙은 “무조건 많이”가 아니라목표 검정력(보통 80~90%)을 달성하는 선에서 연구의 실무적 중요성과 비용·시간을 함께 고려해 정하는 것입니다.
이 유형은 “우리 연구방법이 요구하는 최소 표본수가 얼마인가”를 봅니다.같은 “표본수 부족”이라는 지적도 방법론마다 기준이 완전히 다릅니다.
집단당 최소 30명이 관행적 기준이지만 효과크기를 반영하지 않은 거친 지표. n=30, α=.05(편측), 검정력 .80 기준이면 필요한 효과크기가 약 0.42로 커진다
모형에 따라 30명~460명까지 폭넓게 달라진다(Wolf 외, 2013). 지표들의 공통분산이 높고 요인이 뚜렷할수록 적은 표본으로도 가능
절대 기준은 학자별로 상이 — Kline(1994) 100명, Comrey & Lee(1992) 300명 양호·1,000명 우수, Tabachnick & Fidell(2001) 300명 권장. 변수 대비 비율로는 변수당 5~10명이 자주 쓰이는 경험칙
사전에 고정된 숫자가 아니라 “자료 포화(data saturation)”가 기준. 일반적으로 5~30건 인터뷰 범위에서 제시되며, 동질적 대상·좁은 연구목적이면 9~17건에서 포화에 도달하는 경우가 많다
t-검정·회귀분석은 “집단당 최소 30개”라는 말을 많이 듣습니다.
사실 이건 중심극한정리에 근거한 매우 거친 지침일 뿐, 효과크기를 고려하지 않은 기준입니다.
구조방정식(SEM)은 특히 오해가 많은 영역입니다.
오랫동안 “표본수 대 변수수” 같은 단순 비율 규칙에 의존해왔지만, Wolf 외(2013)의 몬테카를로 시뮬레이션 연구에 따르면 모형에 따라 필요한 표본수는30명에서 460명까지폭넓게 달라집니다.
지표(측정변수)의 공통분산이 높고 요인이 뚜렷하게 결정되는 모형이면 적은 표본으로도 적절한 추정이 가능하지만, 공통분산이 낮으면 훨씬 큰 표본이 필요합니다.
요인분석(EFA)은 학자별 기준이 가장 갈립니다.
Kline(1994)은 “구조가 명확하면 100명으로 충분하다”고 봤고, Comrey & Lee(1992)는 “100명은 부족, 300명은 양호, 1,000명 이상은 우수”라고 구분했습니다.
한쪽은 100명, 다른 쪽은 300명을 “충분하다”의 기준으로 삼는 셈입니다.
변수 대비 비율로는 Nunnally(1978)가 변수당 10명, Hatcher(1994)가 변수당 5명(또는 최소 100명 중 큰 쪽)을 각각 제시했습니다.
질적연구는 접근 자체가 다릅니다.
양적연구처럼 사전에 표본수를 고정하지 않고, “새로운 자료를 더 모아도 더 이상 새로운 통찰이 나오지 않는 시점”, 즉 자료 포화(data saturation)를 기준으로 삼습니다.
문헌상 가이드라인은 보통5~30건 인터뷰범위로 폭넓게 제시되며, 비교적 동질적인 연구 대상이고 연구 목적이 좁게 정의된 경우인터뷰 9~17건, 포커스그룹 4~8건내외에서 포화에 도달하는 경우가 많았습니다.
G*Power로 표본수를 직접 계산하는 법
이 유형은 “말이 아니라 숫자로 표본수 근거를 보여달라”를 봅니다.말보다 숫자로 대응해야 합니다.
G*Power는 무료로 제공되는 표본수·검정력 계산 소프트웨어로, t검정·F검정·카이제곱검정·Z검정 등 다양한 통계기법의 표본수·검정력 계산을 지원합니다.
G*Power가 지원하는 검정력 분석은 5가지입니다.
사전분석(a priori): 효과크기·α·검정력을 정해 필요한 표본수(N) 계산사후분석(post-hoc): 이미 정해진 N으로 검정력 계산절충분석(compromise): 효과크기와 N의 균형 조정기준분석(criterion): 유의수준 결정민감도분석(sensitivity): 주어진 조건에서 검출 가능한 효과크기 계산
논문 표본수를 산정할 때 가장 많이 쓰는 것은 ①번, 사전분석입니다.
실제 사용 절차(독립표본 t검정 기준)는 이렇습니다.
Test family에서 “t tests” 선택Type of power analysis에서 “A priori” 선택효과크기(Cohen’s d 등) 입력유의수준 α(보통 0.05) 입력목표 검정력(보통 0.80 이상) 입력Calculate 클릭Output Parameters의 Total sample size 값 확인
여기서 막히는 지점이 하나 있습니다.효과크기를 직접 가정해야 한다는 것입니다.이때는 선행연구·유사 연구에서 보고된 효과크기를 참고해 작은·중간·큰 수준 중 어디에 해당하는지 판단하는 방식이 권장됩니다.
한편 설문조사형 연구(모집단 비율 추정)에서는코크란(Cochran) 공식이 널리 쓰입니다.
공식은 n₀ = Z²·p(1-p)/e² 이며, Z는 신뢰수준에 대응하는 z값(95% 신뢰수준이면 1.96), p는 예상 비율(불확실하면 가장 보수적인 0.5), e는 허용 오차범위입니다.
95% 신뢰수준, p=0.5, 오차범위 ±5%를 적용하면 필요한 표본수는 약 385명으로 계산됩니다.
이 유형은 “이미 수집을 끝냈는데 표본이 부족하면 어떻게 하나”를 봅니다.정면 돌파가 답은 아닐 때도 있습니다.수집이 끝난 상황이라면 표본을 늘리는 것 말고도 몇 가지 대응 경로가 있습니다.
비모수 검정으로 전환하는 방법입니다.
모수 검정에 필요한 표본수 지침을 충족하지 못하거나 데이터가 정규분포를 따르는지 확신할 수 없을 때 비모수 검정을 대안으로 고려할 수 있습니다.
리커트 척도 같은 서열형 데이터, 이상치(특이치)에 강하다는 것이 장점입니다.
다만 표본이 극히 적으면 비모수 검정도 검정력이 함께 약해져 실제 존재하는 효과를 발견하기 어려워집니다.비모수 검정이 “적은 표본 문제”를 완전히 해결해주는 만능 대안은 아닌 이유입니다.
재표본추출(resampling)·부트스트랩(bootstrap)활용도 있습니다.
부트스트랩은 무작위 복원추출로 표집분포를 추정하는 기법으로, 모수 가정이 의심스럽거나 전통적 통계 방법을 적용하기 어려운 상황에서 통계량과 신뢰구간을 추정하는 대안으로 쓰입니다.
효과크기·연구설계 재검토도 가능합니다.
검정력 분석의 네 요소는 서로 맞물려 있으므로, 표본수를 늘릴 수 없다면 측정의 정밀도를 높여 오차분산을 줄이는 방식으로 검출력을 보완하는 접근이 이론적으로 가능합니다.
유의수준을 완화(0.05 → 0.10)하는 방법도 있지만, 이는 제1종 오류 위험을 높이므로 신중해야 합니다.질적연구로의 전환 또는 혼합연구 설계도 고려할 수 있습니다.
목표 표본수 확보가 근본적으로 어려운 특수 모집단(희귀질환자, 특정 소수 전문가집단 등) 연구라면,애초에 포화(saturation) 개념에 기반한 질적연구 설계가 대안이 될 수 있습니다.
결국 표본수는 방법론과 함께 결정됩니다
논문 표본수는 “몇 명 이상”이라는 절대 숫자가 아니라
연구방법·효과크기·목표 검정력이 맞물려 만드는 결과값입니다.
원고, 통계분석 계획, 목표 표본수(또는 이미 수집한 표본수)를 보내주시면
방법론에 맞는 표본수 근거와 심사 대응 방향을 함께 검토해드릴 수 있습니다.
누적 컨설팅 500건 이상의 경험을 바탕으로 심사 통과율 95%,
고객 만족도 98%를 유지하고 있습니다.
표본수는 감이 아니라, 근거로 정하는 것입니다.
#논문표본수#표본수산출#검정력분석#GPower사용법#효과크기#논문통계#SPSS분석#구조방정식논문#요인분석표본수#질적연구컨설팅#석사논문컨설팅#박사논문컨설팅#논문통계컨설팅#SKY논문통계연구소#skybrain
▶ 통계분석 컨설팅 자세히 보기