그래프의 오차 막대가 말해 주는 것, 측정값을 믿을 수 있는 범위

오차 막대는 그래프의 점이나 막대 위아래에 그어진 짧은 선으로, 그 측정값이 얼마나 흔들릴 수 있는지를 보여 준다. 같은 실험을 여러 번 하면 결과는 조금씩 다르게 나오므로, 하나의 숫자만으로는 그 값을 얼마나 믿을 수 있는지 알 수 없다. 오차 막대는 이 불확실성을 눈으로 보이게 한다. 다만 오차 막대에는 여러 종류가 있고 각각 뜻이 달라서, 무엇을 그린 막대인지 모르면 그래프를 거꾸로 읽기 쉽다.

모든 측정에는 흔들림이 있다

자로 같은 책상의 길이를 열 번 재어도 결과가 모두 똑같지는 않다. 눈금을 읽는 각도가 조금씩 달라지고, 자를 대는 위치가 미세하게 어긋나기 때문이다. 이렇게 매번 다른 방향으로 생기는 오차를 우연 오차라고 한다. 반면 자 자체가 늘어나 있어 매번 같은 방향으로 틀리는 오차는 계통 오차라고 한다. 우연 오차는 여러 번 재어 평균을 내면 줄어들지만, 계통 오차는 아무리 많이 재어도 줄지 않는다.

오차 막대는 대개 우연 오차의 크기를 보여 준다. 그래서 오차 막대가 작다고 해서 결과가 옳다는 보장은 없다. 막대가 작다는 것은 측정이 고르게 모여 있다는 뜻이지, 그 값이 참값에 가깝다는 뜻은 아니다. 과녁의 한쪽 구석에 화살이 촘촘히 모여 박힌 모습을 떠올리면 된다.

같은 모양, 다른 뜻

가장 흔히 쓰이는 오차 막대는 세 가지다. 표준편차는 개별 측정값이 평균에서 얼마나 흩어져 있는지를 보여 준다. 사람들의 키가 얼마나 제각각인지를 나타내는 값이다. 표준오차는 평균값 자체가 얼마나 정확한지를 보여 준다. 표본을 많이 모을수록 평균은 더 정확해지므로, 표준오차는 측정 횟수가 늘면 작아진다. 신뢰구간은 표준오차로부터 계산한 범위로, 같은 방법으로 실험을 되풀이했을 때 그렇게 계산한 범위들 가운데 정해진 비율이 참값을 포함하도록 만든 것이다.

종류	무엇을 보여 주나	표본을 늘리면
표준편차	개별 값의 흩어짐	거의 그대로
표준오차	평균의 정확도	작아짐
95% 신뢰구간	평균이 있을 법한 범위	작아짐

세 막대는 모양이 똑같아서 그래프만 보고는 구별할 수 없다. 같은 자료라도 표준편차로 그리면 막대가 길고, 표준오차로 그리면 훨씬 짧아진다. 그래서 논문의 그림 설명에는 어떤 오차 막대를 썼는지와 측정 횟수가 반드시 적혀 있어야 한다. 이 정보가 없는 그래프는 오차 막대가 있어도 제대로 읽을 수 없다.

막대가 겹치면 차이가 없는가

두 집단의 평균을 비교하는 그래프에서 오차 막대가 겹치면 차이가 없다고 읽는 경우가 많다. 이것은 막대의 종류에 따라 맞기도 하고 틀리기도 하다. 95퍼센트 신뢰구간 막대가 조금 겹치더라도 두 평균의 차이는 통계적으로 뚜렷할 수 있다. 반대로 표준오차 막대가 겹치지 않는다고 해서 차이가 확실하다고 말하기도 어렵다. 막대가 겹치는지만 보고 결론을 내리면 틀리기 쉽다는 사실은 연구자들 사이에서도 자주 지적된다.

같은 사람을 실험 전과 후로 두 번 잰 경우에는 더 조심해야 한다. 이때 중요한 것은 두 평균 각각의 흔들림이 아니라 사람마다의 변화량이 얼마나 일정한가다. 두 막대가 크게 겹쳐도 거의 모든 사람이 같은 방향으로 변했다면 효과는 뚜렷하다.

숫자를 몇 자리까지 쓸 것인가

오차를 아는 것은 결과를 몇 자리까지 적을지와도 이어진다. 평균이 12.3478센티미터로 계산되었더라도 측정의 흔들림이 0.2센티미터라면, 소수 둘째 자리 아래의 숫자는 의미가 없다. 이때는 12.3센티미터 앞뒤로 0.2센티미터라고 적는 것이 정직한 표기다. 계산기가 내놓는 긴 숫자를 그대로 옮기면 실제보다 훨씬 정밀하게 잰 것처럼 보이게 된다.

남은 질문

오차 막대는 측정에서 생기는 흔들림을 보여 주지만, 연구자가 모르는 계통 오차나 실험 설계의 한계까지 담지는 못한다. 그래서 여러 연구의 결과를 모아 볼 때, 각 연구의 오차 막대로 예상한 것보다 결과들이 서로 더 크게 어긋나는 일이 종종 있다. 불확실성을 숫자 하나로 요약하는 방법이 충분한지, 아니면 결과마다 가능한 오류의 원인을 함께 적어야 하는지를 두고 통계학자와 연구자들의 논의는 계속되고 있다.