유효숫자에 관해서

과학 문제를 풀 때면 항상 헷갈리는 것이 바로 소수를 어디까지 써야 할 지의 문제이다. 이것을 해결해줄 개념이 바로 유효숫자다.

유효숫자는 왜 쓸까

일단 이러한 문제가 왜 생기는 지 알아보자. 가장 큰 이유는 과학에서 소수를 사용하기 때문이다. (당연하다. 소수를 쓰니까 소수가 문제가 된다...) 수학과 달리 과학은 분수를 많이 쓰지 않는다. 정확도가 떨어지는 것 아니냐 반문할 수 있다. 그러나 과학에서는 부정확한 정도조차 중요하기에 (뒤에서 더 자세히 설명한다.) 소수를 주로 사용한다.

두 번째 이유는 앞서 언급한 바와 같이 부정확한 정도를 알기 위해서 이다. 다음 예시를 보자.

A가 B보다 '부정확하게' 측정했다. A는 \(1.4999\dots\ \text{m}\)인지, \(0.5\ \text{m}\)인지 모른다. (반올림을 하였다. 이에 대해서는 역시 뒤에서 자세히 다룬다.) 반면 B의 측정을 토대로 하면 A에 비해 정확하다는 것을 쉽게 알 수 있다. \(1.00499\dots\ \text{m}\)에서 \(0.995\ \text{m}\)까지이기 때문이다. 비교하면 A는 \( \pm 1 \)의 오차, B는 \(\pm 0.01\)의 오차를 가진다고 할 수 있다. 별거 아닌 듯 보일 수 있지만 실험을 할 때 이 오차라는 개념이 중요해진다.

실제 실험에서 우리는 '최소 눈금의 1/10'까지 측정하는 것을 원칙으로 한다. 예를 들어 최소 눈금이 \(1\ \text{mm}\)인 자가 있으면 우리는 \(0.1\ \text{mm}\)까지 측정해서 \(10.5\ \text{mm}\)나 \(3.0\ \text{mm}\)와 같이 나타내어야 한다. (이때 1/10을 어떻게 정확히 측정하느냐? 이건 눈대중이다.)

특히 오차는 계산을 반복할 수록 커지는 만큼, 얼만큼의 정확도로 측정했는지가 실제 실험에서 중요한 요소이다. 그래서 정확도를 나타내는 방법으로 유효숫자를 쓴다.

유효숫자 찾기

유효숫자의 개념을 알았다. 이제는 유효숫자를 직접 찾아야 한다. 유효숫자를 찾는 것은 아주 아주 간단하다. 말 그대로 숫자를 세면 된다. 직접 해보면서 배우자.

유효숫자가 나온 이유와 그 의의를 고려하면 더 쉽게 이해할 수 있다.

유효숫자의 계산

이제 하이라이트이다. 측정한 값을 가지고 계산할 때, 그 연산에 따라 유효숫자를 처리하는 규칙이 존재한다. 일단 기본적인 원칙을 배우자.

생각해보면 당연하다. 가장 믿을 수 없는 값을 보루로 하여 계산한다. 이때 각 연산에서 가장 부정확한 값을 고르는 법을 배운다고 생각하면 더 쉽게 이해할 수 있다. 역시 문제를 풀며 배워보자.

반올림

계산 결과는 반드시 반올림 해준다. 반올림이 뭐가 어렵냐고 할 수 있다. 맞다. 쉽다. 그러나 다른 일상 속 반올림과는 다른 부분이 하나 있다. 다음 예시를 보자.

우선 답은 둘 다 1.2이다. 일상에서는 각각 1.3, 1.2이겠지만, 과학에서는 뒷자리가 5일 경우, 앞자리가 짝수가 되도록 맞춘다.

추가

추가적으로 유효숫자는 마지막에 따지는 게 원칙이다. 따라서 계산 중간 중간 유효숫자를 맞추어 답을 낸다면 오차가 커진다. 계산을 할 때는 틈틈이 유효숫자를 맞추는 것이 아닌, 마지막 연산에서 한번에 따지도록 하자. 이 원칙은 처음에 언급했던 실험에서 유효숫자가 필요했던 이유와 일맥상통한다.