집합이라는 개념은 수학은 물론 논리를 사용하는 모든 학문을 떠받치는 밑바탕입니다. 너무나도 기본적인 개념이기 때문에 지금까지 엄밀한 집합의 정의를 배워보지 못한 사람이 많을 것이고, 불과 약 100년 전까지만 해도 수학자들조차 집합을 제대로 정의하고 있지 않았습니다. 소박한 집합론 (Naive set theory) : 집합은 특정 조건을 만족하는 대상들의 모임이다. 이정도의 간결한 정의를 받아들이고 있었을 뿐이었죠. 이 기사에서는 이런 엄밀하지 못한 수학체계가 수학에 어떤 문제를 일으켰고, 어떻게 해결되었는지를 알아보려고 합니다.
러셀의 역설
1901년 영국의 수학자 버트런드 러셀은 놀라운 발견을 합니다. 이전의 집합론으로부터 참이어도 안되고, 거짓이어도 안되는 명제를 이끌어내면서 이전의 논리 체계의 모순을 지적한 것이죠. 그것이 바로 러셀의 역설이었습니다. 러셀의 역설은 보통 이발사의 역설이라는 대중적인 형태로 잘 알려져 있습니다. 이발사의 역설을 설명하자면 다음과 같습니다. 시실리아 마을에 한 이발사가 있다. 그 이발사는 마을 사람들 중 ‘스스로 면도를 하지 않는 사람’에게는 모두 면도를 해주지만, ‘스스로 면도를 하는 사람’에게는 면도를 해주지 앟는다. 그 이발사는 자기 스스로 면도를 하는가?
만약 이발사가 스스로 면도를 한다면, 스스로 면도를 하는 사람에게 면도를 해준 것이므로 모순이 됩니다. 또한 이발사가 스스로 면도를 하지 않는다면, 스스로 면도를 하지 않는 사람에게 면도를 해주지 않은 것이므로 이것도 모순이 됩니다. 따라서 이발사는 스스로 면도를 할 수도, 하지 않을 수도 없는 모순에 빠집니다. 이를 기호로 표현해보면 다음과 같습니다.
A를 위와 같이 정의하면 A가 A에 속하면 속하지 않아야하고, 속하지 않으면 속해야하는 모순에 빠집니다. 소박한 집합론에 따르면 위와 같은 집합 A가 존재하지 않을 이유가 없으니, 명백한 모순히 발견된 것입니다.
단 하나의 모순이 주는 영향
그런데, 러셀의 역설이 수학에 정말 치명적인 결함을 일으킨걸까요? 단순히 그 하나의 명제의 참 거짓을 분명히 할 수 없다는 결론으로 끝낸다면 큰 문제는 없지 않았을까요? 아쉽게도 그렇지는 않았습니다. 수학에서는 아주 조그마한 결함만으로도 수학 전체를 흔들 수 있는 큰 폭발이 일어날 수 있기 때문입니다.
만약 어떤 수학체계에서 한 명제 P에 대해 모순이 생겼다고 해봅시다. 달리 말하면, ‘P는 참이다.’와 ‘P는 거짓이다.’가 모두 보여질 수 있다는 가정을 하는 것입니다. 그러면 다음 논리가 성립합니다. [1] P는 참이다. [2] 임의의 명제 Q에 대해 [1]에 의해 P 또는 Q가 참이다. [3] P는 참이 아니다. [4] [2]와 [3]에 의해 Q는 참이다. 이렇게 단 하나의 모순만 발생해도 어떤 명제든 그것이 참임을 증명할 수 있게 되는 현상이 벌어지고, 우리는 이것을 ‘폭발 원리’라고 부릅니다. 그렇다면, 만약 우리가 모순이 포함된 집합체계를 그대로 사용한다면 1+1=3과 같은 당연히 거짓인 명제를 참으로 받아들여야하는 것과 같은 큰 문제를 겪습니다. 따라서 수학자들은 지금까지 발견한 수학적 지식이 모두 무너지는 것을 막기 위해 즉시 새로운 집합체계를 마련해야하는 상황에 놓였습니다.
공리적 집합론
집합이 너무나도 기본적인 것이어서 규정할 필요가 없다는 생각에서 벗어나, 집합을 규정함으로써 러셀의 역설의 위험을 피해보려는 시도가 20세기 초에 ‘공리적 집합론’을 만드는 것으로 시작되었습니다. 그 때 만들어진 공리계 중 하나가 체르멜로(Zermelo) 공리계이고, 거기에 프렝켈(Fraenkel)의 공리과 선택공리(Axiom of Choice)가 추가되면서 오늘날 사용되는 ZFC 공리계가 완성됩니다.
ZFC 공리계는 우선 집합과 포함관계(∈)를 무정의용어로 둔 후 집합이 가져야하는 9가지 공리를 제시하는 형태로 이루어져 있습니다. 그 9개의 공리 중에는 러셀의 역설에서 문제삼은 ‘자기 자신을 원소로 가지지 않는 것들이 집합’이 존재하지 않게 만드는 공리도 있습니다. 분류 공리꼴 (Axiom Schema of Specification)
임의의 집합 X에 대해 성질 p를 가지는 원소들로 이루어진 부분집합 A가 존재한다. 분류 공리가 특정 성질을 만족하는 원소들의 집합을 부분집합으로 한정함으로써, ZFC 공리계는 러셀의 역설에서의 집합 A가 존재하지 않더라도 공리에 아무런 문제가 생기지 않도록 하는데 성공했습니다.
아직도 완벽하지 않다
우리가 현재 사용하는 수학체계에서도 모순이 발견될 수 있을까요? 괴델이 발표한 불완전성 정리에 따르면 ZFC 공리계가 자신의 공리를 이용해 스스로 무모순성을 보이는 것은 불가능하다고 합니다. 아직은 어떤 모순적인 명제도 발견되지 않긴 했지만 완전히 안심할 수는 없다는 것입니다. 만약 ZFC 공리계에서도 또 한번 모순이 발견된다면, 우리는 폭발원리로 모든 지식을 잃지 않기 위해 다시 한번 체계를 손보아야 할 것입니다.
김태완│Mathematics & Computer Sci.│지식더하기
참고자료
[1] https://terms.naver.com/
[2] https://www.dongascience.com/
첨부 이미지 출처
[1] https://terms.naver.com/
[2] https://storyset.com/illustration/barber/pana
[3] https://ko.depositphotos.com/
[4] https://www.mathvalues.org/masterblog/proving-unprovability
