1. 현대 집합론의 탄생 :: 현대 집합론 체계와 수의 정의

현대 집합론 체계와 수의 정의 – 목차

집합론은 수학의 가장 밑바닥에 깔려 있는 학문으로, 집합의 정의와 성질, 그리고 이를 바탕으로 한 수의 정의와 성질들에 대해 다룬다. 너무 자연스럽게 사용하는, 어떻게 보면 정말 ‘뻔하다’ 싶은 내용을 근본부터 체계화시킨다. 그만큼 물리학과 같은 타 응용 학문에는 거의(or 전혀) 쓸모가 없다(..) 그래도 어느정도 관심이 있어(알레프 뭐시기 같은 것을 배워보고 싶기도 하고) 이번 학기에 집합론과 수리논리 수업을 듣고 있는데 꽤 흥미롭다.

집합론이 본격적으로 체계화되기 이전 수학자들과 수리논리학자들은 다음과 같은 사실을 당연하게 받아들이고 있었다. 이는 칸토어의 Intuitive set theory에 포함된다.

x에 의존하는 어떤 명제 p(x)에 대해 p(x)가 참이 되게 하는 x들의 집합은 존재한다.

예를 들면 이런 거다.

‘x는 자연수이면서 3보다 크다’를 만족하는 x들의 집합은 존재한다.
→ {4, 5, 6, …}

‘x는 대한민국의 시민권자이다.’를 만족하는 x들의 집합은 존재한다.
→ {나, 과 친구 A군, 과의 L 교수님, 박근혜, 문재인, 이명박…}

‘x는 0보다 작은 자연수이다’를 만족하는 x들의 집합은 존재한다.
→ {}

정말 생각할 필요도 없어 보인다. 이러니 아무도 의심할 생각을 하지 않았던 것이 당연하다. 프레게와 같은 철학자는 이러한 생각을 바탕으로 논리학과 수리철학, 언어철학을 발전시킨 것이다.1 그런데 그러던 도중 위대한 수학자 겸 철학자 버트런드 러셀이 그 유명한 러셀의 역설이라는 놈을 발견했다.

러셀의 역설

러셀의 역설은 다음과 같이 주어진다.

자기 자신을 포함하지 않는 대상들의 집합을 R라 하자. R이 R에 포함된다면 R의 정의에 위배되므로 R은 R에 포함되지 않는다. R이 R에 포함되지 않는다면 R의 정의에 의해 R은 R에 포함된다.

수학적인 언어로 다시 쓰면 다음과 같다.

Let R = \{ x \ : \ x \in x \}
Then R \in R \Leftrightarrow R \notin R

비수학적인 용어로는 유명한 ‘이발사의 역설’과 유사하다.

만약 세비야에 스스로 이발을 하지 않는 모든 이의 이발만을 해주는 이발사가 있다고 하자. 이 이발사는 이발을 스스로 해야 할까? 만약 스스로 이발을 하지 않는다면, 그 전제에 의해 자신이 자신을 이발시켜야 하고, 역으로 스스로 이발을 한다면, 자신이 자신을 이발시켜서는 안 된다. (출처: 위키백과 – 러셀의 역설)

이 역설이 의미하는 바는 무엇인가? 위에서 제시한 Intuitive set theory를 받아들인다면, 당연히 x \in x 라는 명제가 참이 되게 하는 x들의 집합은 존재해야 한다. 그런데 이 역설은 그렇다면 모순이 발생한다는 사실을 말해준다.

러셀의 역설은 집합론뿐만 아니라 수학 전체를 송두리째 흔들어 놓았다. 지금까지 정말 당연하게 여겨왔던 모든 수학의 추론 체계에 문제가 있다고 밝혀진 것이기 때문이다. 힐베르트 할아버지가 밀어붙였던 ‘수학 전체의 완전하고 모순이 없는 공리계로의 형식화’ 프로젝트가 휴지조각이 될 뻔한 순간이었다.2

이 문제를 해결하기 위해 당대의 수많은 수학자들이 달려들었다. 자, 어떻게 해야 할 것인가. 일단 Intuitive set theory는 폐기해야 할 듯 보인다. 임의의 명제를 만족하는 대상들의 집합이 무조건 존재한다고 말할 수 없다면, 어떤 집합이 존재하는 것인가? 수학자들은 ‘어떤 집합이 존재하는지’를 결정지을 수 있는 공리 체계를 세우기 시작했다.

현대 집합론의 공리 체계

많은 수학자들이 공리 체계를 제안했고, 그 중에서도 ZFC(Zermelo–Fraenkel set theory with the axiom of choice)가 표준적인 공리계로 받아들여지고 있다. 일단, 다루는 모든 대상은 집합이다. 또한, 정의하지 않고 사용하는 용어는 ‘집합’ 그 자체를 제외하고는 단 하나이다.

무정의 용어: \in

즉, ‘집합 A가 집합 B의 원소이다’라는 말은 정의하지 않고 사용한다. 이로부터 공집합을 다음과 같이 정의한다.3

\forall x \ x \notin A 이면 A는 공집합이다.

드디어 첫번째 공리가 나온다. 사실상 수 정의에서 가장 중요한 공리이다.

<존재의 공리 Axiom of Existence>
공집합이 존재한다.
\exists A \ \forall x \ x \notin A

너무 당연한 것 아닌가..라는 생각이 들 수 있는데, 잊으면 안된다. ‘당연해’ 보이는 Intuitive set theory 때문에 이 사단이 난 것이다. 공집합의 유일성은 다른 공리를 이용하면 쉽게 증명할 수 있으며, 이를 \phi 라고 이름붙이자.

나머지 공리들은 두 집합이 같을 조건, 합집합의 존재성, 멱집합(부분집합들의 집합)의 존재성, 무한집합의 존재성, 그리고 그 유명한 선택공리 등에 대해서 논하고 있다. 수 정의에 대해서 빨리 다루고 싶기 때문에 다른 공리들에 대한 설명은 과감히 생략하겠다.4 자세한 설명은 이 글을 참고.

아, 러셀의 역설이 해결되는데 기여를 한 공리는 살펴보자.

<내포의 공리 The Axiom Schema of Comprehension>
p(x) x 에 의존하는 명제라고 하자.5
임의의 A 에 대해서 다음 조건을 만족하는 B 가 (유일하게) 존재한다.6
\forall x \ ( x \in B \Leftrightarrow (x \in A \ \rm and \it \ p(x)))
이 때, B B = \{ x \in A \ : \ p(x) \} 로 표시한다.

복잡해 보이지만 별로 그렇지 않다. 처음에 언급한 Intuitive set theory에서 x가 어떤 다른 집합의 원소여야 한다는 조건을 추가한 것이다. 즉, 집합을 조건제시법의 형태로 정의할 때에는 반드시 이미 정의된 다른 집합의 부분집합 형태로 정의해야 한다. 예를 들면, 다음과 같이 집합을 표시해야 한다.

\{n \in \mathbb{N} \ : \ n > 3 \}
(\{n \ : \ n > 3 \} 이 아니다!7)

이를 이용하면 러셀의 역설은 간단히 해결된다. 집합 R = \{ x \in A \ : \ x \notin x \} 을 정의하면 R 은 애초에 A 에 포함될 수 없으며, 따라서 R \notin R 이라고 해도 아무런 모순이 발생하지 않는다는 것을 쉽게 증명할 수 있다.

이렇게 세운 공리 체계를 바탕으로 드디어 수를 정의할 수 있다.

는 다음 포스팅으로 미루어야겠다ㅠㅠ 당장 중급물리실험 예비리포트가 좀 급하다. 원래 시리즈로 연재할 생각은 없었는데.. 이 글도 양자역학 시리즈처럼 흐지부지될 것 같다는 불길한 예감이 든다.

현대 집합론 체계와 수의 정의 – 목차

  1. 현대철학 수업을 들으면서 프레게의 생각에 많이 감탄했었다. 그런데 그의 생각이 현대 집합론과 양립하려면 많은 수정이 필요할 것 같다.
  2. 사실 그 후에 괴델이 불완전성 정리를 증명하면서 망하긴 했다.
  3. \forall 과 같은 용어는 정의하지 않고 쓰는것인가 하는 의문이 들 수 있는데, \forall 를 비롯해 \exists, and, or 등의 용어를 사용하는 논리학 체계는 집합론 외부에서 잘 정의되었다고 보자.
  4. 나머지 공리들이 수 정의에 있어서 중요하지 않다는 말은 아니다. 사실 매우 매우 중요하다.
  5. 위에 딱히 언급을 안했는데 더 정확히는 속성property라는 용어를 써야 한다.
  6. 유일성은 다른 공리로 증명 가능하다
  7. 어느 집합에 속하는지 생략해도 되는 경우가 있는데 일단은 고려하지 말자.

1 comment

댓글을 남겨주세요.