[중요]수학 부호를 미지의 기호로 만들어 계산하는 분야도 있나요?

현대수학은 (물론, 이 범주를 넘어 proper class 혹은 category theory 등이 필요한 경우도 많이 나오지만) 대체로 ZFC 공리계 안에서 서술됩니다. ZFC 공리계란 집합론으로, 모든것을 집합으로 표현합니다. 수도 집합이고, 함수도 집합이고(그래서, 보통 function 보다는 map 이란 용어도 많이 씁니다.), 함수가 집합이니 당연히 + 도 집합이고, - 도 집합이고, etc. 이렇게 됩니다. 그리고, 일단, 집합으로 표현되면 다른 집합과 똑같이 다루는게 가능합니다. {1,+,3,-,+(-)} 이런식으로 정의도 가능하고 아무런 문제도 없죠. 그리고, 대수학은 일반적으로 대수적 '구조'에 대하여 연구하는 학문입니다. 현대수학에선 구조, 또는 공간이란 단어가 자주 등장하는데 사실 현대수학 자체가 추상적 구조에 대한 학문이라 봐도 문제가 없고요. 공간이란 단어는 보통 임의의 집합에 added structure 를 통해 만들어진 구조에 자주 쓰입니다. 즉, 위상공간이라 함은 임의의 집합 X 와 X 에 더해진 topology 라는 structure 를 통해 정의되고요. 결국, {+,-,*} 같은 집합에 임의의 위상구조만 얹어주면 operator 로 구성된 위상공간이 형성되고, group structure 를 얹어주면 group 이 된다고 보시면 됩니다.(이렇게 만들어진 임의의 공간이 어디 쓸데가 있냐는 둘째문제고요.) 현대수학에 '점'이란 용어에 대한 정의가 없는 이유도 이때문입니다. 예를들어 R^2 에서의 모든 직선의 집합으로 이루어진 공간과 뫼비우스의 띠는 위상적으로 동일한 구조를 갖는다와 같은 명제에서 모든 직선의 집합으로 이루어진 공간의 경우 점=직선이 되버리고 마니까요.

이 집합론보다 한층 추상적인게 category theory 인데, 여기서는 주로 집합으로 표현 불가능한것들을 갖고놉니다. 예를들어, 모든 집합의 집합이란게 집합론에서는 존재하지 않고, proper class 이듯이, 모든 위상공간의 집합 혹은 모든 group 의 집합따위 역시 집합론에서 존재하지 않습니다. 하지만, category theory 에서는 위상공간의 구조를 갖는 모든 위상공간과 그 위상공간을 연결하는 homeomorphism 을 혹은 집합구조를 갖는 모든 오브젝트와 집합간의 함수를 혹은 group 의 대수적 구조를 갖는 오브젝트들과 그것들을 연결하는 homomorphism 을 한데로 묶어서 category 라 명하고, 각각의 category 사이를 functor 라는것으로 넘나들며 놀죠. 재밌는것 하나는, 함수형 언어도 역시 하나의 category 를 이룹니다. data type 을 object 로, 각각의 data type 을 연결하는 program(computable function) 들을 arrow 로 정의해 묶으면 category 가 됩니다. 모든 category 와 각 category 를 연결하는 fuctor 도 하나의 category 로 묶을 수 있고요.

괴델 불완전성 정리 얘기도 나왔는데, 괴델 불완전성 정리는 사실 간단히 표현하면 algorithm structure 를 갖는 class of recursive functions(이 역시 집합으로 표현이 불가능하기에 class 입니다.) 공간을 logical structure 에 embedding 하는것은 불가능하다는 정리입니다. 컴퓨터의 아버지가 튜링이라고 자주 회자되지만, 사실 가장 먼저 이 'algorithm structure'(primitive recursive function)을 고안하고 불완전성 정리같은 대정리에 써먹은건 괴델이 최초입니다. 튜링은 괴델 불완전성 정리 발표 몇년 후에 괴델이 고안한 저 recursive function 모델을 튜링머신이라는 다른 형식으로 표현하여 불완전성 정리를 재차 증명해였고요. 아마 저 튜링머신이라는표현방법이 기계식으로 설계하기가 괜찮아서 컴퓨터의 아버지란 이름을 가져간것같습니다.

그외 컴퓨터 하는분들에게 재밌을만한 분야중 하나는 constructive mathematics 입니다. 일반 스탠다드 수학이 '논리'를 fundamental 로 삼는다면 구성주의 수학은 '알고리듬'을 fundamental 로 삼아 전개해나갑니다. 구성주의 집합론에서 모든 집합은 곧 프로그램입니다. 다만, algorithm structure 가 inducrive structure 이다보니(discrete world 로 이해하시면 됩니다.) 소위 실수집합같은 비가산집합(이건 continous world)은 표현이 불가능합니다. 그래서, 구성주의 수학에서는 실수집합같은게 존재하지 않고요. 재밌는건 구성주의 수학에서는 논리규칙도 스탠다드 수학과는 조금 다르고, truth value 도 일반 수학이 2개 T, ㅗ 라면 구성주의 수학에서는 무한개입니다. 수학은 이래서 재밌죠. ㅎㅎ

쓰다보니 혼자 신나서 완전 삼천포로 빠져버렸네요. ;;