매듭 이론 입문: 풀리는 매듭과 절대 안 풀리는 매듭을 수학으로 구별하는 비법

🤔 1. 수학자가 말하는 ‘매듭’은 신발끈이랑 달라요

일상에서 매듭은 끈 양 끝이 자유로운 상태예요. 그런데 끝이 자유로우면? 사실 어떤 매듭이든 끝을 쏙 빼서 다 풀 수 있죠. 그래서 수학자들은 규칙을 하나 바꿨어요.
“끈의 양 끝을 붙여서 닫힌 고리로 만들자!”

이렇게 되면 질문이 아주 깔끔해져요. 그냥 동그란 고리를 자명한 매듭(unknot, 언노트)이라고 부르는데, 엉망으로 꼬인 고리가 주어졌을 때 “이게 사실은 언노트야, 아니야?”를 판정하는 게 바로 오늘의 주제예요. 이걸 전문 용어로 매듭 풀림 문제(unknotting problem)라고 합니다.

재밌는 건 이 분야가 탄생한 계기예요. 1860년대 켈빈 경(윌리엄 톰슨)은 “원자는 에테르 속에서 매듭진 소용돌이다!”라는 가설을 세웠어요. 원소마다 매듭 모양이 다르다면, 매듭 목록을 만들면 주기율표가 나오겠죠? 그래서 물리학자 피터 거스리 테이트가 1870~80년대에 손으로 매듭을 하나하나 분류하는 대장정을 시작했어요. 원자 가설은 결국 틀린 걸로 판명됐지만, 덕분에 수학의 한 분야가 통째로 태어났답니다. 실패한 물리학이 성공한 수학을 낳은 셈이죠 😆

✏️ 2. 매듭을 종이에 그리는 법: 매듭 도표

3차원 물체를 다루기는 어려우니까, 수학자들은 매듭을 평면에 그림자처럼 투영해서 그려요. 이때 선이 겹치는 곳(교차점)에서는 위로 지나가는 줄은 이어서, 아래로 지나가는 줄은 끊어서 표시합니다. 이 그림을 매듭 도표(knot diagram)라고 불러요. 위 그림의 세잎 매듭에서 줄이 살짝 끊겨 보이는 곳이 바로 ‘아래로 지나가는’ 부분이에요.

그런데 문제가 하나 있어요. 같은 매듭이라도 그리는 방식은 무한히 많다는 거예요. 언노트도 마구 비틀어 놓으면 교차점이 수십 개인 괴물 같은 그림이 될 수 있거든요. 그러면 “그림이 다르다”는 사실만으로는 “매듭이 다르다”고 말할 수 없겠죠.

🔄 3. 라이데마이스터 이동: 모든 변형은 딱 3가지로 충분하다

1927년 독일 수학자 쿠르트 라이데마이스터는 엄청난 정리를 증명했어요. 같은 매듭을 나타내는 두 도표는 단 3종류의 국소적 이동(그리고 평면에서 늘이고 줄이는 변형)을 유한 번 반복해서 서로 바꿀 수 있다는 거예요.

이게 왜 대단하냐면요, “매듭 불변량”이라는 무기를 만들 수 있게 해 주거든요. 어떤 값을 도표에서 계산했는데, 그 값이 R1·R2·R3 이동을 해도 절대 안 바뀐다면? 그 값은 그림이 아니라 매듭 그 자체의 성질이에요. 그리고 두 매듭의 불변량 값이 다르면 → 두 매듭은 절대 같을 수 없다고 확실하게 말할 수 있죠.

🎨 4. 첫 번째 무기: 삼색 칠하기(3-채색 가능성)

가장 귀엽고 직관적인 불변량부터 볼게요. 랄프 폭스(Ralph Fox)가 널리 알린 삼색 칠하기(tricolorability)예요. 매듭 도표를 아래로 지나가는 지점에서 끊으면 줄이 여러 토막(호, arc)으로 나뉘는데, 이 호들에 빨강·파랑·초록을 칠하는 게임이에요.

세잎 매듭은 위 그림처럼 세 호에 서로 다른 색을 칠하면 끝! 반면 언노트는 교차점 없는 도표로 그리면 호가 딱 하나라서 한 색밖에 못 써요. 그리고 라이데마이스터 이동 세 가지 모두 삼색 칠하기 가능 여부를 바꾸지 않는다는 게 증명되어 있죠. 결론은?

오, 가위 없이는 못 푼다는 사실을 색칠 놀이로 증명해 버렸어요. 좀 더 정확하게는 ‘가능한 칠하기의 개수’도 불변량인데, 언노트는 3가지(전부 한 색), 세잎 매듭은 9가지예요.
하지만 한계도 뚜렷해요. 교차점 4개짜리 8자 매듭(figure-eight knot)은 분명히 안 풀리는 매듭인데도 삼색 칠하기가 불가능해요. 즉, 이 무기로는 8자 매듭과 언노트를 구별하지 못해요. 더 강한 무기가 필요하겠죠?

🧮 5. 두 번째 무기: 매듭을 다항식으로 바꾸기

알렉산더 다항식 (1928)

제임스 워델 알렉산더는 매듭마다 하나의 다항식을 대응시키는 방법을 발표했어요. 이게 최초의 매듭 다항식이에요. 몇 가지 값을 보면 (대칭적으로 정규화한 표기 기준):

세 다항식이 전부 다르니까 세 매듭은 서로 다 다르다는 게 한 방에 증명돼요. 삼색 칠하기가 놓쳤던 8자 매듭도 잡아냈죠! 😎
하지만 알렉산더 다항식도 완벽하진 않아요. 알렉산더 다항식이 1인데도 언노트가 아닌 매듭이 존재하거든요. 대표적으로 교차 11개짜리 콘웨이 매듭이나, 일부 ‘화이트헤드 더블’ 같은 매듭들이 그래요. 또 세잎 매듭에는 오른손 버전과 왼손 버전(거울상)이 있는데, 알렉산더 다항식은 이 둘을 구별하지 못해요.

존스 다항식 (1984) — 판을 뒤집은 발견

무려 반세기 넘게 지난 1984년, 뉴질랜드 출신 수학자 본 존스(Vaughan Jones)가 원래는 작용소 대수(폰 노이만 대수)를 연구하다가 우연히 새로운 매듭 다항식을 발견했어요. 매듭과 전혀 상관없어 보이던 분야에서 튀어나온 거라 수학계가 발칵 뒤집혔죠. 이 업적으로 그는 1990년 필즈상을 받았어요.

존스 다항식의 슈퍼파워는 거울상을 구별한다는 거예요. 한 가지 관례에서 세잎 매듭 두 버전은 이렇게 나와요.

값이 다르니까 왼손 세잎 매듭은 아무리 굴려도 오른손 세잎 매듭이 될 수 없어요. 이런 성질을 카이랄성(chirality)이라고 해요. 반면 8자 매듭은 거울상과 같은 매듭(양손잡이, amphichiral)이라서 존스 다항식도 t ↔ t⁻¹ 대칭을 이뤄요.

나중에 루이스 카우프만은 카우프만 브래킷이라는 방법으로 존스 다항식을 교차점마다 “두 갈래로 쪼개는” 단순한 규칙만으로 계산할 수 있게 만들었어요. 덕분에 학부생도 손으로 계산해 볼 수 있게 됐죠.

🔬 6. 최종 병기: 언노트를 ‘완벽히’ 알아보는 방법이 있을까?

다항식들이 놓치는 경우가 있다면, 언노트를 100% 정확히 판별하는 방법은 존재할까요? 정답은 “있다!”입니다.

그리고 또 하나 직관을 깨는 사실! 언노트를 풀 때 일시적으로 교차점을 늘려야만 풀리는 도표가 존재해요. 즉, “교차점을 하나씩 줄여 가다 보면 언젠가 풀리겠지”라는 전략은 안 통할 때가 있다는 거예요. 이어폰 줄 풀다가 일부러 더 엉키게 만들어야 풀리는 그 기분, 수학적으로도 사실이었던 거죠 🤣 (다행히 래컨비는 필요한 라이데마이스터 이동 횟수에 다항식 크기의 상한이 있음을 증명했어요.)

📚 7. 매듭 도감: 얼마나 많은 매듭이 있을까?

매듭은 보통 그릴 수 있는 최소 교차 수로 분류해요. 거울상을 같은 것으로 보고, 두 매듭을 이어 붙인 합성 매듭을 제외한 ‘소매듭(prime knot)’만 세면 이렇게 늘어나요.

교차 수 16까지 가면 소매듭이 무려 170만 개가 넘어요(1998년 하스·시슬스웨이트·윅스가 컴퓨터로 정리). 교차가 늘수록 폭발적으로 증가하죠.

🧬 8. 이거 어디에 써요? 생각보다 현실적이에요

수학처럼 추상적인 지식도 이렇게 다른 분야와 만나면 엄청난 시너지가 나요. 혹시 위상수학이나 알고리즘 공부를 혼자 하기 막막하다면, 재능넷처럼 다양한 전문가의 재능을 연결해 주는 곳에서 수학 과외나 코딩 멘토링을 찾아보는 것도 좋은 방법이에요.

💻 9. 직접 해 보기: 컴퓨터로 매듭 불변량 계산

요즘은 파이썬 기반 3차원 위상수학 도구인 SnapPy로 매듭을 불러와 불변량을 계산할 수 있어요. 예를 들어 이런 식이에요.

import snappy

K = snappy.Link('4_1')      # 8자 매듭
print(K.alexander_polynomial())
print(K.jones_polynomial())  # Sage 환경에서 지원

T = snappy.Link('3_1')      # 세잎 매듭
print(T.alexander_polynomial())

여기서 '3_1', '4_1' 같은 이름은 롤프센(Rolfsen) 표의 표기법이에요. 앞 숫자는 최소 교차 수, 뒤 숫자는 그 교차 수 안에서의 순번이죠. (함수 지원 범위는 설치 환경과 버전에 따라 다를 수 있어요.)