불변량 찾기 (invariant)

너, 종이 한 장을 손에 쥐고 있다고 해보자. 그걸 구긴다. 둘둘 만다. 책상 위로 던져 휘날리게 한다. 모양은 매 순간 달라진다. 그런데 누가 너에게 묻는다. 이 종이를 아무리 구기고 비틀어도 절대 안 변하는 게 하나 있는데 뭘까. 너는 갸웃한다. 다 변하는 것 같은데. 자, 종이를 펴서 책상 위에 평평하게 놓고, 위에서 똑바로 내려다보며 손가락 하나를 종이 위 한 점에 가만히 댄다. 그 손가락 바로 아래 종이 위에는 어떤 한 점이 있다. 신기하게도, 종이를 구겨서 다시 그 책상 자리 위에 아무렇게나 올려놓아도, 원래 자리에 있던 점들 중 적어도 하나는 자기가 원래 깔려 있던 그 바닥 지점 바로 위로 되돌아와 있다. 모든 게 헝클어졌는데 단 하나가 제자리를 지킨다. 이 안 변하는 하나를 붙드는 일, 그게 오늘 이야기다.

수학자들은 아주 오래전부터 이런 식으로 생각했다. 문제를 풀 때 변하는 것들에 휘둘리지 말고, 변환을 거쳐도 끝까지 같은 채로 남는 값을 먼저 찾으라는 것. 이 발상의 뿌리는 멀리 거슬러 올라가지만, 그것을 학문의 한복판에 세운 결정적 장면은 1872년 독일 에를랑겐 대학에 부임한 스물세 살의 펠릭스 클라인에게서 나온다. 그는 취임 강령에서 도발적인 선언을 한다. 기하학이란 도형을 연구하는 게 아니라, 어떤 변환들의 무리를 정하고 그 변환을 거쳐도 변하지 않는 성질들을 연구하는 학문이라는 것. 자를 들이대 잴 수 있는 길이를 보존하는 변환만 허락하면 우리가 학교에서 배운 유클리드 기하가 되고, 길이는 다 망가뜨려도 직선이 직선으로 남는 것만 지키면 사영기하가 된다. 무엇을 불변으로 둘 것인가, 그 선택 하나가 어떤 기하인지를 통째로 결정한다. 흩어져 있던 여러 기하학이 '무엇이 안 변하는가'라는 한 축으로 줄지어 정리됐다. 이걸 사람들은 에를랑겐 강령이라 부른다.

이름이 붙고 나니 같은 무기가 사방에서 보이기 시작했다. 물리학에서 가장 깊은 자리에 그게 있었다. 1918년, 독일의 수학자 에미 뇌터가 증명한 정리는 충격적이었다. 자연에 어떤 대칭이 있으면, 다시 말해 무언가를 바꿔도 물리 법칙이 안 변하면, 거기에는 반드시 보존되는 양이 하나 따라붙는다는 것이다. 실험을 오늘 하든 내일 하든 결과가 같다는 시간의 대칭에서 에너지 보존이 나오고, 실험실을 여기서 하든 저기서 하든 같다는 공간의 대칭에서 운동량 보존이 나온다. 우리가 그토록 신성하게 여기던 보존 법칙들이 사실은 '무엇을 바꿔도 안 변하더라'는 불변성의 그림자였던 것이다. 뇌터는 당시 여성이라는 이유로 정식 교수직조차 받지 못한 채 힐베르트의 이름을 빌려 강의해야 했지만, 그가 찾아낸 이 연결고리는 오늘날 물리학 전체를 떠받치는 기둥이 됐다.

이 사고법이 가장 실용적으로 빛나는 곳은 의외로 '안 되는 걸 증명하는' 자리다. 직접 해보자. 체스판에서 양 끝 대각선 두 귀퉁이 칸을 잘라낸 62칸을, 한 번에 두 칸을 덮는 도미노 31개로 빈틈없이 채울 수 있을까. 무작정 깔아보면 한나절이 가도 안 끝난다. 그런데 불변량을 잡으면 한 줄이다. 도미노는 가로든 세로든 항상 흰 칸 하나와 검은 칸 하나를 함께 덮는다. 즉 도미노를 몇 개를 놓든 '덮인 흰 칸 수와 검은 칸 수의 차'는 늘 0으로 변하지 않는다. 그런데 잘라낸 두 대각 귀퉁이는 색이 같다. 그러니 남은 판은 흰 30, 검은 32가 되어 차가 2다. 차를 0으로 유지하는 도미노들로는 차가 2인 판을 결코 메울 수 없다. 끝. 수많은 시도를 일일이 해볼 필요 없이, 어떤 변화에도 꿈쩍 않는 양 하나가 가능성 전체의 문을 닫아버린 것이다. 프로그래머들이 까다로운 알고리즘이 맞는지 따질 때 의지하는 '루프 불변식', 즉 반복문을 한 바퀴 돌 때마다 늘 참인 채로 유지되는 조건도 정확히 이 머리다. 변하는 변수들의 춤에 멀미하지 말고, 매 바퀴 끝에 늘 성립하는 한 문장을 붙들면 프로그램이 끝났을 때 무엇이 보장되는지가 저절로 드러난다.

그러니 네가 무언가 정신없이 변하고 뒤엉키는 상황을 만나거든, 무엇이 어떻게 변하는지를 쫓아가느라 진을 빼기 전에 먼저 거꾸로 물어라. 이 모든 난리 속에서 끝까지 안 변하는 게 뭐지. 그 하나를 찾아내는 순간, 너는 변화의 소용돌이 바깥에 단단한 손잡이를 하나 쥐게 된다. 그리고 가끔은, 그 손잡이 하나만으로 '이건 절대 불가능하다'까지 단숨에 증명된다.