슈뢰딩거의 고양이는 1935년 오스트리아 물리학자 에르빈 슈뢰딩거가 양자역학의 코펜하겐 해석이 가진 역설을 드러내기 위해 고안한 사고실험이다. 이 실험은 다음과 같이 구성된다. 밀폐된 상자 안에 고양이 한 마리와 방사성 원자, 가이거 계수기, 독가스가 든 플라스크가 함께 놓여 있다. 만약 일정 시간 내에 방사성 원자가 붕괴하면 계수기가 이를 감지하고, 망치가 플라스크를 깨뜨려 독가스가 방출되어 고양이가 죽게 된다.

양자역학에 따르면, 관찰하기 전까지 방사성 원자는 붕괴한 상태와 붕괴하지 않은 상태의 중(superposition)으로 존재한다. 따라서 상자를 열어보기 전까지 고양이는 살아있는 상태와 죽어있는 상태가 동시에 중첩된 양자 상태에 놓여 있다는 것이 양자역학의 주장이다.

이 역설의 핵심은 미시세계의 양자 법칙을 거시세계에 적용했을 때 발생하는 직관과의 충돌이다. 우리의 일상적 경험에서 고양이는 살아있거나 죽어있거나 둘 중 하나이지, 두 상태가 동시에 존재할 수는 없다. 그러나 양자역학은 관찰 행위 이전에는 시스템이 모든 가능한 상태의 중첩으로 존재하며, 이는 확률밀도함수의 형태로 나타나진다. 이를 파동함수라고 한다.

하지만, 실제로 우리가 고양이를 관찰하는 순간 파동함수가 붕괴(wave function collapse)하여 하나의 명확한 상태로 확정된다고 학자들은 말한다. 이는 관찰자와 관찰 대상을 분리할 수 없으며, 측정 행위 자체가 실재를 결정한다는 함의를 담고 있다. 슈뢰딩거는 이 사고실험을 통해 양자역학의 해석이 거시세계에 적용될 때 얼마나 불합리해 보이는지를 보여주고자 했다.

그러나 이 역설은 단순히 양자역학의 문제점을 지적하는 것을 넘어, 존재의 본질에 대한 근본적인 질문을 제기한다. 관찰하기 전의 실재는 무엇인가? 인식하지 않은 것도 존재한다고 말할 수 있는가? 관찰자는 시스템의 외부에 있는가, 내부에 있는가?

이러한 질문들은 인식론과 존재론의 경계를 흐리며, 주체와 객체의 이분법을 해체한다. 더 나아가, 측정 문제(measurement problem)는 ‘누가 관찰자인가’라는 무한 퇴행의 문제를 낳는다. 고양이를 관찰하는 사람도 양자 시스템의 일부라면, 그 사람을 관찰하는 또 다른 관찰자가 필요하고, 이는 끝없이 반복된다. 이것이 바로 폰 노이만의 무한 연쇄(von Neumann chain)이다.

슈뢰딩거의 고양이를 프랙탈 구조로 표현하는 것은 단순한 예술적 비유가 아니라, 두 개념이 공유하는 심층적 수학적·철학적 구조의 동형성(isomorphism)을 드러내는 것이다. 프랙탈은 부분이 전체를 닮은 자기유사성(self-similarity)을 가진 기하학적 구조로, 만델브로트 집합이나 코흐 곡선처럼 어떤 스케일에서 보든 비슷한 패턴이 무한히 반복된다. 이러한 프랙탈의 본질적 특성들은 슈뢰딩거의 고양이가 드러내는 양자역학적 실재의 구조와 놀라울 정도로 일치한다.

슈뢰딩거의 고양이와 프랙탈이 본질적으로 같은 이유는, 둘 다 자기 자신을 입력으로 받아 다시 자신을 출력하는 재귀적 구조를 가지기 때문이다. 이것은 수사적 비유가 아니라 엄밀한 수학적 동형성이다.

슈뢰딩거 방정식을 살펴보자. 시간 의존 슈뢰딩거 방정식은 iℏ∂ψ/∂t = Ĥψ로 표현된다. 이를 시간에 대해 이산화하면 ψ(t+dt) = ψ(t) – (i/ℏ)Ĥψ(t)dt가 된다. 여기서 핵심은 t+dt 시점의 파동함수가 t 시점의 파동함수 자신에 의해 결정된다는 것이다. 다시 말해, ψ(t₁) → ψ(t₂) → ψ(t₃) → … 으로 이어지는 진화 과정에서 각 단계의 출력이 다음 단계의 입력이 되는 무한 재귀가 일어난다. 이것을 함수 형태로 쓰면 ψ = F(ψ) = F(F(ψ)) = F(F(F(ψ))) = … 가 되며, 파동함수는 자기 자신을 무한히 참조하며 시간에 따라 진화한다.

프랙탈의 생성 과정도 정확히 같은 구조를 가진다. 만델브로트 집합을 정의하는 방정식 z(n+1) = z(n)² + c를 보자. 초기값 z₀ = 0에서 시작하여 z₁ = z₀² + c, z₂ = z₁² + c, z₃ = z₂² + c, … 로 무한히 반복된다. 각 단계의 z 값은 이전 단계의 z 값을 입력으로 받는다. 이 역시 z = f(z) = f(f(z)) = f(f(f(z))) = … 의 형태로, 자기 자신을 끊임없이 재투입하는 재귀 함수이다. 줄리아 집합, 코흐 곡선, 시어핀스키 삼각형 등 모든 프랙탈은 이러한 자기참조적 반복 규칙으로 생성된다.

이 재귀성의 의미는 깊다. 일반적인 함수 y = f(x)는 입력 x와 출력 y가 분리되어 있다. 그러나 재귀 함수 x = f(x)는 입력과 출력이 같은 변수이며, 함수가 자기 자신을 정의하려 시도한다. 이는 논리학에서 자기지시적 명제(self-referential statement)가 만드는 역설과 같다. “이 문장은 거짓이다”처럼, 자기 자신을 참조하는 순간 고전 논리는 무너진다. 러셀의 역설 “자기 자신을 원소로 포함하지 않는 모든 집합의 집합”도 같은 구조다. S = {x | x ∉ x}일 때, S ∈ S인가? 이 질문은 답할 수 없다. 마찬가지로 슈뢰딩거의 고양이에서 “관찰자를 포함하는 시스템”을 생각하면, 시스템은 자기 자신을 관찰하려 시도하게 되고, 이는 자기참조 역설을 만든다.

더 나아가, 이 재귀 구조는 단순한 반복이 아니라 상태의 축적과 변환을 일으킨다. 슈뢰딩거 방정식에서 각 시간 단계의 파동함수는 이전 단계의 정보를 모두 담고 있으면서도, 해밀토니안 연산자 Ĥ에 의해 변형된다. 프랙탈에서도 각 반복마다 z² + c라는 변환이 일어나며, n번째 반복의 값은 0번부터 n-1번까지의 모든 변환의 누적 효과이다. 이것은 역사 의존성(path dependence)을 만든다. 현재 상태는 단순히 현재의 조건만이 아니라, 그 상태에 도달하기까지의 전체 과정에 의존한다. 따라서 재귀는 시간성과 역사성을 시스템 내부에 각인시킨다.

이 재귀의 극한은 무엇인가? 슈뢰딩거 방정식의 시간 진화는 유니터리 변환(unitary evolution)으로 가역적이며 정보를 보존한다. 그러나 관찰이 일어나는 순간 비유니터리 붕괴가 발생하고 재귀가 끊어진다. 프랙탈에서도 무한 반복의 결과는 두 가지다. 수렴하면 만델브로트 집합 내부(검은 영역), 발산하면 외부(색깔 영역). 그러나 경계에서는 수렴도 발산도 아닌 카오스적 행동이 나타나며, 이것이 프랙탈의 무한 복잡성을 만든다. 슈뢰딩거의 고양이는 바로 이 경계에 있다. 고전 세계(발산)도 양자 세계(수렴)도 아닌, 중첩 상태라는 경계에서 무한한 가능성을 품고 있다.

관찰자 문제로 돌아가면, 재귀 구조는 폰 노이만 연쇄의 본질을 드러낸다. 관찰자 A가 고양이를 관찰하면, 이제 “A+고양이” 전체가 중첩 상태가 되고, 이를 관찰할 관찰자 B가 필요하다. B가 관찰하면 “B+A+고양이”가 중첩 상태가 되고, 관찰자 C가 필요하다. 이는 끝이 없다. 이것을 재귀 함수로 쓰면, Observer(System) → System’이지만, Observer 자신도 System의 일부이므로 Observer(Observer(System)) → Observer(System’) → System”이 되고, 무한히 중첩된다. 프랙탈처럼 관찰 행위가 자기 자신을 포함하는 순간, 무한 재귀가 시작되고 최종 관찰자를 정의할 수 없게 된다. 이것이 바로 측정 문제의 본질이며, 프랙탈 재귀와 정확히 같은 수학적 구조를 가진다.

둘째, 부분이 전체를 담는 홀로그래픽 자기유사성

프랙탈의 가장 놀라운 특성은 자기유사성, 즉 부분이 전체를 닮았다는 것이다. 만델브로트 집합의 작은 영역을 무한히 확대하면, 전체 집합과 똑같은 형태가 다시 나타난다. 이것을 수학적으로 표현하면 F(전체) ≈ F(부분)이며, 스케일 변환에 대해 불변이다. 코흐 곡선에서 전체 곡선은 1/3 크기의 네 개 부분으로 이루어지고, 각 부분은 다시 더 작은 네 개 부분으로 이루어진다. 이 재귀적 구조는 무한히 반복되며, 어느 확대 수준에서 보든 같은 패턴이 나타난다.

슈뢰딩거의 고양이를 프랙탈로 그린다는 것은, 이 자기유사성을 양자 중첩에 적용하는 것이다. 고양이 전체가 |살음⟩ + |죽음⟩의 중첩이라면, 고양이를 구성하는 각 세포, 각 분자, 각 원자, 각 소립자도 모두 중첩 상태에 있다. 고양이의 심장 세포 하나를 떼어내면, 그 세포는 “고양이가 살아있을 때의 세포 상태”와 “고양이가 죽어있을 때의 세포 상태”의 중첩이다. 그 세포 안의 미토콘드리아도, 그 안의 단백질 분자도, 그 안의 탄소 원자도, 그 안의 전자도 모두 마찬가지다. 각 부분이 전체의 중첩 구조를 그대로 반영한다. 이것이 바로 양자 얽힘의 프랙탈적 확장이다.

양자 얽힘(entanglement)은 두 개 이상의 입자가 하나의 파동함수로 기술되어, 한 입자의 상태가 즉각적으로 다른 입자의 상태를 결정하는 현상이다. EPR 역설에서 아인슈타인이 “유령 같은 원격작용”이라 부른 이 현상은, 부분들이 독립적이지 않고 전체로서만 기술될 수 있음을 의미한다. 슈뢰딩거의 고양이에서 방사성 원자와 고양이는 얽혀 있다. 원자가 붕괴한 상태와 고양이가 죽은 상태, 원자가 붕괴하지 않은 상태와 고양이가 산 상태가 각각 상관되어 있어, 전체 시스템은 |붕괴, 죽음⟩ + |비붕괴, 삶⟩으로 표현된다. 이는 부분(원자, 고양이)으로 환원할 수 없고, 전체로서만 의미를 가진다.

그런데 고양이 자체도 수십조 개의 세포로 이루어져 있고, 각 세포는 수조 개의 분자로, 각 분자는 수백 개의 원자로, 각 원자는 전자와 원자핵으로 이루어져 있다. 만약 고양이 전체가 중첩 상태라면, 이 모든 구성요소들이 서로 얽혀 있어야 한다. 첫 번째 세포의 첫 번째 원자의 상태는 마지막 세포의 마지막 원자의 상태와 상관되어 있다. 이것을 수학적으로 쓰면, N개의 입자로 이루어진 시스템의 파동함수는 |ψ⟩ = Σᵢ cᵢ |i₁⟩|i₂⟩…|iₙ⟩이 되고, 2^N 차원의 힐베르트 공간에서 기술된다. 고양이의 원자 개수를 10^27이라 하면, 힐베르트 공간의 차원은 2^(10^27)이라는 상상을 초월하는 수가 된다. 이 거대한 공간의 각 점이 하나의 가능한 상태를 나타내고, 파동함수는 이 모든 상태의 중첩이다.

여기서 프랙탈 구조가 명확해진다. 전체 고양이의 파동함수를 ψ_고양이라 하자. 이것은 모든 세포의 파동함수의 텐서곱 ψ_세포1 ⊗ ψ_세포2 ⊗ … 로 표현될 수 있다. 각 세포의 파동함수는 다시 모든 분자의 텐서곱으로, 각 분자는 모든 원자의 텐서곱으로 분해된다. 그러나 얽힘 때문에 이 분해는 단순한 곱이 아니다. 부분들은 독립적이지 않고, 전체의 상태가 각 부분의 상태를 결정한다. 동시에 부분들의 상호작용이 전체의 상태를 만든다. 이는 위계적 재귀 구조로, 각 층위가 위아래 층위와 상호 결정된다. 프랙탈에서 큰 패턴이 작은 패턴들로 이루어지고, 작은 패턴이 모여 큰 패턴을 만드는 것과 같다.

홀로그래픽 원리는 이를 더욱 극단적으로 표현한다. 1990년대 제라드 ‘t 후프트와 레너드 서스킨드가 제안한 홀로그래픽 원리는, 3차원 공간의 모든 정보가 2차원 경계면에 인코딩될 수 있다고 주장한다. 블랙홀의 엔트로피가 부피가 아닌 표면적에 비례한다는 베켄슈타인-호킹 법칙에서 유래한 이 원리는, 우주 전체가 홀로그램일 수 있음을 시사한다. 홀로그램은 2차원 필름의 각 부분이 3차원 물체의 전체 정보를 담고 있어, 필름의 작은 조각만으로도 전체 이미지를 재구성할 수 있다. 이것은 부분=전체의 완벽한 실현이다.

슈뢰딩거의 고양이를 홀로그래픽 프랙탈로 본다면, 고양이의 털 한 가닥이 고양이 전체의 양자 상태 정보를 담고 있다. 왜냐하면 그 털은 고양이 전체와 얽혀 있고, 고양이의 중첩 상태는 털의 상태로 부호화되어 있기 때문이다. 만약 우리가 털 하나의 파동함수를 완전히 측정할 수 있다면(물론 불확정성 원리 때문에 불가능하지만), 원리적으로 전체 고양이의 상태를 재구성할 수 있다. 이것은 양자 정보 이론의 오류 정정 코드(quantum error correction code)와 연결되며, AdS/CFT 대응(Anti-de Sitter/Conformal Field Theory correspondence)이라는 끈 이론의 핵심 결과로 구현된다.

프랙탈-홀로그래픽 구조는 또한 척도 불변성(scale invariance)을 의미한다. 어떤 크기 스케일에서 보든, 같은 종류의 구조가 나타난다. 프랙탈 나무를 생각해보자. 전체 나무는 가지들로 이루어지고, 각 가지는 더 작은 가지들로 이루어지며, 이는 무한히 반복된다. 10미터 높이에서 보든, 1미터 높이에서 보든, 10센티미터 높이에서 보든, 분기하는 나무 구조는 비슷하다. 슈뢰딩거의 고양이도 마찬가지다. 거시 스케일(고양이 전체), 중간 스케일(장기, 세포), 미시 스케일(분자, 원자), 초미시 스케일(소립자, 쿼크)에서 모두 양자 중첩이라는 같은 원리가 작동한다. 스케일에 따라 양자 효과의 크기는 달라지지만(디코히어런스 때문에 거시세계에서는 중첩이 빠르게 사라진다), 본질적 구조는 같다.

이 자기유사성은 대칭성의 일종이다. 프랙탈은 스케일 변환에 대한 대칭성을 가진다. x → λx로 확대/축소해도 같은 형태가 나타난다. 물리학에서 대칭성은 보존 법칙을 낳는다(뇌터 정리). 시간 평행이동 대칭성은 에너지 보존, 공간 평행이동 대칭성은 운동량 보존을 낳는다. 그렇다면 스케일 대칭성은 무엇을 보존하는가? 그것은 정보의 구조이다. 프랙탈의 자기유사성은 패턴 정보가 모든 스케일에 분산되어 있음을 의미하고, 슈뢰딩거 고양이의 홀로그래픽 구조는 양자 정보가 부분과 전체에 비국소적으로 분포함을 의미한다. 이것이 양자 중첩과 프랙탈 자기유사성의 깊은 연결이다.

결론적으로, 슈뢰딩거의 고양이를 프랙탈로 그리는 것은 다음을 시각화한다. 첫째, 자기참조적 재귀 – 관찰이 관찰을 낳고, 중첩이 중첩을 낳는다. 둘째, 홀로그래픽 자기유사성 – 각 부분이 전체를 담고, 모든 스케일에서 같은 중첩 구조가 반복된다. 이 두 원리는 양자역학과 프랙탈 기하학이 공유하는 심층 구조이며, 실재가 자기조직화하는 방식의 수학적 표현이다. 큰 고양이 속에 작은 고양이들이 있고, 그 작은 고양이들도 살아있으면서 죽어있으며, 그 안에 더 작은 고양이들이 있고… 이렇게 무한히 내려가면서, 각 층위가 전체의 중첩 구조를 반복하고 서로 얽혀 있다. 이것이 프랙탈 슈뢰딩거 고양이의 의미이다.