[네이버 열린연단- 전문] 임재호 교수 '하이젠베르크와 양자역학' 강연
[네이버 열린연단- 전문] 임재호 교수 '하이젠베르크와 양자역학' 강연
  • 엄정권 기자
  • 승인 2017.08.25 17:38
  • 댓글 1
이 기사를 공유합니다

[독서신문] 네이버문화재단이 후원하는 문화과학 강연 프로젝트 ‘열린연단 : 문화의 안과 밖’의 8월 12일 순서는 '패러다임의 지속과 갱신' 강연 2섹션 과학/과학철학의 열 번째 강연으로 임재호 서강대 물리학과 교수의 '하이젠베르크와 양자역학'을 주제로 진행됐다. (한남동 블루스퀘어 3층 북파크 카오스홀) 다음은 강연 전문.

1. 들어가면서

낮에는 태양이, 밤에는 달이 동에서 서로 움직인다. 평범한 일상이지만, 하늘의 움직임은 인간의 경제활동에 큰 영향을 준다.

물론, 정치적으로 민감한 상황이 만들어지기도 한다. 따라서 하늘의 움직임을 예측하는 것은 사회적으로 중요한 일이었다. 이 때문에, 오랜 시간의 경험과 수학적 최첨단 논리가 뒷받침되는 것은 당연한 일이었다. 이렇게 만들어진 천동설은 사회 지도층의 확고한 지지를 받아왔다.

그러나 돌이켜보면, 천동설의 과학적 근거가 분명하다고 볼 수는 없었다. 관측이 정밀해지자 천동설의 논리는 금이 가기 시작했다. 천동설을 대치하게 되는 지동설은 16세기 중반 코페르니쿠스를 시작으로, 한 세기에 걸쳐 완성된다. 브라헤의 정밀한 육안 관측 결과가 있었고, 케플러가 이를 새로운 경험 법칙으로 발전시켰다.

전통적인 논리를 거부한 갈릴레이는 새로운 수학적 논리를 제공했고, 뉴턴이 이를 집대성했다. 결과적으로 보면, 지구는 우주의 중심이 될 아무런 근거가 없었다. 경험적으로 그렇게 믿었을 따름이다.
하늘의 움직임이 종교적 해석과 연관될 필요도 없었다. 우주의 만물은 뉴턴의 운동 법칙을 따랐고, 모든 사물의 미래는 운동 방정식이 결정했다. 과학자들은 이제 과학적 사고의 틀 안에서, 운동 방정식을 풀 수 있는 엄밀한 수학적 방법만을 연구하면 되었다. 우주는 하나의 기계처럼 보였다. 우주를 기계로 보는 관점은 과학계뿐 아니라, 사회와 역사의 변화에도 큰 영향을 끼쳤다.

그러나 기계적 우주관 역시 19세기 후반 이후 새로운 상황에 직면하게 된다. 전혀 틀릴 것 같지 않던 뉴턴의 운동 법칙이 커다란 위기를 맞이했기 때문이다. 이 위기의 중심에 상대론과 원자론이 등장한다. 우주 공간에서 광속보다 빨리 움직일 수 있는 것은 그 어느 것도 없다.

또한 아무리 빨리 움직이는 사람이 관찰해도 광속은 변하지 않는다. 모든 사람에게 광속이 같아지는 결과를 로렌츠는 다음과 같이 해석했다. 움직이는 관찰자가 재는 시간과 길이는 정지한 관찰자가 재는 시간과 길이와는 같지 않다. 자신의 시계와, 움직이는 다른 사람의 시계는 똑같이 째깍거리지 않는다는 주장은 이해하기 어려웠다.

그런데 아인슈타인은 로렌츠의 해석을 이해할 수 있는 새로운 원리를 내놓았다. 특수 상대론이다. 움직이든, 움직이지 않든, (속도가 일정하면) 어떤 관찰자에게도 물리 법칙은 동등하게 나타난다. 아무리 빨리 달리는 기차라도 속도가 변하지 않는다면, 기차 안의 승객은 편안히 있을 수 있다. 승객이 기차 안의 상황만 보면, 움직이는 기차 역시 정지한 기차와 다를 바가 없다.

그러나 아인슈타인의 논리로 계산하면, 기차 안에서 움직이는 물체의 움직임은 뉴턴 방식으로 계산한 결과와 다르다. 기차가 빠를수록 오차는 더 커진다. 그리고 질량도 에너지로 환산되어야 한다. 한 걸음 더 나아가 아인슈타인은 중력을 다루는 방식도 바꾸었다. 뉴턴은 중력을 힘으로 파악했다. 그리고 움직이는 물체의 움직임은 제대로 된 상태(관성계)에서만 관찰해야 한다고 강조했다.

그러나 아인슈타인은 이런 뉴턴의 입장을 배격했다. 대신 중력이 생기는 원인을 시공간이 휘어지기 때문에 생기는 원리로 바꾸어놓았다. 이를 일반 상대론이라고 부른다.

아인슈타인은 특수 상대론과 일반 상대론을 도입함으로써, 물체의 움직임을 다루는 새로운 패러다임을 만들어냈다. 1930년 10월 27일 영국 런던 사보이 호텔 만찬 연설에서 버나드 쇼는 다음과 같이 말했다고 한다. “프톨레마이오스는 우주를 만들었고, 그 우주는 1400년 동안 지속되었습니다. 뉴턴도 역시 우주를 만들었고, 300년 동안 지속되었습니다. 아인슈타인도 우주를 만들었는데 얼마나 오래 지속되지는 말할 수 없습니다.”¹

한편, 원자와 분자를 다루는 원리는 19세기 이후 분광학의 발달로 새로운 전기를 맞게 된다. 화학 반응과는 달리, 원자와 분자가 내는 빛이 새로운 실험의 대상이었다. 분광학을 통해 원자 하나가 내는 빛은 우리가 보통 일상생활에서 보는 빛과 다르다는 것을 알게 되었다. 원자는 자신의 고유한 색깔을 가진 빛만을 낸다.

원자는 왜 이런 빛을 내는 것일까? 과학자들은 원자에 들어 있는 전자에 주목하게 된다. 전자는 원자 내부에서 어떻게 움직일까? 원자의 내부에는 양의 전하를 가진 핵과 음의 전하를 가진 전자가 존재한다. 핵은 원자의 중심에 놓여 있고, 크기도 아주 작다. 핵에 비해 가벼운 전자는 핵을 중심으로 공전한다고 믿었다. 마치 지구가 태양을 중심으로 공전하는 것과 같다고 생각했다. 그러나 원자를 단순히 태양계처럼 볼 수 없다는 사실이 금방 드러나게 된다.

문제의 원인은 전자가 가지고 있는 전하이었다. 그 결과 전하를 가진 전자의 움직임을 파악하는 문제는 심각한 난제가 되었다. 그리고 전자를 다루는 과정에서 새로운 아이디어들이 대립하게 된다. 전자를 입자로 취급해야 하는가, 파동으로 취급해야 하는가? 1920년대의 과학계는 크게 양분되었다. 행성은 (새로운 사고방식의) 과학계와 (전통적 사고방식의) 기존의 사회 사이에 갈등의 빌미가 되었지만, 원자는 과학자들 사이에 갈등의 요소가 되었다. 그리고 원자를 다루는 새로운 방식이 정립이 되는 과정에서 양자역학이라는 새로운 학문이 탄생하게 된다.

1927년 이탈리아 코모 학회에서 보어는 양자역학을 해석하는 논리를 발표했다. 보어가 주장한 논리를 추종하는 과학자들을 나중에 코펜하겐 학파라고 부르기 시작했다. 코펜하겐 학파는 불확정성 원리를 바탕으로 원자를 이해하려고 한다.

이러한 코펜하겐 해석은 원자와 분자를 대상으로 하는 모든 실험에서 틀리지 않는다는 것이 확인되었다. 그리고 코펜하겐의 해석에 따라 발전한 양자역학은, 원자만이 아니라 원자 속에 들어 있는 핵과 소립자를 포함하는 모든 물질을 정밀하게 다룰 수 있는 언어로 성장했다.

그럼에도 불구하고, 과학자들은 아직도 양자역학이 신비하며, 이해하지 못할 부분이 남이 있다는 것에 동의한다. 양자역학 이론이 알려주는 결과와, 실험으로 관찰한 결과를 해석하는 과정에서 생기는 인식론적인 괴리이다. 그 이면에는 하이젠베르크의 불확정성 원리로 대변되는 입자의 모호성이 있다. 입자의 움직임은 뉴턴이나 아인슈타인의 운동 방정식으로 결정되어야 한다.

그러나 뉴턴과 아인슈타인의 입장은 1913년 보어가 원자 모형을 발표한 이후 커다란 도전을 받게 된다. 기존에 입자를 다루던 언어로 전자를 다루는 데는 한계가 있다는 것이 명확해졌기 때문이다. 이 한계를 하이젠베르크는 불확정성 원리로 정리해서, 1927년에 발표했다.

불확정성 원리는 기존의 수학적 언어와 사물을 인식하는 방식이 불완전하다는 것을 인정하는 데서 시작한다. 하이젠베르크는, 뉴턴과 아인슈타인이 시간과 공간의 시각화(궤도)로 입자의 움직임을 다루던 언어가 원자를 다루기에는 적절하지 않다는 사실을 분명히 했다.

불확정성 원리는 당시 과학자들 사이에서 수많은 논쟁을 일으켰다. 전자를 결정론으로 다룰 수 있는지, 비결정론을 받아들여야 하는지. 원자가 빛을 방출할 때 전자가 연속적으로 움직이는지, 양자 도약을 하는지. 전자가 양자 도약의 과정에서 인과성을 따르는지, 통계적으로밖에 다룰 수 없는지. 전자의 미래를 구체적으로 결정할 수 있는 것인지, 확률로만 알 수 있는지. 전자들이 하나의 시스템으로 얽혀 있다면, 각 전자들은 국소적으로 분리 가능한지, 아니면 신비한 하나의 시스템으로 작동하는지 등등. 우리는 이 강연을 통해 과학자들이 해결하려고 한 논쟁의 쟁점이 무엇이고, 그 쟁점들이 어떤 과정을 통해 해결되었으며, 또 어떤 과제들이 남아 있는지 생각해보려고 한다.

2. 문제의 발단과 전개 과정

원자는 핵과 전자로 구성되어 있고, 핵은 다시 양성자와 중성자로 이루어진다. 1910년 러더퍼드는 핵의 크기가 원자 크기에 비하면 점으로 나타난다는 사실을 실험으로 찾아냈다.

이 결과에 따르면, 원자 내부는 우주 공간처럼 텅 비어 있는 셈이다. 또한 양성자나 중성자 하나의 무게는 전자에 비해 2000배 정도 무겁다. 지구와 달의 질량비가 약 100배인 것을 감안하면, 전자는 달에 비해 훨씬 무거운 핵을 가지고 있는 셈이다. 그렇다면, 달이 지구를 공전하듯, 전자 역시 핵을 공전하지 않을까? 그러나 전자는 달과 많이 다르다. 먼저 달은 만유인력의 영향으로 공전하지만, 전자는 전기력의 영향으로 공전한다.

핵과 전자가 각기 전하를 가지고 있기 때문이다. 물론 전자도 질량이 있기 때문에 만유인력이 작용하고 있기는 하지만, 전기력에 비해 만유인력은 무시해도 무방할 정도로 아주 미약하다. 전자가 핵을 공전하도록 만들어주는 중심력은 전기력이다. 그런데 전자가 공전하는 데 문제가 되는 점이 바로 전하의 영향이다. 전자가 공전하면 전자의 전하가 공간에서 주기적으로 진동하는 결과로 나타난다. 전하가 진동하면 원자는 안테나의 역할을 한다.

마치 안테나에 고주파를 흘려주는 것과 같다. 그 결과 원자는 전자파를 외부로 방출해야 한다. 스마트폰이 전자파를 내보내는 것과 같다. 전자파가 방출되면 물론 에너지도 빠져나간다. 스마트폰은 배터리로 에너지를 공급받지만, 혼자 있는 원자는 외부로부터 에너지를 따로 공급받고 있지 않다. 따라서 원자가 에너지를 방출하면 자신의 에너지가 줄어들고, 결국 전자는 핵으로 추락해야 한다.

인공위성이 마찰로 에너지를 잃게 되면, 지상으로 추락하는 것과 같다. 전자가 추락하면 원자의 크기가 줄어드니 물질의 부피도 줄어들어야 한다. 그러나 일상에서 물의 밀도가 갑자기 증가한다거나, 우리 몸이 갑자기 쪼그라드는 일은 생기지 않는다. 바로 이 점이 원자를 태양계처럼 다룰 수 없다는 증거였다.

한편, 외부에서 전기 에너지를 원자에 공급하면, 원자는 자신만의 고유한 빛을 낸다. 이 또한 이상한 일이다. 방송국 안테나에서 송출되는 전자파는 일정한 주파수를 가지고 있다. 이 주파수를 결정하는 것은 방송국에서 공급하는 고주파의 진동수이다. 따라서 원자가 안테나 구실을 한다면, 원자에서 나오는 색은 외부에서 공급하는 전기 에너지의 진동수와 같아야 한다. 그러나 이런 일은 실험에서 볼 수 없다. 원자는 자신만이 가진 특별한 색깔의 빛만을 방출하기 때문이다. 왜 이런 일이 나타나는 것일까?

1) 보어의 원자 모형과 전개 과정

원자에서 나오는 빛의 색을 구별하기 위해서는 분광기를 사용한다. 이때 원자에 따라 각기 다른 선이 보이므로, 이를 선-스펙트럼이라고 부른다. 선-스펙트럼의 선은 색의 종류에 따라 구별된다. 다시 말하면, 각 선은 빛의 파장 또는 진동수로 결정된다.² 원자의 선-스펙트럼을 보면 선이 연속적으로 겹쳐져 있지 않다. 색이 연속적이지 않다는 뜻이다.

수소 원자의 경우 네 가지의 선이 보인다. 붉은 색, 푸른색, 파란색, 보라색이다. 수소 원자가 내는 빛에 대한 의문에 가장 그럴듯한 답은 한 사람은 덴마크의 보어였다. 그가 2 초록색 파장은 대략 510㎚이고, 이를 진동수로 환산하면 590㎔가 된다. 1㎚=10-9m, 1㎔=1012㎐.

1913년 제안한 모형은 가장 원시적인 모형이지만, 교과서에 나오는 가장 간단한 원자 모형으로 자리 잡게 된다. 그는 전자가 핵 주위를 공전하는 태양계 모형을 받아들였다. 다만 태양계 모형의 단점을 극복하기 위해 특별한 조건을 붙였다. 전자는 특별하게 정해진 궤도만을 공전한다.(이를 보어의 양자화 조건이라고 부른다.) 지구 주위를 도는 인공위성의 궤도는 우리가 임의로 정할 수 있지만, 전자는 원자 내에서 주어진 궤도만을 따라 움직인다.

전자는 보통, 에너지가 가장 낮은 궤도에서 공전하고 있다. 에너지가 가장 낮을 때가 가장 안정된 상태에 해당한다. 전자가 에너지를 공급받으면, 전자는 더 높은 궤도로 올라간다. 높은 궤도로 올라간 전자는 불안정하기 때문에, 낮은 궤도로 다시 떨어지게 된다. 전자가 궤도를 바꾸는 과정에서, 원자는 그 에너지 차이를 빛으로 내놓는다.

이 빛이 바로 원자에서 나오는 특별한 색의 빛이다. 결과적으로 선-스펙트럼이란 전자가 궤도를 바꾸어 내려갈 때 나오는 빛이고, 빛의 진동수는 두 궤도의 에너지 차이에 비례한다.³ 전자가 한 궤도에서 다른 궤도로 갈아타는 현상을 양자 도약이라고 부른다. 보어는 1911년 덴마크 코펜하겐에서 박사 학위를 받은 후, 그해 9월에 칼스버그 사의 지원을 받아 1년 동안 영국 케임브리지를 방문하게 되었다.

케임브리지에는 전자의 질량을 처음으로 알아낸 톰슨 교수가 있기 때문이었다. 그러나 방문 기간 중에 교류가 신통하지 않다고 느낀 보어는 체류 기간이 끝나기 전에 맨체스터로 방문지를 옮겼다. 맨체스터에는 원자와 방사선 실험을 하는 러더포드 교수가 있었다. 보어는 러더포드의 연구실에서 원자 모형과 방사선에 대한 연구를 수행했고, 귀국 후에 원자 모형의 문제점을 해결할 수 있는 아이디어를 논문으로 쓰게 되었다.보어는 러더포드 교수의 조언을 얻어 3부작의 논문을 1913년 7월과 9월, 11월에 각각 발표했다. 보어의 설명은 분명했지만, 그 설명에 포함되어 있는 개념들은 과학자들의 공감을 얻지 못했다.

궤도가 강제적으로 정해진다는 점, 양자 도약의 결과 나오는 빛의 진동수를 에너지 차이에 비례한다고 본 점, 그리고 양자 도약에 따라 나오는 빛이 어디로 나올지 추적할 수 없다는 점 등. 러더포드조차 처음에는 논문을 수정해야 한다고 권고했을 정도이었다.

보어의 논문이 발표되던 시기 전후에, 몇 가지 실험 사실이 더 알려졌다. 9월에는 태양에서 발견되는 흡수 스펙트럼이 헬륨 원자 때문이라는 사실이 확인되었다. 11월에는 화학 반응으로는 쉽게 결정할 수 없던 무거운 핵의 전하량을, 원자에서 나오는 X-선의 진동수로 쉽게 확인할 수 있었다.

다음 해인 1914년 4월에는 수은 원자를 전자와 충돌시키는 실험에서 전자가 특별한 에너지(4.9eV)를 잃어버리는 현상이 알려졌다. 이 모든 실험 결과가 보어의 원자 모형으로 설명될 수 있다는 것이 알려짐에 따라, 거부감을 표시하던 과학자들도 보어의 원자 모형을 받아들이기 시작했다.

일련의 학문적 성공으로 보어는 코펜하겐 대학에서 이론물리학 교수직을 얻게 된다. 그리고 대학을 설득하여 대학 내에 이론물리연구소를 설립할 수 있게 되었다. 1921년에 설립된 보어 연구소에는 맨체스터 대학의 러더포드가 이끌었던 학문적 분위기를 이어가기 원한 보어의 염원이 담겨 있다.

세계에서 뛰어난 학자들이 모여들었고, 원자를 연구하는 중심이 되어갔다. 보어의 원자 모형은 원자의 모습을 파악하는 시작에 불과했다. 단순한 보어 모형은 큰 성공을 거둔 듯이 보였으나, 수소 원자의 선-스펙트럼에는 미세하게 다른 색의 선들이 더 있었다. 이러한 미세한 선들은 보어 모형으로 설명이 가능하지 않았다.

더구나 헬륨처럼 전자가 하나만 더 있어도 다루는 방법이 쉽지 않았다. 화학적 성질을 나타내는 주기율표를 설명하는 일은 더욱 요원했다. 이러한 와중에 좀머펠트는 보어가 도입한 원 궤도 말고도 몇 개의 타원 궤도가 더 존재할 수 있다는 것을 알아냈다. 새로운 타원 궤도를 이용하면 선-스펙트럼에 보이는 미세 구조를 설명할 수 있었다. 또한 타원 궤도는 평면에만 놓일 이유가 없었다.

공간에 존재할 수 있는 3개의 회전 축 방향에 따라 궤도가 다르게 만들어질 수 있다. 모든 궤도가 같은 평면에 존재하는 것이 아니라, 3차원 공간의 각기 다른 축을 중심으로 움직이는 새로운 궤도가 가능하다. 1916년에 도입된 새로운 시도는, 궤도가 방향성을 가질 수 있도록 공간을 양자화한 것이다. 좀머펠트의 아이디어는 1921년 원자가 자석과 반응할 때 선-스펙트럼이 갈라지는 실험으로 확인이 되었다. 피타고라스가 천체의 궤도를 음악의 하모니로 표시한 것처럼, 좀머펠트는 전자의 궤도를 ‘원자 음악’으로 비유했다.

보어는 새로운 궤도들을 이용하여, 주기율표를 원자 모형으로 설명하기 시작했다. 전자 궤도들은 원자 내부에서 마치 양파껍질처럼 겹을 이루고 있다. 그리고 원자의 화학적 성질은 가장 바깥 껍질에 들어 있는 전자의 수가 결정한다는 사실을 밝혔다. 그 공로로 보어는 1922년 노벨상을 수상했다.

2) 물질파와 파동 방정식

드브로이는 플랑크와 아인슈타인이 도입했던 빛 알갱이(광자)에 큰 영향을 받았다. 빛은 전자파이지만, 광자로도 볼 수 있다면, 전자 역시 입자로만 볼 것이 아니라 파동으로도 볼 수 있지 않을까? 1924년 드브로이는 전자를 물질파로 보는 방식을 제안하였다. 1926년에는 슈뢰딩거가 물질파와 관련된 파동 방정식을 만들었다.

파동 방정식은 엄청난 반향을 일으켰다. 파동 방정식은 미분방정식을 이용하기 때문에 당시의 과학자들에게는 익숙한 방법이었다. 보어의 원자 모형에는 전자가 양자 도약하는 과정에서 나타나는 불연속성, 전자가 언제 도약할지를 확률적으로밖에 이해할 수 없는 공감하기 어려운 상황이 나타난다.
그러나 파동 방정식은 전자를 파동으로 보기만 하면, 모든 것이 연속적인 미분 방정식으로 다룰 수 있다. 보어가 찾아냈던 모든 결과를 파동 방정식이 쉽게 알려주었다. 파동 방정식은 한 걸음 더 나아가 빛이 원자에 흡수되고 방출되는 현상, 전자와 원자와 충돌 등, 원자와 관련된 다양한 문제를 정확하게 풀 수 있었다.

파동 역학은 원자를 연구하는 과학계에 새로운 활력을 불어넣었다. 플랑크와 아인슈타인도 슈뢰딩거의 업적을 높이 평가했다. 파동 방정식이 성공하자 슈뢰딩거는 원자의 세계에서 입자의 개념을 제거하고 싶어 했다. 그는 보어가 도입한 양자 도약과 같은 입자의 개념을 더 이상 사용하고 싶지 않았다.
보른은 달랐다. 그는 전자를 입자로 보는 개념을 살리고 싶었다. 뉴턴의 방식에 따르면 입자가 충돌하는경우, 각 과정마다 입자의 궤도를 정확히 예측할 수 있다. 그러나 파동 방정식으로 충돌을 다루게 되면, 충돌 전후의 과정에서 전자의 위치를 정확히 알 수 있는 길이 없다. 파동은 공간에 퍼져 있기 때문에 전자의 위치가 정확히 나타나지 않는다. 보른은 충돌하는 과정에 전자가 어디에 존재하는지를 가르쳐주는 힌트가 파동 방정식에 있다고 보았다. 물질파는 파동이다. 파동이 공간에 퍼져 있는 상태는 파동 함수 Ψ로 표시한다. 바로 파동 함수에 답이 있다.

물질파를 나타내는 파동은 19세기에 다루던 파동과 다른 면이 있다. 파도나 전자파는 모두 파동 함수를 실수로 표시한다. 파동 함수는 각 위치마다 파도가 출렁이는 높이를 표시한다. 그러나 물질파의 파동 함수는 실수가 아니라 복소수다.

1927년 보른은 물질파의 파동 함수를 색다르게 해석했다. 물질파의 파동 함수가 표현하는 것은 각 점에서의 높낮이가 아니다. 각 점마다 전자가 있을 확률을 보여준다. 전자의 위치를 정확히 알 수는 없지만, 어느 점에 있을지는 확률로 알 수 있다.
파동 함수의 절댓값 제곱이 바로 확률이다. 파동 방정식이 알려주는 것은 전자의 확률이다. 확률만이 세상에 존재한다. 보른의보른의 해석은 뉴턴의 결정론에 결정타를 날렸다. 뉴턴의 기계적 방식이 통하지 않는다. 전자의 위치를 기계적으로 예측하는 인과성은 존재하지 않는다.

슈뢰딩거의 파동 방정식은 전자의 위치를 정밀하게 예측하는 방식이 아니다. 그러나 전자가 있을 곳을 알려주는 확률 자체는 정확히 인과성을 가지고 있다. 보른은 양자역학의 본질이 확률에 있다고 보았다. 보른의 해석에 대한 반응은 과학자마다 달랐다. 보어는, 측정하기 전에 전자가 어디에 있을지는 가능성으로만 존재한다고 주장했다. 전자가 실제로 어디에 존재하는지는 측정을 해야만 알 수 있다.
측정으로 전자를 확인하는 순간, 전자가 다른 점에 존재할 가능성은 완전히 사라진다. 보어와 달리, 아인슈타인은 보른의 확률적 해석에 동의할 수 없었다. 전자의 궤도를 확률로 얘기한다는 것은, 결정론과 인과성을 포기하는 것이라고 생각했기 때문이다.

아인슈타인은 보른의 편지에 대한 답장에서 ‘신은 주사위 놀이를 하지 않는다는 확신을 가지고 있다’고 확률적 해석에 대한 불만을 표현했다. 슈뢰딩거 역시 보른의 해석을 받아들일 수 없었다. 확률을 도입하게 되면, 양자 도약 같은 입자적 개념을 버릴 수 없기 때문이었다. 파울리는 보른의 입장에서 물질파를 다음과 같이 생각했다. 전자들의 운동량은 잘 정의되지만 위치는 알 수 없다.

그는 이러한 상황을 하이젠베르크에게 다음과 같이 썼다. ‘세상을 p(운동량)의 눈으로 볼 수도 있고, q(위치)의 눈으로 볼 수도 있다. 그러나 p와 q의 눈으로 동시에 보고자 한다면 길을 잃게 된다.’

3) 불확정성 원리의 등장과 학계의 파장

하이젠베르크는 역설적으로 보어의 성공을 통해 원자를 새롭게 보기 시작한다. 원자에는 왜 특정한 궤도만이 허락되는 것인가? 빛이 전자파라는 증거는 너무 많은데, 원자에서 나오는 빛은 왜 플랑크의 광양자 조건을 만족해야 하는가? 도대체 원자 내부에서는 무슨 일이 벌어지는 것인가?

하이젠베르크는 원자 스펙트럼을 보어와는 전혀 다른 방식으로 해석하고자 했다. 그는 원자에서 관찰되는 현상에만 주목하기로 했다. 전자의 공전 궤도는 상상일 뿐, 실제로는 관찰될 수 없다고 보았다. 그는 공전 궤도를 갈아타는 전자의 과정을 추적하는 일을 모두 포기해버렸다.

입자로 볼 때 나타나는 모든 시공간의 궤적을 잊어버리고, 대신 실험에서 측정할 수 있는 스펙트럼의 진동수와 밝기에만 주목했다. 전자는 ‘각 궤도에 해당하는’ 특별한 에너지만을 가진다. 이런 전자의 상태를 에너지-상태라고 부르자. 전자가 에너지-상태를 바꿀 수 있는 가능한 모든 경우와, 원자에서 나올 수 있는 선-스펙트럼의 밝기를 고려해보자. 그는 선-스펙트럼의 진동수를 나열한 다음, 이를 순서대로 배열했다.

그리고 각 스펙트럼의 세기를 비교했다. 전자가 상태를 바꿀 수 없다면, 빛은 나오지 않는다. 전자의 상태를 바꿀 수 있는 확률이 크다면, 스펙트럼의 세기도 밝아진다. 하이젠베르크의 계산 결과에 따르면, 에너지 상태에 있는 전자는 마치 용수철의 진동자처럼 볼 수 있다.

이 진동자의 진동수는 선-스펙트럼의 진동수와 같았다. 이 과정에서 하이젠베르크는 수학적으로 곱하기에 문제가 있는 것을 발견한다. A 곱하기 B는 B 곱하기 A와 같지 않다. 하이젠베르크는 이러한 수학적 방식을 본 일이 없었다. 하이젠베르크의 결과를 제대로 해석한 사람은 보른이었다.

하이젠베르크가 도입한 양은 진동자의 위치와 운동량을 행렬로 표시한 것이다. 행렬은 일반적으로 곱하기 순서를 바꾸면 결과가 같지 않다. 보른은 자신의 학생이던 조르단과 함께 행렬 역학이라는 새로운 형태의 수학적 연구를 시작한다.

하이젠베르크의 새로운 시도에는 전자의 궤도나 움직임을 나타내는 구체적인 모습이 하나도보이지 않았다. 행렬 역학은 모든 것이 추상적이고 생소했다. 그러나 슈뢰딩거 방정식은 달랐다. 전자를 파동으로 다루면 모든 계산이 쉬웠다.

당연히 슈뢰딩거 방정식은 많은 과학자들이 애용하는 대상이 되었다. 슈뢰딩거의 성공으로 하이젠베르크는 위축되었지만, 그렇다고 입자의 개념을 포기할 수는 없었다. 하이젠베르크 입장에서 보면 슈뢰딩거 방정식은 입자의 입장을 철저히 배제하고 있는 셈이었다.

그 당시 구름상자가 개발되었는데, 이 상자를 이용하면, 방사선 물질에서 나오는 입자의 궤적을 볼 수 있었다. 윌슨이 개발한 구름상자는 포화된 수증기가 들어 있는 상자 안에서 구름이 만들어지는 현상을 이용한 것이다. 포화된 공기가 팽창하면서 냉각하게 되면 작은 물방울이 생기고, 이 물방울들이 먼지에 들러붙으면 구름이 만들어진다. 이를 구름상자라고 불렀다.

그런데 먼지를 제거하고 상자에 빛을 쪼여도, 구름이 만들어진다. 구름상자에 빛을 쪼이면, 공기가 이온화되면서 물방울이 생겨 구름이 만들어지기 때문이다. 이 원리를 이용하면, 마찬가지로 방사선 물질에서 나오는 알파입자(헬륨 핵)나 베타입자(전자)를 통과시켜도, 물방울이 생기면서 자국이 만들어진다. 바로 이 자국이 입자가 지나가는 궤적이다.

하이젠베르크는, 구름상자에 보이는 전자의 궤적이 바로 전자가 입자라는 사실을 입증하고 있다고 믿었다. 그는 입자의 입장에서 양자 도약이나 불연속성에 대해 다시 깊이 생각하기 시작했다. 알파입자나 베타입자가 궤적을 남긴다는 것은 그 물질들이 입자라는 것을 증명하는 현상이다. 이런 궤적을 물질파로 설명할 수는 없다. 그렇다면 구름상자에 남겨진 궤적은 연속적인 것일까? 이 궤적은 얼마나 정밀한 것일까? 하이젠베르크의 생각으로는 구름상자에 입자가 남긴 궤적이라는 것이 전자보다 훨씬 큰 개별적인 물방울들의 집합이었다.

그 자국은 단지 불분명하고 불연속적인 물방울의 점들에 불과하다. 전자의 위치가 정밀하거나 연속적으로 나타나는 것은 아니다. 전자의 위치를 정확하게 측정하려고 해보자. 전자를 관찰하려면, 빛을 쬐어주어야 한다. 그러나 전자에 빛을 쪼이면, 전자의 움직임은 민감하게 변화한다. 변화를 가능한 줄이려면 광자의 에너지를 줄여야 한다.

광자의 에너지를 줄이려면 진동수가 적은 빛(파장이 긴 빛)을 써야 한다. 그러나 파장이 긴 빛을 쓰면 전자의 위치를 정밀하게 알아내기가 불가능하다. 파장이 길수록 위치는 더욱 불확실해지기 때문이다. 위치의 불확실성을 Δq라고 하고, 운동량의 불확실성을 Δp라고 하면, 이 둘 사이에는 한계가 존재한다. 1927년 3월, 하이젠베르크는 ΔqΔp≥h라는 불확정성 원리를 발표했다. h는 플랑크 상수이고, 6.6×10-34(마이너스 34제곱) Jㆍs이다. 줄(J)은 일상에서 사용하는 에너지 단위이고, 초(s)는 시간 단위다. 일상에서 쓰는 단위로 측정할 때 나오는 이 값은 너무너무 작다.

오차의 한도가 너무 작기 때문에, 일상에서 불확실성을 볼 수는 없다. 거시적인 세계의 생각을 원자에 적용할 수는 없다. 불확정성 원리는 관찰할 수 있는 물리량에 제한을 둔다. 하이젠베르크가 불확정성의 원인으로 지목한 것은 측정 과정에서 어쩔 수 없이 나타나는 교란 행위다. 운동량(p)과 위치(q)의 곱하기는 순서를 바꾸면 결과가 같지 않다. 여기에서 곱하기는 측정의 순서를 나타낸다고 보면 된다.

운동량을 먼저 측정하고 위치를 나중에 측정한 결과가 위치를 먼저 측정하고 운동량을 나중에 측정한 결과와 같지 않다. 먼저 측정한 결과가 나중에 측정할 양에 영향을 주기 때문이다. 양자역학은 측정 과정에서 나타나는 교란 행위가 자연의 근본 원리라는 것에 바탕을 두고 있다. 불확정성 원리는 고전역학과 양자역학의 중요한 차이를 말해주고 있다. 입자의 운동량과 위치는 입자의 상태를 나타내는 독립적인 양들이다.

거시적 세계에서는 입자의 위치와 운동량을 따로 정밀하게 측정할 수 있다. 따라서 입자의 상태를 나타내는 방법과 이를 실제로 측정해서 확인하는 데 괴리가 없다. 그러나 양자 세계는 다르다. 입자의 위치와 운동량을 각각 정밀하게 확인할 수 있는 방법이 없다. 이 때문에 전자를 고전적인 방식으로 표현하려는 입장에 커다란 문제가 생긴다. 우리는 여태까지 전자를 다루는 방식에 대해 잘못된 기대를 하고 있지는 않았을까?

물질과 빛이 입자-파동의 이중성을 가지고 있지 않다면, 플랑크 상수도 나오지 않을 것이고, 양자역학도 없다. 하이젠베르크는 1927년 솔베이 학회에서 양자역학은 더 이상 수정이 필요 없는 완성된 이론이라고 주장했다.

4) 보어와 아인슈타인과 슈뢰딩거

하이젠베르크가 불확정성 원리를 발표한 이후에 과학계는 양분되었다. 보어도 불확정성 원리를 처음 들었을 때는 하이젠베르크의 아이디어를 받아들일 수가 없었다. 보어는 처음부터 빛이 광자라는 개념을 받아들이려 하지 않았다.

빛은 간섭을 일으킨다. 그런데, 어떻게 빛을 입자로 볼 수 있다는 말인가? 빛은 분명히 전자파로 보아야 한다. 1922년 콤프턴이 X-선으로 흑연 형태의 탄소에 산란 실험을 하여 X-선이 광자처럼 행세한다는 결과를 발표했다. 그러나 보어는 광자의 실체를 인정하지 않으려 했고, 대신에 원자 수준에서는 에너지가 보존되지 않는다는 과격한 제안까지 할 정도였다.

그는 플랑크가 도입했던 광자를 사용하지 않고도 흑체복사(뜨거운 물체에서 나오는 빛의 스펙트럼)를 설명하는 방법을 찾기 위해, 그의 동료이며 공동 연구자이던 크라머스를 독려했다. 그러하던 보어가, 하이젠베르크의 불확정성 원리에 영감을 받은 후에는 완전 개종을 했다. 보어는 불확정성 원리를 상보성이라는 형태로 받아들였다.

보어는 전자가 가지고 있던 입자-파동의 이중성에 대한 역설을 상보성으로 설명할 수 있음을 알아차렸다. 입자성의 모호함이 파동성을 불러온다. 입자가 존재하고, 파동도 존재한다. 그러나 이 둘 모두가 동시에 필요하지는 않다. 입자와 파동, 두 개념은 배타적이 아니라 서로 보완적이다.

입자와 파동, 두 가지 모두가 존재하지만, 실제 관찰하는 과정에서는 한 가지 성질만 보인다. 1927년 9월 코모 학회에서, 보어는 불확정성 원리와 양자 이론에서의 측정에 관한 역할, 파동 함수와 보른의 확률적 해석 등을 포함하는 양자역학의 기초를 발표했다. 입자적 성질과 파동적 성질이 모두 융합된 이 해석을 ‘코펜하겐 해석’이라고 부른다.

10월에는 솔베이에서 학회가 열렸는데, 여기에서 코펜하겐 해석을 두고 논쟁이 붙기 시작한다. 아인슈타인 역시 빛의 간섭은 전자파로, 빛의 입자적 성질은 광자로 설명하는 형태를 받아들였다. 그러나 전자에 대해서는 무엇인가 부족하다고 여겼다. 아인슈타인은 하이젠베르크가 주장한 대로 양자역학이 완성된 이론이라는 주장에 동조하지 않았다.
불확정성 원리가 오히려 양자역학의 불완전성을 표현하는 것으로 받아들였다. 아인슈타인은 보어를 위시하여 양자역학을 방어하는 과학자들을 향해 끊임없는 질문이 던졌다. 양자역학이 자연 현상을 이해하고 예측하는 데 큰 공헌을 한 것은 틀림없다.
그러나 완전한 이론이라면 관찰되는 양 이외에도 모든 물리량의 실재를 결정론적으로 설명해야 해야 하는 것 아닌가? 완전한 이론이라면, 관찰과 같은 개념은 이론을 구성하는 단계에서 드러나지 말아야 한다. 오히려 이론이 관찰할 양을 결정해야 한다. 슈뢰딩거 역시 또 다른 이유로 불확정성 원리를 받아들이려 하지 않았다.

슈뢰딩거는 파동 방정식을 도입하면서, 전자의 입자성을 완전히 무시하고자 했다. 그는 파동으로만 전자의 모든 현상을 설명할 수 있다고 보았다. 파동은 연속적으로 표시되고, 미분 가능하다. 전자를 파동으로 다루게 되면, 보어가 도입했던 양자 도약이나 불연속성 등과 같은 입자를 다루는 개념은 필요하지 않다.

그런데 보른의 해석대로 파동을 전자가 존재하는 확률로 해석하게 되면, 입자성과 관련된 양자 도약이나 불연속성을 받아들여야만 한다. 그는 불확정성 원리와 코펜하겐 해석을 받아들일 수가 없었다. 전자를 물질파로 다루어야 하는지, 입자로 다루어야 하는지, 전자가 움직이는 모습을 시공간의 궤도로 다루어야 하는지, 아니면 확률로 다룰 수밖에 없는지에 대한 논란은 과학자들 사이에 엄청난 긴장과 대립을 가져왔다.

각각의 주장이 기존에 확립되었던 각자의 입자성과 파동성에 대한 확고한 믿음에 대한 도전이 되기 때문이었다. 전자가 시공간에서 어떻게 존재하는지, 시공간에서 어떻게 움직이는지,

미래를 어떻게 다룰 수 있는지에 대한 견해차가 결정론과 비결정론의 진영으로 나뉘어 커다란 논쟁으로 전개되었다. 에렌페스트는 당시의 이러한 상황을, 창세기 11장 9절(“여호와께서 온 땅의 언어를 혼잡하게 하셨다”)의 구절로 빗대어 말했다.

5) 디랙이 도입한 새로운 언어: 양자장론

전자를 입자로 보아야 하는가, 아니면 파동으로 다루어야 하는가? 이러한 갈등을 해결할 수 있는 돌파구는 없는가? 전자를 좀 더 정밀하게 다룰 수 있는 새로운 언어는 무엇인가?

디랙은 이러한 질문에 대해 1927년 실질적인 답을 내놓았다. 디랙은 먼저 빛을 새롭게 다룰 수 있는 방법을 고안해냈다. 빛의 입자성을 강조하려면, 빛을 광자들의 집합으로 다루면 된다.

파동성을 강조하려면 전자파로 다루면 된다. 그렇다면, 파동과 입자를 동등하게 다룰 수 있는 방법은 없는가? 전자파는 각 파장마다 모드를 가지고 있다. 모드란 현악기를 연주할 때 줄이 진동하는 모습과 비슷하다.

디랙의 아이디어는 이런 모드를 만들어내고 없애는 연산자를 도입하는 것이었다. 하이젠베르크가 진동자를 이용하여 원자의 스펙트럼을 설명하고자 했을 때도 이미 이런 연산자를 도입했었다. 전자파의 파동을 만들어내거나, 없애는 언어를 사용한다면, 전자파도 입자와 동등한 입장으로 다룰 수 있다.

모드를 만들어내는 것은 광자 하나를 만드는 것이고, 광자는 파동에 해당하는 파동 함수를 가지게 된다. 디랙이 찾아낸 과정은 광자 하나마다 파동 함수를 가지도록 하는 방식이었다. 이처럼 전자파를 광자의 파동으로 바꾸는 과정을 디랙은 제2양자화라고 불렀다. 그리고 새롭게 탄생한 전자파의 표현을 양자장이라고 불렀다. 하이젠베르크가 입자의 위치와 운동량 사이에 도입한 불확정성 원리는 제1양자화라고 부른다.

디랙은 양자장을 도입함으로써, 빛을 입자로 보는 입장과 빛을 파동으로 보는 입장 사이의 갈등을 극복할 수 있었다. 디랙의 아이디어는 큰 반향을 일으켰다. 그렇다면 전자도 같은 방법으로 다룰 수 있지 않을까? 같은 해에 조르단과 위그너가 물질파를 양자장으로 바꾸는 과정에서 배타 원리를 만족하는 새로운 형태의 연산자를 도입했다. 전자 역시 양자장의 형태로 다루는 것이 가능했다. 일련의 과정을 거치면서 입자와 파동으로 촉발된 갈등은 일단 봉합되었다.

한편 원자 안에서 전자는 아주 빠른 속력으로 움직인다. 광속에 가깝다. 그런데 슈뢰딩거가 만든 파동 방정식은 전자의 속도가 느릴 때 적용되는 식이다. 전자를 제대로 다루려면 특수 상대론에 맞게 고쳐야 한다. 아인슈타인의 유명한 질량 에너지 공식 E=mc2(제곱)를 포함하는 새로운 형태의 에너지로 표현해야 한다.

또한 전자는 스핀을 가지고 있기 때문에 물질파의 입장에서 보면 2개의 성분을 가지게 된다. 디랙은 스핀의 효과를 다루기 위해 행렬을 도입했다. 그리고 물질파가 시간적으로 변하는 모습을 시간의 1차 미분으로 표시하려고 했다. 그런데 결과는 의외였다. 디랙이 찾아낸 새로운 파동 방정식에는 음의 에너지를 가지는 2개의 새로운 성분이 더 필요했다. 이것은 양의 에너지를 가지는 물질파와 음의 에너지를 가지는 물질파가 동시에 나타난다는 뜻이다.

디랙은 음의 에너지를 가진 전자가 존재한다는 것을 물리적으로 설명하기 위해 진공을 다시 해석했다. 그동안 사람들은 진공을 아무것도 없는 무의 세계로 생각했으나, 디랙은 음의 에너지를 가진 전자가 가득 찬 세계(전자 바다)라고 생각했다.

전자는 파울리의 배타율을 만족한다. 진공에 이미 전자가 이미 가득 차 있다면, 다른 전자는 더 이상 들어갈 수 없다. 진공이란 전자가 이미 가득 찬 공간이다. 그렇다면 음의 에너지를 가진 전자를 빼낼 수는 없을까? 충분한 에너지를 공급한다면 불가능하지 않을 것이다.

전자 바다에 있는 전자를 빼내려면 에너지를 얼마나 공급해야 하는가? 전자 바다에 정지해 있는 전자는 -mc2(제곱)이라는 음의 에너지를 가지고 있다. 이와 달리 전자 바다 밖에서 존재하는 전자는 +mc2(제곱)이라는 양의 에너지를 가지고 있다.

따라서 전자 바다에서 전자 하나를 진공 밖으로 빼내려면, 적어도 2mc2(제곱)이라는 에너지를 공급해야 한다. 전자 바다에는 구멍이 하나 생기고, 전자 바다 밖에는 양의 에너지를 가진 전자가 하나 존재한다. 디랙은 전자 바다에 생긴 구멍을 반입자로 해석했다. 반입자의 전하는 전자와 부호가 반대다. 디랙이 전자의 반입자를 최초로 도입한 것이다. 디랙의 새로운 주장은, 1932년에 반입자(양전자)가 우주선 입자 궤적에서 발견됨에 따라 입증되었다. 디랙은 1933년 슈뢰딩거와 함께 노벨상을 공동 수상한다.

그리고 1965년, 도모나가와 슈빙거, 파인만은 노벨 물리학상을 수상한다. 이들의 업적 역시 반입자의 등장과 밀접한 연관이 있었다. 전자는 전하를 가지고 있기 때문에 전자파와 반응한다. 전자는 전자파를 잠깐 방출했다가 흡수하기도 하고, 전자파는 전자와 반전자를 동시에 잠깐 만들었다가 사라지게 할 수도 있다. 그런데 반입자 때문에 문제가 복잡해졌다. 에너지만 충분하면 입자와 반입자가 쌍으로 계속 생겨날 수 있다.

진공 역시 입자와 반입자가 쌍으로 생겨났다 없어지는 일이 수없이 되풀이 될 수 있다. 이러한 쌍생성, 쌍소멸을 고려하면 진공의 에너지에 심각한 문제가 생긴다. 진공의 에너지 값이 무한대가 되어버린다. 디랙은 무한대를 없애기 위해 노력했지만 허사였다.

그래서 그는 양자장론을 더 이상 신뢰할 수 없다고 공언했다. 진공의 문제가 생길 즈음, 세계는 2차 대전의 소용돌이로 들어갔다. 전쟁의 와중에 많은 학자들이 미국으로 이주하게 되었고, 학문의 중심이 미국으로 옮겨갔다.

전쟁이 끝나자 연구를 계속하려면 학자들은 기존의 연구를 이해할 필요가 있었다. 1947년 6월에 열린 쉘터 아일랜드 학회에서는 양자장론의 강의와 함께, 램이 측정한 수소 원자의 에너지가 소개되었다. 수소 원자의 선-스펙트럼에 디랙의 예측과 미세하게 다른 선이 존재한다는 것이었다. 이를 램-이동이라고 부른다.

당시 전쟁 중에 개발되된 전자파 기술 덕분에 아주 정밀한 실험이 가능해져서 생긴 발견이다. 이 미세한 에너지 차이를 어떻게 설명할 것인가? 슈빙거는 디랙의 양자장론을 사용하여 전자의 에너지를 계산했다. 물론 무한대 값이 나온다. 슈빙거의 아이디어는 전자와 전자파가 반응하는 모습을 따로 구분하는 것이었다. 그리고 무한대 값을 전자의 질량에 흡수함으로써 질량을 새로 정의했다.

새로 정의된 질량이 실험실에서 관찰되는 전자의 질량이다. 이렇게 질량을 다시 정의하는 과정을 재규격화라고 부른다. 슈빙거는 재규격화를 통해 무한대 문제를 해결했을 뿐 아니라 램-이동도 설명했다. 슈빙거는 g-값이라는 물리량도 계산했다. 디랙에 의하면 이 값이 2이지만 입자와 반입자의 효과를 고려하면 약간의 차이가 난다.

실험값은 2.00114인 데 비해, 슈빙거가 계산한 값은 2.0016이었다. 이 값을 계산하는 데에도 역시 무한대가 나왔지만, 이번에는 전하의 양을 재규격화하여 무한대를 사라지게 만들었다. 슈빙거의 계산으로 양자장의 신뢰가 회복되었다. 그러나 슈빙거의 계산 방식은 너무 복잡해서,

당시에 슈빙거 이외에는 그 과정을 이해할 수 있는 사람이 별로 없었다. 도모나가 또한 슈빙거와 비슷한 일을 일본에서 수행하고 있었다. 디랙과 하이젠베르크가 1929년에 일본을 방문하여 도쿄의 이화학 연구소에서 강의한 일이 있었다.

이 강의에서 도모나가는 매우 감동을 받았고, 졸업 후 이화학 연구소로 옮겼다. 1937년에는 하이젠베르크가 있던 라이프치히 대학으로 연구를 떠났지만, 1939년 전쟁이 발발하자 귀국할 수밖에 없었다. 전쟁 후에 핵력과 관련한 양자장론 연구를 후배들과 같이 수행하면서, 무한대를 흡수하는 방식을 연구하였다.

도모나가가 추구했던 양자장론의 방식은 슈빙거의 방식과 유사하다. 한편 파인만은 슈빙거와는 전혀 다른 방식으로 전자를 다루었다. 1928년 디랙이 방정식을 도입할 당시로 돌아가보면, 디랙은 전자를 먼저 고전적인 입자로 취급하고 이를 통해 양자역학으로 대응시키려고 했다. 디랙의 이러한 방식을 계승한 사람이 파인만이다.

그는 지도 교수이던 윌러의 영향을 받아, 시공간의 한 점에서 다른 점으로 전자가 움직인다고 보았다. 다만 고전적인 방식과는 다르게, 한 점에서 다른 점으로 진행하는 데 확률이 필요했다. 이 확률은 슈뢰딩거 방정식을 만족한다.

파인만이 길적분이라는 새로운 방식의 계산 방법을 만들었다. 슈빙거 방식과 길적분은 겉으로 보기에는 전혀 다르지만, 계산 결과는 같았다. 그러나 파인만의 길적분은 전혀 새로운 방식이었기 때문에, 파인만이 길적분을 발표하자, 보어를 비롯해 많은 과학자들은 이해를 할 수 없었다. 더구나 반입자를 다루기 위해 파인만은 시간이 과거로 흘러가는 경로를 잡았다.

이러한 방식은 학계가 받아들이기에 너무 생소한 것이었다. 파인만은 학계의 이런 반응에 상심했지만, 슈빙거 방식과 달리 길적분이 눈에 보이는 방식으로 쉽게 계산할 수 있다는 장점으로 위안을 삼았다. 파이만 도표로 불리는 길적분 그림은 복잡한 수식 대신, 그림의 형태로 어떤 계산을 하는지를 간단하게 보여주기 때문에, 이제는 물리학계에서 정설이 되었다.

3, 양자역학의 관전 포인트

1) 전자는 고전 입자와 얼마나 다를까?

전자 하나는 입자와 파동의 양면성을 지닌다. 전자 2개를 생각하게 되면, 전자에는 또 다른 특별한 성질이 나타난다. 1922년 슈테른이 칼 모양으로 이루어진 자석 사이로 원자-선을 통과시키는 실험을 했다.

그는 뜨겁게 만든 은-원자 기체를 원자-선으로 사용하였다. 이 실험의 목적은 원자들이 자석 사이를 통과할 때 어떻게 반응하는지를 알아보는 것이었다. 전자가 원자 안에서 공전하는 것으로 생각하면 전자가 가진 전하는 전류를 만든다. 그 결과 원자도 전자석이 된다. 칼 모양의 자석 사이로 원자가 통과하면, 두 자석 사이에 밀고 당기는 효과 때문에 세 가지 궤도가 가능할 것으로 예측하고 있었다.

그런데, 실제 실험 결과는 예상과 전혀 달랐다. 원자들이 자석을 통과한 후 스크린에 나타난 점은 3개가 아니라 2개였다. 이 결과를 어떻게 설명할 것인가? 좀머펠트가 생각해낸 타원형 궤도와 3차원 공간의 양자화는 보어가 처음에 생각했던 원자 궤도보다 더 많은 미세 궤도를 만들어냈다. 에너지가 가장 낮은 궤도에는 1개의 궤도가 존재한다. 그러나 다음 궤도를 자세히 들여다보면 1개가 아니라 미세하게 갈린 4개의 궤도가 존재한다. 그리고 3번째 궤도에는 9개의 미세 궤도가 존재한다.

이러한 미세 궤도 덕분에, 원자의 선-스펙트럼에 미세하게 갈라지는 선을 설명할 수 있었다. 일반적으로 n번째 궤도에는 n²의 미세 궤도가 존재한다. 1924년 러더퍼드 연구실에 있던 스토너는 원자의 화학적 성질을 분석하면서, n번째 궤도에 2n2(제곱)의 전자가 들어가면 원자의 전자껍질이 모두 채워진다는 사실을 알아냈다.

전자껍질이 채워지면 그 원자는 불활성기체가 된다. 주기율표에서 보면 원자번호 2번은 헬륨이고 불활성 기체다. 그 다음 불활성기체는 원자번호 10번인 네온이다. 10개의 전자가 채워지는 것은 가장 낮은 궤도에 2개, 그리고 다음 궤도에 8개가 들어가기 때문이다. 이처럼 전자는 각 궤도에 차곡차곡 들어간다.

원자의 화학적 성질은 가장 바깥의 전자껍질에 들어 있는 전자들에 의해 결정된다. 그런데, 만약 모든 전자들이 에너지가 가장 낮은 곳으로 몰리게 되면, 화학적 성질을 설명할 수 없다. 1925년 초에 파울리가 전자들이 낮은 에너지 상태로 몰려들지 말아야 한다고 주장했다.

디랙은 이러한 성질을 파울리의 배타 원리라고 불렀다. 전자는 2개 사이에 배타성이 존재한다. 서로 가까이 있지 않으려는 성향이 있다. 배타 원리는 양자 상태에서만 나오는 특수한 현상이다. 고전전인 입자들 사이에는 존재하지 않는다. 파울리는 원자 안에 만들어지는 전자껍질에 전자가 채워지는 개수에 주목했다. 전자의 개수가 n2이 아니라 2n2이라는 것을 설명할 필요가 있다. 전자가 들어가는 방이 미세 궤도마다 1개가 아니라 2개라면 어떨까? 그는 새로운 양자수를 생각했다.

보어가 처음 생각해낸 궤도는 주-궤도이다. 이 궤도에는 주양자수가 붙는다. 주양자수는 n이고, 그 값은 1, 2, 3 등이다. 좀머펠트가 생각한 n2개의 미세 궤도에는 (회전 운동량과 함께) 자기 양자수가 붙는다. 자석과 반응하면서 미세 궤도가 구분되기 때문이다. 그렇다면 각 미세 궤도에도 새로운 상태가 존재하는 것은 아닐까?

새로운 상태가 두 가지가 존재한다면, 이 상태에도 새로운 양자수를 붙여야 한다. 파울리가 주장했던 새로운 양자수는 무엇을 뜻하는 것일까? 여기에는 운이 따르지 않았던 크뢰니히의 얘기가 나온다.
1924년 11월에 크뢰니히는 전자가 자전하는 효과라고 주장했다. 그러나 파울리는 이 주장을 무시하였고, 크뢰니히는 논문을 발표하지 않았다. 1년 후에 하웃스미트와 울렌벡이 전자가 자전하는 양을 스핀이라고 부르고, 이를 논문으로 발표했다.

로렌츠는 전자가 자전한다면 광속을 넘을 것이라고 말했지만, 아인슈타인은 상대론 효과 때문에 문제가 되지 않는다고 설명했다. 결국 스핀이라는 새로운 양자수는 우여곡절 속에 세상에 알려지게 되었다. 스핀의 발견은 자석이 존재하는 이유를 설명하는 아주 중요한 물리적 의미가 있는 업적이었지만, 노벨상 수상으로 이어지지 못했다. 당시 노벨 위원회가 크뢰니히에 대한 미안한 마음을 고려한 결과가 아닐까 여기고 있다.

전자는 고전 입자와 전혀 다른 또 다른 특성을 가지고 있다. 전자들은 서로 구별할 수 없다는 점이다. 지구를 공전하는 여러 위성에는 각자의 이름이 붙어 있다. 쌍둥이조차 이름을 붙일 수 있다. 그러나 전자는 다르다. 헬륨에는 2개의 전자가 있지만, 2개의 전자를 구별할 수 있는 방법은 없다. 원자마다 원자번호에 해당하는 수의 전자를 가지고 있다.
전자들은 에너지가 다른 상태에 차곡차곡 쌓인다. 그럼에도 각 전자들에게 이름을 붙여 구별할 수 있는 방법이 없다. 이처럼 구별이 불가능한 입자를 동일 입자라고 부른다. 전자는 배타 원리를 만족하는 동일 입자에 해당한다. 이런 성향을 가진 동일 입자를 페르미온이라고 부른다. 동일 입자에는 두 종류가 존재한다. 그 하나가 페르미온이다. 빛을 나타내는 광자 역시 동일 입자다.

그러나 광자들은 전자와 아주 다른 성질을 가지고 있다. 광자들은 서로 다가가려는 성향이 있다. 광자는 동일 입자이지만, 전자와는 다른 새로운 종류의 동일 입자다. 광자처럼 배타 원리를 따르지 않는 동일 입자를 보존이라고 부른다.

2) 전자가 입자라면, 전자는 어떻게 간섭무늬를 만들까?

고전적인 생각으로 보면 파동만이 간섭을 일으킬 수 있다. 입자가 간섭을 일으킨다는 것은 상상할 수 없는 일이다. 어떻게 밤하늘의 화성과 목성이 겹쳐져 새로운 행성으로 보일 수 있다는 말인가?
고전적으로는 불가능하지만, 전자는 정말로 간섭을 일으킨다. 1961년 독일 튀빙겐 대학의 욘손이 전자-선을 이용하는 대신 전자를 하나씩 보내면서 간섭무늬가 만들어지는 과정을 재현했다.

그는 전자들을 차례로 이중 슬릿을 통과시켜 보냈다. 전자가 이중 슬릿을 통과하면, 형광 스크린에는 점 하나가 찍힌다. 전자가 스크린에 도착했다는 신호다. 또 하나의 전자를 보내면 점 하나가 더 만들어진다. 고전적으로 생각하면, 전자는 스크린의 같은 점에 도착해야 한다.

그러나 전자는 그렇지 않다. 첫 번째 전자와 두 번째 전자가 스크린의 같은 점에 찍히지 않는다. 계속하여 전자들이 스크린에 도착하면 점들이 여기저기 쌓이게 되고, 무질서하게 보이는 점들이 모여 결과적으로 간섭무늬 패턴을 만든다. 전자 하나는 입자로 볼 수 있지만, 많은 전자가 모이면 파동의 성격을 보여준다고 볼 수 있다.

그렇다면 전자 하나씩은 입자로 보이지만, 전자가 집단의 움직이면 파동으로 보인다는 결론은 언제나 맞을까? 이중 슬릿으로 약간 다른 실험을 해보자. 전자가 이중 슬릿을 통과할 때, 2개의 구멍 중에서 어떤 구멍을 통해 지나가는지를 추적하면서, 전자들이 스크린에 만드는 무늬를 조사해보았다. 이 실험에서는 전자의 간섭무늬 패턴이 전혀 나타나지 않는다. 같은 이중 슬릿 실험이지만, 다른 결과가 나오는 이유는 무엇인가?

두 실험의 큰 차이점은 전자가 이중 슬릿을 통과할 때 어떤 구멍으로 통과하는지를 확인하느냐 그렇지 않느냐에 있다. 전자가 통과하는 구멍을 확인하게 되면 전자는 스크린에 간섭무늬를 만들지 않는다. 이와 달리 전자가 통과하는 궤도를 알아내면 간섭무늬가 사라진다.

전자의 궤도를 확인하면 전자는 입자로 보이고, 전자가 어떤 궤도를 따라 가는지를 확률적으로 파악하면, 전자는 파동으로 보인다. 원자 세계에서만 보이는 아주 이상한 특성이 바로 여기에 있다. 전자를 처음부터 입자로 간주하고 실험하면, 전자 집단이라 하더라도 스크린에는 간섭무늬가 나타나지 않는다. 이와 달리 처음부터 전자를 물질파로 여기고 실험하게 되면, 전자 집단에 의한 간섭무늬가 나타난다. 전자가 측정하는 방식에 따라 달리 반응한다.

바로 이 결과에 대한 해석을 두고 보어와 아인슈타인은 크게 대립하였다. 그런데 똑같은 현상이 전자만이 아니라 원자 세계의 모든 물질들에서 나타난다. 광자 역시 똑같은 실험을 할 수 있다. 1804년 영은 빛이 입자인지 파동인지에 대한 논란에 종지부를 찍었다. 그는 빛이 간섭무늬를 보여준다는 것을 이중 슬릿 실험으로 확인했다. 이 실험으로 빛이 파동이라는 것이 확실해졌다.

그런데 한 세기가 지난 후, 다시 빛을 입자로 얘기한다면 영이 실험해서 보인 간섭무늬는 무엇이란 말인가? 바로 전자와 똑같은 방식의 실험으로 영의 간섭무늬를 재현할 수 있다. 레이저 포인트에서 나오는 광자를 하나씩 이중 슬릿에 통과시켜보자. 디지털 카메라로 스크린을 대치할 수 있다. 카메라의 필름에 광자의 자국이 찍힌다. 시간이 지나면서 점들은 쌓이고, 점들이 모이면서 간섭무늬가 형성된다.

빛을 광자로 보는 것은 빛 알갱이 하나를 보는 것이지만, 빛을 파동으로 보는 것은 빛 알갱이들의 집단적 움직임을 보는 것과 같다. 결국 전자나 광자가 보여주는 간섭무늬는 많은 수의 입자들이 이중 슬릿을 통과할 때 나타나는 불확정성이 스크린에 나타나는 것과 같다.

보른은 물질파를 확률파동으로 해석하고, 확률파동은 정확히 알 수 있다고 보았다. 양자역학에서는 전자가 어디에 있을지를 확률로 파악한다. 인공위성이 지구를 공전할 때 정확한 위치와 속도를 알 수 있는 것처럼 전자가 원자 내에서 어떤 궤도를 정확히 돌고 있는지를 파악하고자 한다면 잘못된 것이다.

대신 원자는 스펙트럼을 통해 전자가 어떤 에너지를 가지고 있는지를 알려주고 있다. 전자가 핵을 공전하는 궤도를 정확하게 알고자 하는 실험을 하면서, 원자가 보여주는 스펙트럼을 똑같이 보고자 한다면 이것은 불가능한 일이다. 이것이 바로 불확정 원리가 알려주는 원자 세계의 진실이다.

3) 전자의 실재는 어떻게 표현되어야 하는가? 두 개의 전자가 그 내막을 알려준다

1920년대 아인슈타인과 보어는 전자를 보는 입장이 많이 달랐다. 보어의 입장은 전자가 입자와 파동이라는 두 가지 가능성을 모두 가지고 있지만, 관찰할 때는 두 가지 중에서 하나만이 구현된다는 것이었다.

아인슈타인 역시 빛에 관해서는 비슷한 생각을 가지고 있었다. 빛은 전자파이지만, 입자의 성질을 다루려면 빛 알갱이의 존재를 인정해야 했던 것이다. 다만 빛을 제대로 다루려면 전자파 이론이나 빛 알갱이 이론이 아닌 통합된 이론이 필요하다고 믿었다. 그러나 하이젠베르크의 주장대로 양자역학만이 원자 세계를 유일하게 다루는 학문이라는 주장은 받아들일 수가 없었다.

아인슈타인은 양자역학이 원자 세계의 많은 것을 설명하고 있지만, 이론으로서는 불완전하다고 생각했다. 그래서 양자역학이 전자의 실재(reality)를 완전히 담고 있지는 않다는 사실을 확인시켜주고자 했다. 정말로 전자는 파동과 입자라는 두 가지의 가능성을 가진 채, 관찰을 하는 순간에 그 하나의 가능성만이 드러나는 것일까?

이중 슬릿 실험을 다시 보자. 전자는 슬릿을 통과한 다음 형광판에 자국을 남긴다. 그런데 이중 슬릿을 통과하는 동안, 전자 하나가 형광판 어느 곳에 자국을 남길지를 예측할 수는 없다. 양자역학이 정확히 예측할 수 있는 것은 전자가 어떤 위치에 떨어질지에 대한 확률뿐이다.

문제는 형광판의 한 점에 자국을 남기는 순간, 다른 점에 존재할 확률은 순식간에 사라진다는 것이다. 전자를 형광판에서 관찰하는 순간, 그 점에서 발견될 확률은 100%로 바뀌지만, 동시에 다른 점에 있던 확률은 0으로 바뀐다. 그렇다면, 전자가 한 점에 자국을 만드는 순간, 다른 모든 점에서의 확률이 0이 되어야 한다는 사실이 순식간에 전 공간에 전파되어야 한다.

그러나 상대론에 의하면, 이런 전파는 불가능하다. 한 점에서 사건이 일어나고, 이 사건이 다른 점에 영향을 주려면, 적어도 빛이 전파되는 시간이 필요하다. 동시에 모든 점에 정보가 전달된다는 것은 상대론에 위배될 수밖에 없다. 어떻게 확률의 붕괴 소식이 전 공간에 순식간에 (동시에) 전달될 수 있다는 말인가? 아인슈타인이 보기에는, 이렇게 순식간에 일어나는 확률(파동 함수)의 붕괴는 잘못된 것이다.

따라서 코펜하겐 해석을 따르는 양자역학은 원자에 대한 완전무결한 이론이 될 수 없다. 물론 실험실에서 수행되는 실험 결과와 양자역학으로 예측하는 실험 결과 사이에 모순은 없다. 그렇다고 양자역학을 완전한 이론으로 볼 수는 없는 것이었다. 물리적 실재를 대표하는 요소와 이를 표현하는 이론 사이에는 일대일 대응 관계가 있어야 한다.

그러나 코펜하겐 해석은 그렇지 않다. 위치는 전자를 대표하는 요소임에도 운동량을 측정하는 순간, 위치를 측정하는 측정량이 존재하지 않는다. 결국 양자역학은 전자를 대표하는 위치를 정확히 알려주지 않는다. 아인슈타인은 코펜하겐의 해석을 반박하기 위해 1935년 5월 다른 2명의 저자와 함께 짧지만 심각한 논문을 발표했다.

이 논문의 내용을, 세 명의 저자 이름을 따라서 EPR 역설이라고 부른다. 제목은 “물리적 실재에 대한 양자역학의 묘사는 완전하다고 볼 수 있는가?”이다.4 A와 B, 한 쌍의 입자로 (얽힌) 시스템을 만들자. 두 입자의 거리가 충분히 떨어져 있다면, A를 측정하는 동안 B를 전혀 건드리지 않는다고 가정할 수 있다. (이것은 두 입자 사이에 국소성과 분리성이 존재한다고 가정하는 것이다.) 이 시스템의 실재는 A와 B 사이의 거리, 그리고 시스템의 전체 운동량이라고 보자.?

A의 위치를 측정하자. 그러면, B의 위치는 직접 측정하지 않아도 알아낼 수 있다. 두 입자 사이의 상대적인 거리를 미리 알고 있기 때문이다. 마찬가지로, A의 운동량을 측정하면, 직접 측정하지 않아도 B의 운동량을 알 수 있다. 전체 운동량이 보존된다는 사실을 이용하면 된다.

결과적으로 보면, B를 직접 측정하지 않고도 B의 실재를 대표하는 요소(위치와 운동량)를 알 수 있다. 이처럼 직접 측정하지 않고도 물체의 실재를 알 수 있는데, 양자역학에서는 측정하지 않으면 물리적 실재의 요소 자체가 없다고 부정한다. 이러한 양자역학이 물리적 실재를 제대로 다루고 있다고 말할 수 있는가? EPR은 불확정성 원리 자체를 부인하는 것은 아니었다. 다만 측정으로 표현되지 않는 물리적 실재를 표현하지 못한다면, 양자역학은 불완전하다는 논리를 편 것이다.

논쟁이 일어날 당시에는 아인슈타인과 보어의 주장에 대해 아무도 누구의 논리가 맞는지를 답할 수 없는 것처럼 보였다. 보어의 주장이나 아인슈타인의 주장 모두 나름의 논리가 있었고, 실험적으로 두 주장을 구별할 수 없는 듯이 보였기 때문이다. 결과적으로 EPR 역설은 철학적인 논쟁으로 남는 듯했다. 이러한 EPR 역설을 실제적인 문제로 바꾼 사람은 봄이다.

봄은 아인슈타인과 보어의 논쟁 사이에서 돌파구를 여는 새로운 방식의 추론 과정을 만들었다. 봄은 드브로이가 주장했던 파일럿 파동 이론을 바탕으로 새로운 논리를 전개했다. 전자가 물질파라는 이론을 주장했던 드브로이는, 1927년 솔베이 학회에서 파일럿 파동 이론을 들고 나왔다. 그의 주장은 물질파가 보른의 해석처럼 확률이 아니라, 실제적인 파동이라는 것이었다.

즉, 파도가 배를 이동시키는 것처럼, 파일럿(pilot) 파동이 전자를 태워간다는 것이다. 드브로이가 주장한 파일럿 파동을 봄이 좀 더 정교하게 해석한 것과 같다. 파일럿 파동은 전자의 움직임에 해당하는 흐름(운동량)을 만든다. 그리고 전자 자체는 파도 위에 떠 있는 배의 위치처럼 정밀한 위치를 가지고 있다.

따라서 전자는 정밀한 운동량과 정밀한 위치가 있는 분명한 궤적을 가진다. 그러나 불확정성 원리에 의하면, 위치나 운동량 중 하나는 숨겨져야 한다. 그 결과 실험하는 사람은 숨겨진 값을 측정할 수는 없다.

봄이 만들고자 생각해낸 이론은 숨은 변수가 있는 이론이었다. 숨은 변수 이론은 겉으로 보이는 상황을 좀 더 근본적인 이론으로 설명하는 것과 같다. 우리는 분자를 직접 볼 수는 없지만, 우리가 느끼는 열이라는 것은 알고 보면 분자들의 움직임이다. 봄은 숨은 변수를 이용하여 양자역학을 설명할 수 있다면, 좀 더 완전한 이론을 만들 수 있을지도 모른다는 시도를 한 것이다.

그러나 봄 역시 숨은 변수를 이용하는 방법은 양자역학과 맞지 않는다고 생각했다. 왜냐 하면 이미 오래전에 폰노이만이 양자역학의 경우 숨은 변수 이론은 가능하지 않다고 결론을 내렸기 때문이다. 폰노이만은 뛰어난 수학자이었고, 적절한 전제를 가정한다면, 양자역학을 공리적인 수준으로 다룰 수 있다고 증명한 것으로 알려졌기 때문이다.

많은 사람들이 폰노이만의 주장을 그대로 받아들였지만, 숨은 변수 이론이 가능하다는 사실을 간파한 사람이 벨이다. 벨은 아인슈타인과 보어의 주장을 가려낼 수 있는 새로운 방법을 제시했다. 그는 숨은 변수를 도입하고, 아인슈타인이 중요시했던 국소적이고 분리 가능한 2개의 입자로 만들어진 시스템을 생각했다.

이런 시스템이 예측하는 결과와 양자역학이 예측하는 결과 사이에는 중요한 차이점이 있을 수 있다. 벨은 아인슈타인이 생각했던 운동량과 위치 대신에, 봄이 생각했던 스핀 시스템으로 얘기를 전개했다. 2개의 스핀으로 된 시스템을 생각하자. 이 두 스핀은 서로 얽혀 있다. 전체의 스핀 값은 보존된다는 뜻이다.

총 스핀이 0인 시스템에서는, A가 측정한 값이 업(up)이면, B가 측정한 스핀 값은 다운(down)이 되어야 한다. 마찬가지로 A가 다운이면 B는 업이 된다. 따라서 A가 스핀 값을 측정하면 B의 스핀 값은 자동적으로 결정된다. 두 스핀이 양쪽으로 움직여 멀리 떨어진 상태에서 스핀 값을 측정한다고 하자. 당연히 A가 측정하는 스핀이 업이 나올 확률은 50%이다. 마찬가지로 B가 업을 측정할 확률도 50%이다.

이 결과는 아인슈타인이 생각한 것이나 보어가 생각한 것이나 똑같다. 아인슈타인이 생각한 대로 A가 측정하는 결과가 B의 측정에 영향을 주지 않아도 50%의 결과가 나온다는 뜻이다. 보어의 양자역학으로도 결과는 50%이다.

그렇다면 두 생각의 차이를 구별할 수 있는 방법은 무엇인가? 아인슈타인의 국소적 이론은 두 사람의 측정 결과에 대한 상관관계를 느슨하게 만든다. 두 사람이 측정하는 행위가 서로 영향을 줄 시간적 여유를 두지 않기 때문에, 독립적이라고 볼 수 있다. 이와 달리 보어의 양자역학적 방법은 두 측정 사이의 관계가 강하게 연결되어 있다.

스핀 하나를 측정해서 업이 나오면, 그 순간 다른 스핀은 바로 다운이 되어야 한다. 아인슈타인의 경우에는 이런 즉각적인 영향이 나타나는 것을 받아들일 수 없다. 국소성과 인과성을 위배하기 때문이다. 양자역학은 그러나 이러한 비국소적인 얽힘을 바탕으로 하고 있다. 국소적 영향과 비국소적 영향을 구분하기 위해 벨은 A와 B의 측정 결과에 대한 상관관계를 조사했다.

A가 스핀을 z축 방향으로 측정하고, B는 임의의 축 방향으로 스핀을 측정한다. 다음에 배열을 바꾸어 같은 실험을 다시 한다. 이렇게 나온 상관관계를 아인슈타인의 방식과 보어의 방식의 결과와 비교하는 것이다. 벨은 아인슈타인과 보어의 방식의 결과가 나올 범위가 서로 다르다는 것을 찾아냈다.

이 결과를 벨-부등식이라고 부른다. 벨-부등식을 확인하는 실험은 실제로 광자의 편광을 이용해 이루어졌다. 짝지어져 얽힌 광자를 만들기가 쉽기 때문이다. 결과는 아인슈타인의 생각이 실험 결과와 맞지 않는다는 것이다.

아인슈타인이 국소성과 분리성을 강조하면서 ‘유령 같은 원격 작용’이라고 표현하며 배척하려 했던 비국소적 연결성을 받아들여야만 한다는 것이다. 짝으로 얽힌 두 입자 사이에는 양자역학적인 비국소성이 존재한다. 양자 얽힘은 비국소적 연결을 바탕으로 하고 있다. 양자역학적으로 얽힌 계에서 입자 하나를 측정한다고, 그 측정 정보가 다른 입자에 전달되어 반응하는 것이 아니다.

아인슈타인이 생각했던 그런 이론은 양자역학에서 통하지 않는다. 그럼에도 불구하고, 아인슈타인이 주장했던 독립적 물리적 실재에 대해서는 아직도 결론이 나지 않았다고 봐야 한다.

양자역학보다 더 나은 이론이 존재할 것인가? 아인슈타인의 주 관심사는 양자역학의 불완전성이었다. 즉, 양자역학이 물리적 실재를 제대로 다루고 있는가? 양자역학을 좀 더 완전하게 만들 수 있는 이론은 없는 것인가?

측정이 이루어질 때 확률의 붕괴가 일어나는지를 대체할 수 있는 새로운 해석은 없는가? 최근에 회자되고 있는 수많은 양자 우주의 존재를 가정하는 것도 그 일환으로 볼 수 있다. 이 경우 확률의 붕괴 대신 새로운 우주를 하나 선택하게 된다.

4) 거시적 시스템과 미시적 시스템의 구별은 어떻게 가능한가?

코펜하겐의 양자역학을 거부한 또 한 명의 인물은 슈뢰딩거다. 슈뢰딩거는 파동 방정식을 고안해냈고, 원자를 파동 방정식으로 다룰 수 있다고 믿었다. 그러나 코펜하겐 해석은 다르다. 전자는 파동과 입자의 가능성을 모두 가지고 있다.

실제로 파동으로 보일지 입자로 보일지는 관찰하는 방식에 따라 정해진다고 주장한다. 그렇다면 관찰하기 전에, 전자는 어떤 형태로 존재하고 있는 것인가? 원자 안에서 전자가 한 궤도에서 다른 궤도로 바뀔 때 어떤 과정을 거치는지 알려주지 않는 코펜하겐의 얘기를 어떻게 믿을 수 있다는 말인가?
슈뢰딩거는 원자에서 나오는 빛을 양자 도약의 과정으로 설명하려는 것은 허구라고 여겼다. 슈뢰딩거의 입장은 전자를 무조건 물질파로 다루어야만 한다는 것이었다. 물질파가 원자의 모든 것을 설명해주는 것이며 전자를 입자로 생각하는 시도는 모두 틀렸다고 생각했다.

코펜하겐 해석을 따르는 과학자들은 입자의 입장에서 슈뢰딩거 방정식을 이해한다. 막스 보른은 파동 함수를 통계적인 입장에서 해석한다. 물질파동은 복소수이고, 이 파동이 알려주는 것은 전자가 어떻게 존재하는지에 대한 가능성이라고 보았다. 이러한 확률적 해석에 회의를 품고 있던 슈뢰딩거는 아인슈타인과의 교류에서 힌트를 얻어 상자 속 고양이를 등장시켰다.

이것이 유명한 슈뢰딩거 고양이다. 상자 안에 무슨 일이 일어나는지는 상자를 열어서 확인하지 않으면 알 수 없다. 머릿속으로 생각하는 사고실험을 생각해보자. 상자 안에 고양이를 놓고, 불안정한 핵도 같이 놓자. 핵이 붕괴하면 독가스가 나오는 장치도 연결되어 있다. 고양이의 생사는 핵의 반응에 달려 있다. 핵이 붕괴하면, 불쌍한 고양이는 독가스가 나와 죽을 수밖에 없다.

그런데 핵이 붕괴할지, 붕괴하지 않을지는 확률로만 알 수 있다. 핵이 붕괴할 확률을 50%라고 하자. 확률로 말한다는 것은 핵이 붕괴는 하겠지만, 100% 붕괴한다는 것을 뜻하는 것은 아니다.

따라서 핵이 붕괴할지, 아니면 붕괴하지 않을지는 붕괴한 후에나 알 수 있다. 핵은 미시 세계의 물질을 대표하고, 고양이는 우리가 사는 거시 세계를 대표한다. 거대 세계에 사는 고양이의 생사가 미시 세계의 핵이 붕괴할 확률로 결정된다. 여기에 슈뢰딩거의 고민이 있다.

상자의 덮개를 덮고 우리가 고양이의 생사를 측정하는 관찰자가 된다고 하자. 상자를 열어보지 않는다면, 고양이가 살아 있는 상태로 있는지, 아니면 죽은 상태로 있는지를 알 수 없다. 그렇다면, 상자 안에 들어 있는 고양이의 상태는, 삶과 죽음이라는 상태의 조합으로 표시해야 하는가?

그렇다면, 거시 세계의 고양이도 핵과 함께 미시 세계의 존재로 바뀌는 것일까? 고양이의 상태를 슈뢰딩거 방정식으로 예측할 수 있을까? 상자 안에 들어 있는 고양이의 생사는 언제 어떻게 결정되는 것일까? 상자를 열어 고양이의 생사를 확인하는 순간과, 상자를 열기 바로 직전의 고양이의 상태는 어떻게 다른가?

보어가 강조한 대응 원리에 따르면, 미시 세계는 거시 세계와 완전히 달라 보이지만, 적절한 중간 과정을 찾으면 미시 세계와 거시 세계를 연결하는 고리가 있다고 보았다. 그렇다면, 슈뢰딩거 고양이에게 이러한 중간 과정이란 무엇인가? 원자 세계를 측정한다는 의미는 무엇인가?

확률로 주어지는 상태를 측정으로 확인하고자 하면, 측정하는 과정에서는 측정하는 물체의 상태를 변화시킬 수밖에 없는 것인가? 우리가 달을 관찰하지 않는다면 달이 존재하고 있다고 단언할 수는 있는 것일까? 달이라는 거시 세계도 측정하는 순간 존재와 비존재의 경계를 가르는 것인가?

미시 세계와 거시 세계의 경계는 무엇인가? 슈뢰딩거는 고양이의 생사를 통해 거시 세계와 미시 세계를 어떻게 구분해야 하는지, 그리고 측정이란 무엇인지에 대한 본질적인 질문을 하고 있다.

고양이가 너무 크다면, 대신 DNA로 바꾸자. 거대 분자나 나노 시스템의 경우 뉴턴 세계와 원자 세계의 경계는 어떻게 결정되는가? 인공적으로 나노미터의 점을 만든다면 이들도 원자처럼 보일 것인가? 얽힌 계는 거시적으로 어디까지 가능한 것인가? 얽힌 계를 이용하면 거시적으로도 양자 이동이 가능할 것인가?

슈뢰딩거의 질문은 결코 철학적이거나 형이상학적인 질문으로 그치는 것은 아니다. 미시 세계와 거시 세계의 경계선상에서 양자 현상과 고전 현상이 교차하는 범위(중시계)가 실제로 존재하기 때문이다.

대략 나노미터 크기에서 중시계가 나타난다고 보고 있다. 컴퓨터 메모리를 높이려면 메모리 카드의 집적도를 높여야 한다. 집적회로의 전선 간격이 20나노미터로 줄어듦에 따라 소자들 사이에는 양자 간섭이 일어날 가능성이 높아지고 있다. 이 경우 집적회로 자체가 양자로 바뀌는 한계에 도달하고 있다는 뜻이다. 바로 이 경계선상에서 슈뢰딩거의 고민이 나타난다.

4. 마치면서

대부분의 경우 양자역학은 실질적인 목적으로 볼 때 훌륭하게 작동하고 있다. 그러나 관찰 가능한 것이 무엇인지를 결정하는 것은 이론이다. 관찰과 같은 개념은 근본적인 이론의 구성에서 드러나지 말아야 한다.

보어의 양자역학 해석에 대응해서 아인슈타인이 대응하는 논리다. 그리고 이러한 문제들로 씨름하는 과정에서 현대 물질문명이 태어났다. 뉴턴의 사고방식이 17세기 이후 자연과학뿐 아니라 사회의 인식의 틀을 바꾼 것처럼, 양자역학의 사고방식은 20세기 이후 물질문명의 틀을 바꾸어놓고 있다. 그리고 나날이 발달하는 양자역학 기술은 이제 양자공학으로 탈바꿈하고 있다.

반도체와 집적회로, 신물질의 대량 생산, 초전도체의 이용, 양자 컴퓨터와 양자 신호 전달의 가능성 등으로 표현되는 21세기는 20세기와는 한 차원 다른 물질문명이 도래할 것으로 예측되고 있다. 양자 이론은 전통적으로 다루던 언어와 논리로 이해할 수 없는 면이 많다.

그러나 다른 한편으로 볼 때, 양자 이론은 이미 고도의 과학 발전과 혁명적인 현대의 물질문명의 변화를 가져오고 있다. 이러한 양면의 입장을 보는 과학자의 시각은 다음과 같은 겔만의 생각에 압축되어 있다고 볼 수 있다. “양자역학의 신비하고 혼란스러운 분야는 아무도 제대로 이해하지 못하지만, 우리는 어떻게 사용할지를 알고 있다.

우리가 아는 한 양자역학은 물리적 실재를 제대로 기술하고 있다. 그러나 그것은 사회과학자의 말을 빌리자면, ‘전혀 직관적이지 않은 분야’다. 양자역학은 이론이라고 하기보다는, 제대로 된 이론이라면 꼭 들어맞아야만 하는 일종의 기본 틀이다.”? 뉴턴은 만유인력을 설명하면서 “나는 가설을 세우지 않는다(Hypotheses non fingo)”라고 자신 있게 말했다.

그러나 원자 세계에서는 뉴턴처럼 자신 있는 명제를 실현하고 있지 못하고 있는 셈이다. 양자론에서 나오는 역설은, 어찌 보면 파인만의 얘기대로, “그 ‘패러독스’는 물질의 실재와 물질의 실재로 여기는 자신의 감정 사이의 갈등일 뿐”일지도 모른다.

보어는 양자론에 대해 “혼란스럽게 느끼지 않으면 당신은 양자론을 전혀 이해하지 못하는 것이다”라고 평했다. 그리고 양자역학은 아직도 중력을 포용하고 있지 못하다. 블랙홀과 우주 초기라는 새로운 영역에서 새로운 해석을 기다리고 있는 셈이다. / 엄정권 기자


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 1
댓글쓰기
비회원 글쓰기 계정인증을 통해
댓글을 남기실 수 있습니다.
크리스천의 이름으로 2017-10-20 15:00:43
[IF] 양자역학 거두(1979년 노벨 물리학상 수상자 스티븐 와인버그)의 고백… "나도 양자역학 못 믿어"

2016년 11월27일자의 조선일보 기사에서......(검색어: 와인버그,노벨 물리학상,양자역학)

[if 카페]
노벨 물리학상 대석학 와인버그, 돌연 회의론 돌아서… 학계 충격
"나는 이제 양자역학(量子力學)을 확신할 수 없다."

지난달(10월) 30일 미국 샌안토니오에서 열린 과학저술평의회 무대에 선 83세 노학자(老學者)의 선언이 과학계에 큰 파장을 낳고 있다. 양자역학은 100년 전 탄생 이후 줄곧 논란의 대상이었