[독서신문] 네이버문화재단이 후원하는 문화과학 강연 프로젝트 ‘열린연단 : 문화의 안과 밖’의 8월 5일 순서는 '패러다임의 지속과 갱신' 강연 2섹션 과학/과학철학의 아홉 번째 강연으로 이덕환 서강대 화학과 교수의 '볼츠만, 확률과 통계의 과학'을 주제로 진행됐다. (한남동 블루스퀘어 3층 북파크 카오스홀)

이덕환 서강대 화학과 교수는 서울대 화학과를 졸업하고 동 대학원에서 석사 학위를, 미국 코넬대에서 이론화학 박사 학위를 받았다. 미국 프린스턴대 연구원을 거쳐 현재 서강대학교 화학과 교수이자 대한화학회 탄소문화원 원장, 한국과학기술단체총연합회 부회장으로 있다.

대한화학회 회장, 과학창의재단 이사, 기초과학단체협의체 회장, 국제화학올림피아드 운영위원장 등을 역임했다.

저서로는 『상상과 증명 그리고 소통』, 『이덕환의 사이언스 토크토크』, 『이덕환의 과학 세상』 등이 있고 『과학과 커뮤니케이션』 등을 공저했다. 그밖에 옮긴 책으로 데이비드 린들리의 『볼츠만의 원자』, 빌 브라이슨의 『거인들의 생각과 힘』과 『그림으로 보는 거의 모든 것의 역사』, 필립 볼의 『물리학으로 보는 사회』, 월터 아이작슨의 『아인슈타인 삶과 우주』, 제임스 N. 가드너의 『생명 우주』 등이 있다. 대한민국 과학문화상(2004), 과학기술훈장 웅비장(2008) 등을 수상했다.

이날 이 교수는 강연을 통해 천재 이론물리학자 볼츠만은 통계 열역학의 기반을 마련했고, 통계 열역학은 현대 물리학의 핵심 이론으로 자리 잡았다고 말했다.

이 교수는 볼츠만의 불운한 생애에도 많은 시간을 할애했다. 가족의 잇단 죽음과 자신의 이론이 냉대 당하는 현실은 그를 더욱 불운하게 했지만 볼츠만은 초연했다고 한다. 그러나 볼츠만의 화려한 시기는 얼마 되지 않았다. 볼츠만의 '원자의 존재와 물리 현상에 대한 통계적 해석'은 현대 물리학의 기본 골격이 됐다고 이 교수는 말했다. 다음은 강연 요약.

* 루드비히 에두아르트 볼츠만(Ludwig Eduard Boltzmann, 1844-1906)은 17세기 뉴턴에 의해 시작된 근대 물리학에서 처음으로 만물이 미시적 규모의 원자로 구성되어 있음을 말하고, 그 원자들의 무작위한 운동을 물리학적으로 이해하기 위해 확률과 통계의 개념을 적극적으로 활용하기 시작한 오스트리아의 천재 이론물리학자였다.

볼츠만은 평형 상태의 기체에서 원자(분자)들의 속도와 에너지 분포를 나타내는 ‘기체 운동론’(kinetic theory)을 완성했고, 거시 규모의 실용적 경험 이론이던 ‘평형 열역학’(equilibrium thermodynamics)에 대한 통계적 해석의 틀을 완성함으로써 ‘통계 열역학’(statistical thermodynamics)의 기반을 마련했다.

통계 열역학은 오늘날 양자역학, 상대성 이론, 우주론 등과 함께 현대 물리학의 가장 중요한 핵심 이론으로 자리를 잡고 있다.

볼츠만이 활동했던 19세기 말에는 원자의 존재를 인정하고, 심각한 연구의 대상으로 삼는 물리학자가 없었다. 더욱이 경험적 관찰을 특별히 강조하는 논리 실증주의 철학에 심취해 있던 빈의 물리학자와 철학자들에게 볼츠만의 원자론은 쉽게 받아들이기 어려운 것이었다.

결국 베른의 특허국 심사관이던 무명의 알베르트 아인슈타인(Albert Einstein, 1879-1955)이 1905년 물속에 떠 있는 꽃가루가 마치 살아 있는 생명체처럼 움직이는 브라운 운동으로부터 원자의 존재를 증명하는 논문을 완성함으로써 볼츠만의 원자론이 공식적으로 인정을 받게 되었다.

그러나 아인슈타인의 논문도 볼츠만을 지켜주기에는 때가 너무 늦어버렸다. 철학적 논란에 지쳐버린 볼츠만이 1906년 9월 5일 가족과 함께 휴가를 보내던 트리스티 부근의 여름 휴양 두이노에서 목을 매 자살을 하고 말았기 때문이다. 빈 중앙묘지에 마련된 그의 묘비에는 '𝑆=𝑘 𝑙𝑜𝑔 𝑊’라는 자신의 엔트로피 식이 새겨져 있다.

현대 물리학에는 볼츠만의 흔적이 분명하게 남아 있다. 20세기와 함께 본격적으로 발전하기 시작한 이론물리학은 볼츠만의 원자론과 확률론을 기반으로 한 것이라고 해도 크게 틀리지 않는다.

물리 현상에 대한 정교한 수학적 분석보다 직관적 통찰력을 통해 찾아낸 추상적 개념을 적극적으로 활용하는 볼츠만의 실용주의는 빈 출신의 20세기 철학자들에게도 매력적이었다.

과학 이론이 옳다는 사실을 증명할 수는 없지만, 더욱 철저한 시험 과정을 통해 신뢰를 얻으면서 더욱 좋은 이론으로 발전한다는 포퍼(Karl Popper, 1902-1994)의 주장은 이론을 진리에 가까이 가기 위한 노력이라고 보았던 볼츠만의 관점과 크게 다르지 않다.

언어와 정의(定議)의 중요성을 강조했던 언어철학자 비트겐슈타인(Wittgenstein, 1889-1951)도 볼츠만의 영향을 받았던 것으로 알려져 있다.

1866년 22살의 나이로 박사 학위를 받은 볼츠만은 곧바로 물리학연구소장 슈테판의 조수로 임명되었고, 1868년에 기체 원자들의 속력과 에너지의 분포에 대한 맥스웰의 결과가 단순히 수학적으로 옳을 뿐만 아니라 물리학적으로도 의미가 있다는 사실을 증명한 기념비적인 논문을 발표하면서 유럽 물리학계의 주목을 받기 시작했다.

논리적이고 수학적인 방법으로 문제를 해결했던 맥스웰과 달리 볼츠만은 지구 중력장에서 기체의 압력이 높이에 따라 줄어드는 물리 현상에 대해 천재적인 직관과 통찰력을 활용했다.

볼츠만은 1872년에 오늘날 ‘H-정리’라고 부르게 된 ‘최소 정리’라는 기념비적인 논문을 완성했다. H는 원자의 에너지 분포를 나타내는 수학적 함수로 클라우지우스가 ‘엔트로피’라고 불렀던 양에 대한 기체 운동론적 해석에 해당하는 통계적 개념이었다.

볼츠만은 H가 맥스웰-볼츠만 분포의 경우에 최솟값이 된다는 사실을 증명했다. 평형 상태에 있는 원자들의 경우에는 맥스웰-볼츠만 분포가 유일한 것임을 증명한 것이다.

자신의 엔트로피에 대한 통계적 정의와 H-정리에 대한 독일 과학자들의 반응은 냉담했다. 열역학 법칙을 확률을 이용해서 설명하는 것이 근본적으로 잘못되었다는 생각이 지배적이었다.

볼츠만의 기체 운동론을 비판하는 과학자들도 많았다. 영국의 맥스웰도 볼츠만의 성과를 충분히 인정해주지 않았다. 하지만 그는 당시 세계적인 명성을 얻고 있던 몇 안 되는 이론물리학자 중 한 사람이었다. 그런 이유로 볼츠만은 1887년부터 그라츠 대학의 총장이 되었으나, 그런 일이 적성에 맞지는 않았다. 특히 당시 불안한 정치적 상황에서 끊임없이 벌어지고 있던 학생들의 소요 사태를 해결해야만 했다.

1890년 가을 뮌헨 대학의 이론물리학 교수로 부임한 46세의 볼츠만은 유럽 최고의 이론물리학자로 화려한 대우를 받았다. 그렇다고 그의 말년이 편안했던 것은 아니었다. 원자의 존재를 근거로 한 기체 운동론과 열역학의 확률론적 해석에 대한 반론들이 끊임없이 제기되기 시작하면서 격렬한 ‘과학의 지뢰밭’에서 불편한 생활을 이어가고 있었다.

영국과 미국을 여행하면서 많은 사람들을 만났지만 도움이 되지 않았다.1900년에는 다시 빈을 떠나 라이프치히로 옮길 시도도 했지만 포기해버렸고, 심한 우울증으로 자살을 시도하기도 했다. 결국 볼츠만은 1906년 62세의 나이에 스스로 목숨을 포기하고 말았다.

볼츠만이 과감하게 도입한 원자의 개념과 통계학적 분석법은 미국의 무명 수리물리학자 조시아 깁스에 의해 ‘통계 열역학’이라는 분야로 정립되었다. 예일 대학교 종교언어학 교수의 아들로 태어난 깁스는 1866년부터 3년 동안 프랑스와 독일에서 수학과 물리학을 공부한 것을 빼면 평생을 예일 대학교에서 은둔 생활을 했다. 결국 볼츠만과 깁스는 한 번도 만난 적이 없었다.

훗날 깁스는 “앙상블(ensemble) 이론”을 완성하였다. 앙상블은 거시적인 특성이 동일한 평형 상태에 있는 가상적인 계들의 집합을 뜻한다. 분자의 수, 부피, 온도, 압력과 같은 거시적인 성질이 동일하더라도 그런 거시적 성질을 가진 열역학적인 계를 구성하는 분자들의 미시적인 동력학적 상태는 매우 다양하다.

깁스는 볼츠만의 기체 운동론에서와 마찬가지로 서로 다른 미시적 상태에 해당하는 계들의 집합이 바로 동력학적 진화를 나타내는 것이라고 보았다. 그래서 실제 측정 장치를 통해서 얻어지는 동력학 계의 시간 평균이 앙상블로부터 얻어지는 “앙상블 평균”과 동일하다는 “에르고드 정리”(ergodic theorem)를 근거로 하는“통계 열역학”을 완성하였다.

볼츠만의 유명한 식(𝑆=𝑘 𝑙𝑜𝑔 𝑊)에서 𝑊는 앙상블에서 가장 흔하게 볼 수 있는 분포를 가진 가상적인 계의 수를 뜻한다. 그런 분포는 통계학의 법칙에 따라서 분자들이 가능한 미시적 상태에 가장 넓게 분포하는 경우에 해당한다.

즉, 앙상블을 구성하는 가상적인 계들이 모두 하나의 미시적 상태에 있는 경우보다는 모든 가능한 미시적 상태를 고르게 차지하고 있을 확률이 언제나 더 크며, 그런 상태가 바로 통계역학적으로 “무질서한 상태”에 해당한다. 그러므로 통계 열역학에서 사용하는 “무질서”의 의미는 일반적인 뜻과는 구별되어야만 한다.

과학적 법칙은 절대적이고 확실해야 한다고 믿었던 독일의 물리학자들에게 볼츠만의 확률적 해석은 쉽게 받아들일 수 없는 것이었다. 클라우지우스에 의해 정립되고 있던 열역학 이론으로 박사 학위를 받고, 베를린 대학교의 가장 권위 있는 교수로 활동하던 막스 플랑크(Max Planck, 1858-1947)가 대표적인 인물이었다.

플랑크는 기체 운동론에서 드러난 볼츠만의 물리학적 통찰력과 수학적인 재능은 인정을 했다. 그러나 확률론적 해석이 필요한 원자 가설은 실험으로 확인된 열역학 제2법칙과 양립할 수 없기 때문에 결국 폐기될 수밖에 없다고 주장했다. 볼츠만의 확률론적 해석은 열역학 법칙을 설명하기 위한 미봉책에 불과하다는 것이었다.

볼츠만은 자신의 이론에 대한 반론에 대부분 초연한 입장이었다. 그러나 통계적 해석에 대한 반론에 대해서는 적극적으로 대응했다. 볼츠만은 ‘어떤 일이 반드시 일어나야만 한다고 말하는 것은 그런 일이 자주 일어난다거나 또는 인간이 인식할 수 있는 기간 동안에 일어날 것이라고 말하는 것과 다르다’고 주장했다.

엔트로피가 줄어드는 변화가 일어날 수는 있지만, 그런 변화를 우리가 반드시 관찰할 수 있어야만 하는 것은 아니라는 뜻이다. 볼츠만은 상온에서 1㎤에 들어 있는 약 10억 개의 원자로 구성된 계가 푸앵카레의 회귀 정리에 따라 정확하게 원래의 상태로 되돌아올 때까지 걸리는 시간을 초 단위로 표시하면 0이 10억 개나 붙을 정도로 긴 시간이 될 것이라는 분석을 내놓았다.

1000개의 주사위를 충분히 여러 번 던지면 모든 주사위가 1이 되는 경우가 나타나기는 하겠지만, 그런 결과가 나타날 확률은 믿을 수 없을 정도로 작다는 것이다.

루드비히 볼츠만은 현대 과학이 태동하고 있던 19세기 후반의 격동기를 오로지 자신의 물리학에 대한 천재적 통찰력과 수학적 재능만으로 견뎌내면서 원자의 존재와 물리 현상에 대한 통계적 해석을 현대 물리학의 기본 골격으로 만들어놓은 인물이었다.

오늘날 원자의 존재는 아무도 의심하지 않는 과학적 사실로 자리를 잡았다. 현대의 물리학이 원자보다 훨씬 더 작은 쿼크(quark)와 보손(boson)을 비롯한 기본 입자들의 존재를 넘어 ‘끈’(string)과 ‘막’(membrane), 그리고 ‘암흑 물질’(dark matter)과 ‘암흑 에너지’(dark energy)의 존재까지 주장할 수 있게 된 것도 볼츠만의 덕분이다. 볼츠만이 과감하게 도입했던 확률과 통계에 대한 거부감도 완전히 사라졌다. 20세기 현대 물리학의 가장 중요한 기반이라고 할 수 있는 양자역학의 코펜하겐 해석은 근원적으로 미시 세계에 대한 통계적 해석에 기반을 둔 것이다.

‘광자’(photon)의 개념을 주장해서 양자역학의 정립에 가장핵심적인 기여를 한 알베르트 아인슈타인은 역설적으로 ‘신은 주사위 놀이를 하지않는다’고 우겼지만 자연의 물리학적 현상에 통계적 특성이 담겨 있다는 사실은 더 이상 논란의 여지가 없는 과학적 사실로 확인되고 있다. / 정리=엄정권 기자