공철학소고 (空哲學小考)

철학통계 수학철학

한신학 han theology 2019. 4. 1. 21:46

철학의 오랜 전통적 영역들이 현대에는 과학과 수학의 영역으로 넘어가고 있다. 이를테면 존재론과 인식론은 과학의 문제로, 윤리학은 진화생물학 연구로, 논리학은 집합론과 해석학 등 거의 수학의 영역으로 넘어와 있다. 확률과 통계도 철학적 문제에 미치는 영향이 커져가는 것 같다. 보통 확률은 중고등학교 때 수학으로만 배우고 계산하여 그 의미에 대해 깊이 생각해보는 경우는 드물다. 하지만 철학적으로 생각해보면 진화 과정 속에서 우리의 삶 자체가 곧 확률이다. 배고픈 원숭이가 저 쪽 땅에 떨어진 바나나를 달려가서 취할 것인가 아니면 그 주변에서 어슬렁거리는 맹수를 두려워하여 참을 것인가를 판단할 때에도 가슴은 쾅쾅 뛰며 머리 속 다계층 신경망은 지난 경험들을 기반으로 무언가 열심히 확률적 계산을 할 것이다.


우선 단순 통계적 관점으로만 보면 확률은 전체 가능한 수 중 그 일이 일어날 경우의 수를 비로 나타내는 것이다. 어느 카드통에서 12번 카드를 뽑았더니 거기에 다이아몬드가 3번이 나왔다면 일단 3/12=1/4라는 경험적 확률치를 얻는다. 그러면 전체 카드통 안에 개략 이 정도의 비율로 다이아몬드가 들어가 있을 것으로 추정을 한다. 실제 확인해보면 반드시 그렇지는 않을 수도 있지만 그 정도로 추정하는 것이 현실에서 유용한 판단법이라는 것을 우리는 경험을 통하여 체득한다.
그런데 동전을 10회 던지면 앞면이 나오는 경우의 수는 어떻게 될까? 이론적으로는 앞면이 나올 확률과 뒷면이 나올 확률은 같으므로 그 확률치를 1/2 (수학적 확률)로 계산하여 10 x (1/2) = 5회 정도일 것으로 예측이 가능하다. 하지만 실제 던져보면 드문 경우이긴 하지만 모두 앞면이 나올 수도 있고 또 모두 뒷면이 나올 수도 있다. 말하자면 반드시 그 확률값 대로 현실화 된다는 보장은 없는 것이다. 그렇다면 실제 동전을 10회 던졌더니 앞면이 8회가 나왔다면, 단순 계산법으로 앞으로도 앞면이 나올 확률을 8/10=4/5라고 단정지어도 될까?
여기에서 복합 통계적 관점의 확률론 (통계적 확률)이 등장한다. 우선 동전을 n회 던져 앞면이 r회 나올 확률은 n이 무한히 커질 때 결국 수학적 확률인 1/2에 수렴한다는 내용의 해석학적 표현이 요구된다. 이른바 '큰 수의 법칙'이다. 동전을 10회 던지는 정도로는 앞면이 5회 나온다고 단정할 수 없으며 0회 나올 경우(확률=1/1024)부터 10회 나올 경우까지 모두가 다 가능하며 각 확률값은 모두 수학적 계산이 가능하다. 이 경우 5회 나올 경우의 확률값(252/1024)이 물론 가장 크다. 그런데 던지는 횟수가 무한에 가까울 정도로 커진다면 모두 앞면이 나오거나 모두 뒷면이 나올 가능성은 거의 0이라고 봐야한다.
위의 큰 수의 법칙의 경우 무한 횟수로 실제 관찰은 당연히 불가능 하며 따라서 이를 공리로 받아들여 수렴 공리(The Axiom of Convergence)라고 말하기도 한다. 또 하나의 공리로는 특정 쏠림 현상은 없다는 무작위의 공리(The Axiom of Randomness)가 있다. 앞의 카드통의 경우 그 안에 여러 종류의 카드들이 골고루 섞여있어야 합리적인 확률 예측이 가능하다. 마찬가지로 동전의 경우에도 앞면이 나올 가능성과 뒷면이 나올 가능성이 공평해야 제대로 된 확률 계산이 맞아들어간다. 이런 공리들을 전제해야 제대로 된 확률적 판단과 계산이 가능해지기 때문이다.
그렇지만 경험에 근거한 확률론과 귀납적 논리에 대해 회의적인 주장들도 있다. 이를테면 '블랙스완' 이야기를 보자. 지금까지 우리가 경험으로 관찰했던 백조가 모두 흰색이었다고 그 확률을 100%로 보아 '백조는 흰색이다'라는 명제를 절대적 진리로 받아들일 수는 없다는 것이다. 실제 검은색 돌연변이 백조가 나타난 적이 있어서 이 명제는 경험적으로도 부정될 수 밖에 없겠지만... '매일 태양은 뜬다'도 마찬가지이다. 지금까지 매일 아침 태양이 떴다는 근거로 이를 영원불변의 절대 진리로 받아들일 수는 없다는 것이며 이는 귀납법 논증의 한계성이기도 하다. 다만 그것을 임시적 진리(가설)로 받아들였더니 지금까지 문제가 없었고 유용했다는 실용주의를 펼칠 수도 있다. 하지만 이것도 역시 귀납법적인 판단이라고 공격을 받을 수 있다.
아마도 이러한 귀납적 논증의 한계를 명쾌히 극복시켜주는 철학적 설명은 아직도 등장하지 못하고 있는 듯하다. 지금까지 항상 100% 발생했다고 해서 그것이 영원불변의 진리라고 결코 확증을 할 수는 없겠지만 그럴 가능성 정도는 통계 계산에 의하여 확률값으로 표현이 될 수 있다. 이를테면, 어떤 사건이 n회 동안 모두 발생했다면 이 현상이 99.99% 이상의 확률로 발생할(진리에 가까울) 가능성이 몇 %(신뢰도)인지는 베이즈 정리를 쓰면 계산이 가능하다. 물론 위의 두 가지 공리를 받아들일 경우의 이야기이다. 이런 계산이 아니더라도 지금까지 늘 백 번 일어났다는 것과 백만 번 일어났다는 것은 그것이 현재까지는 둘 다 100%라 해도 큰 차이가 있음에 틀림없다. 어느 날 단 한 번 블랙스완 같은 반례가 나타난다고 가정한다면 그 일이 일어날 확률값은 양측에 큰 차이가 나타날 것이기 때문이다.
아무튼 철학적 관점에서 본다면 이러한 설명들을 기술적 확률설로 볼 수 있는데, 이 경우 여러 철학자들에 의해 빈도설, 성향설, 주관설 등으로 전개되었다. 빈도설은 물리학이나 기하학처럼 객관적인 대상 물질들의 속성으로서 확률을 바라본 것이다. 미세스의 경우가 이에 해당되며 수렴 공리, 무작위의 공리 등의 개념들을 논한다. 하지만 이는 이론일 뿐 현실 세계에서는 결정 불가라는 한계성에 봉착한다. 칼 포퍼는 폰 미세스의 '빈도설'에서 더 나아가, 집합체의 속성보다는 발생 조건을 고려하는 '성향설'을 이끌었지만 미묘한 차이를 보일 뿐이다. 한편 주관설은 개인의 심리적 사실들을 확률로 기술하는 것이다.
한편, 기술적 확률설로는 현실 세계 논증에서 한계성이 있다고 보고 이를 극복하기 위한 규범적 확률설들이 펼쳐지기도 했다. 이는 확률을 인간이 마땅히 따라야할 규범으로 간주하는 입장으로 이 부류에는 고전설, 논리설, 인식설 등이 있다. 고전설은 개념상으로 전체 가능 수에 대해 해당 경우의 수를 세어서 그 비율로 확률을 규정하며 그냥 받아들이는 것이다. 논리설은 여기에서 더 나아가 기호논리를 써서 논리적 확률체계를 확립하고자 하는 것이다. 카르납의 경우 귀납적 확률, 부분적 함의 등의 분석적 개념들을 도입하기도 하였다. 인식설은 확률을 사물 인식의 규범으로 간주하고 기존 증거들을 기반으로 그 신념을 분석적, 합리적으로 통솔해야 한다고 보는 입장이다. 아무튼 오늘날 확률과 통계학은 인식론, 존재론 등의 철학에 있어서도 중요한 고려 대상이 되어가고 있다.