AI는 인간을 다 설명하는가 — 환원주의와 창발의 과학철학

인간의 마음을 뉴런의 활동으로 남김없이 설명할 수 있다는 주장은 새롭지 않다. 신경과학자 프랜시스 크릭은 1994년 『놀라운 가설』에서, 요약하면 인간의 자아와 경험이 신경세포 집합의 활동에 다름 아니라고 제안했다.¹ 오늘 이 주장은 인공지능의 언어로 되돌아온다. 대형 언어모델이 사람처럼 말하고 위로하고 설득하는 광경 앞에서, 적지 않은 이들이 이렇게 추론한다. 마음이 결국 정보 처리라면, 인간의 인격 또한 충분한 데이터와 연산으로 설명되고 언젠가 복제될 수 있으리라고. 이 글의 물음은 좁고 분명하다. 그 추론은 과학이 도달한 결론인가, 아니면 과학 위에 얹힌 하나의 형이상학적 선택인가. 분별의 도구는 과학철학의 오래된 논쟁, 곧 환원주의와 창발론이며, 마지막에 기독교적 인간 이해를 하나의 렌즈로 얹되 그 렌즈가 논증을 대신하지는 않게 한다.

미리 밝혀 둘 것이 있다. 이 글은 과학을 반대하지 않는다. 뇌를 부분으로 쪼개어 설명하는 방법론적 환원은 신경과학의 정당하고 강력한 엔진이며, 그 성취를 부정할 이유는 없다. 이 글이 겨누는 것은 오직 그 방법론적 성공에서 "그러므로 인간은 부분의 합이 전부다"라는 존재론적 단정으로 건너뛰는 비약 하나다.

환원이라는 주장 — 마음은 계산인가

먼저 개념을 규정한다. 환원주의(reductionism)는 복잡한 현상을 그것을 이루는 하위 구성 요소의 성질과 법칙으로 온전히 설명할 수 있다는 입장이다. 여기서 두 이론이 자주 겹쳐 불리지만 같지 않다. 계산주의(computationalism)는 정신 과정이 본질적으로 계산, 곧 표상에 대한 규칙적 조작이라는 이론이다. 기능주의(functionalism)는 정신 상태를 그 내적 재료가 아니라 감각 입력·행동 출력·다른 정신 상태와 맺는 인과적·기능적 역할로 규정하는 이론이다. 둘은 흔히 손을 잡지만 논리적으로 분리된다.

주의할 것은, 기능주의가 곧 환원주의는 아니라는 점이다. 오히려 다중 실현 가능성(multiple realizability) 논변에 기댄 고전적 기능주의는, 같은 정신 상태가 탄소 신경망이든 실리콘 회로든 서로 다른 물리적 기반에서 실현될 수 있으므로 특정 뇌 상태와 일대일로 동일시하는 유형동일론적 환원에 오히려 반대한다. "마음은 뇌라는 하드웨어 위의 소프트웨어"라는 비유는 이 계열 가운데 일부 계산적 기능주의의 그림일 뿐, 기능주의 전체의 정설이 아니다.

이 지형 위에서 가장 강한 명제가 존 설이 '강한 AI(strong AI)'라 부른 주장이다. 곧 적절히 프로그래밍된 컴퓨터는 마음을 흉내 내는 것이 아니라 실제로 마음과 이해를 가진다는 것이다.² 더 급진적인 축에는 제거적 유물론(eliminative materialism)이 있다. 특히 폴 처칠랜드는 신념·욕구 같은 '민간 심리학'의 범주가 성숙한 신경과학에 의해 결국 폐기될 낡은 이론이라고 논한다.³ 다만 패트리샤 처칠랜드의 신경철학 기획을 이 제거주의 전체와 곧바로 등치해 읽어서는 안 된다.

여기서 반드시 갈라야 할 두 층위가 있다. 방법론적 환원과 존재론적 환원이다. 대상을 부분으로 쪼개 설명하는 절차는 방법론이며 정당하다. 그러나 '인간은 부분의 합 이외에 아무것도 아니다'라는 단정은 존재론이며, 이는 과학이 아니라 과학에 관한 해석이다. AI가 마음의 어떤 기능을 재현한다는 사실에서 '마음은 그 기능이 전부'라는 결론은 논리적으로 따라 나오지 않는다. 이 비약을 걸러 내는 일이 분별의 첫 자리다.

창발이라는 반대편

환원주의의 맞은편에 창발론(emergence)이 있다. 창발이란 하위 요소들이 특정한 방식으로 조직될 때 그 요소들만으로는 곧바로 읽히지 않는 새로운 성질이 상위 수준에서 나타나는 현상을 가리킨다. 한 가지 개념부터 바로잡아 둔다. 창발을 말할 때 흔히 인용되는 수반(supervenience)은, 상위의 정신 속성이 하위의 물리 기반에 의존한다는 관계, 곧 물리 상태가 똑같으면 정신 상태도 똑같다는 관계다. 그런데 수반한다는 것만으로는 환원 가능성도 불가능성도 결정되지 않는다. 수반은 환원과도, 비환원과도 양립하기 때문이다. 따라서 "정신이 뇌에 수반한다"는 명제는 환원주의의 손도 창발론의 손도 아직 들어 주지 않는다.

한 분류에 따르면 창발은 약한 창발과 강한 창발로 나뉜다. 약한 창발은 원리상 하위 수준으로 설명 가능하나 실제로는 상호작용이 너무 복잡해 예측이 어려운 경우다. 물의 '젖음'처럼 하위 성질로 원리상 환원되는 집단적 성질이 여기에 속한다. 강한 창발은 상위 성질이 하위 법칙으로 원리상 환원되지 않는다고 보는 더 센 주장이며, 종종 하향 인과(downward causation)를 동반한다고 이야기되지만 그것을 강한 창발의 필수 정의라고 단정할 수는 없다. 철학자 필립 클레이튼은 의식을 강한 창발의 유력한 후보로 제시한다.⁴ 다만 강한 창발은 정설이 아니라 논쟁적 입장이며, 이 점은 뒤에서 정직하게 다룬다.

여기서 의식의 물음이 날카로워진다. 토머스 네이글은 「박쥐가 된다는 것은 어떤 것인가」에서, 박쥐의 신경계를 아무리 완벽히 3인칭으로 기술해도 '박쥐로 존재한다는 것이 어떤 느낌인가'라는 1인칭 경험은 그 기술에서 빠져나간다고 논증했다.⁵ 데이비드 차머스는 이를 의식의 '어려운 문제(hard problem)'라 부른다. 정보가 어떻게 처리되는가라는 '쉬운 문제'와, 왜 그 처리에 주관적 느낌이 동반되는가라는 '어려운 문제'는 층위가 다르며, 후자는 기능적 설명만으로는 메워지지 않는다는 것이다.⁶

계산주의를 향한 가장 유명한 반론은 존 설의 '중국어 방'이다. 중국어를 모르는 사람이 규칙표만으로 한자를 주고받아 밖에서 보기엔 이해하는 듯 보여도, 그 안에 이해는 없다. 구문(syntax)의 조작만으로는 의미(semantics)가 저절로 생기지 않는다는 것이다.² 그리고 대형 언어모델을, 흔한 오해처럼 '파라미터와 토큰 통계의 단순한 합'으로 축소해서도 안 된다. 그 유창함은 학습으로 형성된 내부 구조, 파라미터들의 비선형 상호작용, 문맥 처리와 추론적 조작의 산물이다. 그러나 바로 그 정교함조차도 별개의 물음을 저절로 해결하지는 못한다. 행동을 산출하는 일과 그 행동을 안에서 겪는 무엇이 있느냐는, 여전히 다른 층위의 물음이기 때문이다. 덧붙이면, 켄 힘마는 도덕 행위자성이 성립하려면 의식, 곧 내적 주관 경험이 전제되어야 한다고 논증한다. 이는 학계가 합의한 확정 기준이 아니라 힘마의 논증적 입장이지만, 의식의 유무가 왜 사소하지 않은 물음인지를 분명히 해 준다.⁷

반대편의 반론 — 기능주의와 시스템 논변

정직한 분별은 반대편의 최선을 세운 뒤에야 성립한다. 그리고 환원·계산주의 쪽은 결코 무력하지 않다.

첫째, 기능주의의 실현 논변이다. 중국어 방 안의 사람 하나에게 이해가 없다는 것은 맞지만 이해의 담지자는 방 전체 시스템이라는 시스템 논변, 그리고 그 방을 세계와 상호작용하는 몸에 심으면 기호가 세계에 정박한다는 로봇 논변이 있다. 설은 원 논문에서 이들을 다루며 반박했지만, 논쟁은 종결되지 않았다.² 여기에 기능역할 의미론(functional-role semantics)은, 의미가 신비한 내적 광채가 아니라 표상들이 맺는 인과적·추론적 역할에서 성립한다고 본다. 이 노선을 끝까지 밀면 이렇게 말할 수 있다. 어떤 계가 인간과 완전한 인과적·기능적 동형성을 실제로 재현한다면, 그것은 마음의 모방이 아니라 마음의 실현이라고. 이 논변은 진지하게 받아야 한다.

둘째, 의식의 '어려운 문제' 자체를 해소하려는 시도들이 있다. 환상주의(illusionism)는 퀄리아라는 환원 불가능한 느낌이 실재한다는 직관 그 자체가 인지 구조가 만들어 낸 판단이라고 보아, 어려운 문제를 실재하는 난제가 아니라 설명해 없앨 착시로 재규정한다.⁸ 물리주의의 현상개념 전략(phenomenal concept strategy)은, 설명 격차가 세계의 존재론적 틈이 아니라 우리가 경험을 파악하는 개념의 특수성에서 비롯한 인식적 현상일 뿐이라고 논한다. 두 전략이 옳다면 창발론이 딛고 선 '난제'는 상당 부분 무너진다.

셋째, 강한 창발 자체가 표적이 된다. 재그원 김의 인과적 배제 논변에 따르면, 물리 세계가 인과적으로 닫혀 있다면(물리적 인과 폐쇄) 모든 결과에는 충분한 물리적 원인이 있고, 그렇다면 상위의 창발적 성질이 따로 인과력을 행사한다는 주장은 과잉결정(overdetermination)에 빠지거나 인과적으로 무력해진다.⁹ 게다가 강한 창발은 검증 가능성에서도 취약하다. '아직 환원 설명이 없다'는 사실은 '원리상 환원 불가능하다'를 입증하지 못한다.

재반론과 남는 격차

이 반론들을 진지하게 받은 뒤에도, 환원 쪽이 이겼다고 선언할 수는 없다. 남는 것은 승리가 아니라 정직한 격차다.

기능주의의 실현 논변에 대해. 완전한 인과적·기능적 동형성이 실현된다면 그것이 마음의 실현일 수 있다는 가능성은 열어 둔다. 그러나 그 완전한 동형성이 실제로 성립했는지는 전혀 다른 문제다. 현재 언어모델이 보여 주는 것은 제한된 언어 행동이며, 그것만으로 내적 경험의 존재를 입증할 수는 없다. 행동적 성공과 현상적 의식 사이에는 여전히 네이글과 차머스가 가리킨 설명 격차가 남는다. 요컨대 실현 논변은 원리적 가능성을 보여 줄 뿐, 지금 그 조건이 채워졌다는 증거를 대신하지 못한다.

시스템·로봇 논변과 기능역할 의미론에 대해. 이들은 의미와 이해가 성립할 조건을 진지하게 제안한다. 그러나 그 조건이 실제로 이해를 산출하는지, 아니면 여전히 이해의 정교한 모방에 그치는지는 아직 판정되지 않았다. 의미와 이해의 성립 조건은 닫힌 결론이 아니라 열린 문제로 남아 있다.

환상주의와 현상개념 전략에 대해. 이들이 옳다면 의식의 난제는 해소되고, 이는 창발론에 부담이 된다. 그러나 이들 역시 강한 직관에 반하는 대가를 치르며, 학계에서 확정된 승자가 아니다. 이 논쟁은 어느 편으로도 아직 닫히지 않았다.

그리고 창발 쪽도 자기를 경계해야 한다. 김의 배제 논변이 보여 주듯 강한 창발은 논쟁적 입장이다. 만약 창발론이 '지금 환원 설명이 없다'에서 곧장 '원리상 환원 불가능하다'로 건너뛴다면, 그것은 다름 아닌 틈새의 논증이 된다. 과학의 미완성을 형이상학적 확정으로 오인하는 잘못은 환원주의만의 것이 아니다.

다 설명되지 않는 인간 — 하나의 분별

그렇다면 남는 결론은 겸손하되 분명하다. '인간은 데이터로 다 설명된다'도, '계산 체계에는 원리상 의식이 불가능하다'도 과학이 확정한 사실이 아니다. 둘 다 형이상학적 선택이다. AI가 우리에게 준 것은 어느 형이상학의 승리가 아니라, 기능과 의미와 의식이 어떻게 얽혀 있는지를 다시 묻게 하는 강력한 증거다.

이 지점에서 기독교적 인간 이해는 하나의 렌즈를 보탠다. 성경의 인간론은 사람을 하나님의 형상(imago Dei)으로 지어진 관계적·응답적 인격으로 읽는다. 다만 분명히 한다. 이 렌즈는 위의 철학적 논증에 참여하는 하나의 해석이지, 강한 창발이나 반계산주의를 자동으로 보증하는 결론이 아니다. 실제로 기독교 인간론 내부에도 견해가 갈린다. 낸시 머피와 조엘 그린은 비환원적 물리주의를, 존 쿠퍼는 전인적 이원론(holistic dualism)을 지지한다. 이들은 반환원의 큰 계열에 서되 강조점이 서로 다르며, 나는 이 차이를 하나로 뭉뚱그리지 않는다.¹⁰

무엇보다 이 렌즈를 '틈새의 신(god of the gaps)'으로 다루어서는 안 된다. 과학이 아직 설명하지 못한 빈칸에 영혼을 끼워 넣는 방식은 논증이 아니라 도피이며, 그 빈칸은 과학의 진보와 함께 언제든 메워질 수 있다. 인격의 비환원성에 대한 주장은 빈칸이 아니라 논증 위에 서야 한다.

그러므로 나의 분별은 이렇다. 나는 비환원적 인격이 더 설득력 있는 입장이라고 판단한다. 그러나 그것은 증명된 정리가 아니라 방어 가능한 선택이며, 나는 그 지위를 정직하게 인정한다. 오늘 확실하게 말할 수 있는 것은 더 좁다. 현재의 기능적 성공은 주관적 경험의 존재를 입증하지 않으며, '인간은 그 기능이 전부'라는 결론은 기계가 증명한 사실이 아니라 우리가 고른 철학이다. 무엇을 인간이라 부를지는 데이터가 아니라 바로 그 선택이 결정한다. 분별이란 그 선택을 남에게 떠넘기지 않고, 그것이 선택임을 아는 데서 시작한다.

환원 주장을 만났을 때 물을 것

1. 이것은 과학적 발견인가, 아니면 과학에 대한 형이상학적 해석인가. (방법론적 환원 ≠ 존재론적 환원)
2. '기능을 재현한다'에서 '그 기능이 전부다'로 넘어가는 비약이 숨어 있지 않은가.
3. 3인칭 서술로 다 담기지 않는 1인칭 경험(의식의 난제)을 이 주장은 어떻게 처리하는가.
4. 반대로 나 자신은 '아직 설명이 없다'를 '원리상 불가능하다'로 바꿔치기하고 있지 않은가. (창발론도 틈새 논증에 빠질 수 있다)

Footnotes

1. Francis Crick, The Astonishing Hypothesis: The Scientific Search for the Soul (New York: Charles Scribner's Sons, 1994), 3. 본문의 진술은 직접 인용이 아니라 이 책 서두(3쪽)에 놓인 '놀라운 가설' 논지를 요약한 것이다. ↩

2. John R. Searle, "Minds, Brains, and Programs," Behavioral and Brain Sciences 3, no. 3 (1980): 417–424. '강한 AI'의 규정, 중국어 방 논증, 그리고 시스템 논변·로봇 논변에 대한 설의 응답이 모두 이 논문 안에 있다. ↩ ↩² ↩³

3. Paul M. Churchland, Matter and Consciousness, rev. ed. (Cambridge, MA: MIT Press, 1988). 제거적 유물론의 대표적 진술이다. 인접한 신경철학 기획으로는 Patricia S. Churchland, Neurophilosophy: Toward a Unified Science of the Mind-Brain (Cambridge, MA: MIT Press, 1986)을 보라. 다만 후자를 제거적 유물론 전체와 등치해서는 안 된다. ↩

4. Philip Clayton, Mind and Emergence: From Quantum to Consciousness (Oxford: Oxford University Press, 2004). 약한/강한 창발의 구분과 하향 인과(downward causation) 논의는 이 책 전반을 보라. 다만 이 이분 분류는 여러 분류법 가운데 하나다. ↩

5. Thomas Nagel, "What Is It Like to Be a Bat?" The Philosophical Review 83, no. 4 (1974): 435–450. ↩

6. David J. Chalmers, "Facing Up to the Problem of Consciousness," Journal of Consciousness Studies 2, no. 3 (1995): 200–219. 상세한 전개는 David J. Chalmers, The Conscious Mind: In Search of a Fundamental Theory (New York: Oxford University Press, 1996)을 보라. ↩

7. Kenneth Einar Himma, "Artificial Agency, Consciousness, and the Criteria for Moral Agency: What Properties Must an Artificial Agent Have to Be a Moral Agent?" Ethics and Information Technology 11, no. 1 (2009): 19–29. 본문의 진술은 학계가 확정한 기준이 아니라 힘마의 논증적 입장이다. ↩

8. 환상주의에 관해서는 Keith Frankish, "Illusionism as a Theory of Consciousness," Journal of Consciousness Studies 23, no. 11–12 (2016): 11–39. 물리주의의 현상개념 전략(phenomenal concept strategy)에 관해서는 Brian Loar, "Phenomenal States," in The Nature of Consciousness: Philosophical Debates, ed. Ned Block, Owen Flanagan, and Güven Güzeldere (Cambridge, MA: MIT Press, 1997), 597–616. ↩

9. Jaegwon Kim, Mind in a Physical World: An Essay on the Mind-Body Problem and Mental Causation (Cambridge, MA: MIT Press, 1998). 인과적 배제(causal exclusion)와 과잉결정 논변의 전거이며, 특히 '수반 논변(the supervenience argument)'을 전개한 장을 보라. ↩

10. 비환원적 물리주의로는 Nancey Murphy, Bodies and Souls, or Spirited Bodies? (Cambridge: Cambridge University Press, 2006); Joel B. Green, Body, Soul, and Human Life: The Nature of Humanity in the Bible (Grand Rapids: Baker Academic, 2008). 전인적 이원론으로는 John W. Cooper, Body, Soul, and Life Everlasting: Biblical Anthropology and the Monism-Dualism Debate (Grand Rapids: Eerdmans, 1989). 세 사람 모두 반환원의 계열에 서되 강조점은 서로 다르다. ↩