서평(이것은 인간입니까)

• 저자: 엘리에저 J.스턴버그
• 역자: 이한나
• 출판사: 심심
• 링크: 이것은 인간입니까 | 엘리에저 J. 스턴버그 - 교보문고 (kyobobook.co.kr)

이것은 인간입니까 | 엘리에저 J. 스턴버그 - 교보문고

---

• 왜 읽었는가: 별다른 이유는 없다. 부제인 인지과학으로 읽는 뇌와 마음의 작동원리라는 구절이 끌려서 읽기 시작했을 뿐이다. 읽고 나니 뉴런으로 시작해서 어떻게 의식이 발생하는지 조사하고 싶어서 이 책을 읽고자 한다면 뇌과학책을 구입해서 읽는 것이 더 훌륭한 선택이라고 생각한다.
• 인간은 의식을 갖고 있는 존재인지 다각도로 분석하는 책: 우리의 손은 조금 어색하기야 하겠지만 기계손으로 대체할 수 있다. 즉, 손은 특별한 것이 없다는 의미이다. 그렇다면 우리의 의식은 기계로 대체할 수 있을까? 우리의 의식을 기계로 완전하게 대체할 수 있다면 우리는 곧 기계 그 자체라는 뜻이고, 그럴 수 없다면 우리는 기계와 다른 의식을 가진 고유성을 가진 존재라는 뜻이다. 이 책은 이 물음에 답하기 위한 여러 가지 사고실험과 학자들의 견해를 소개한다. 그리고 끝에는 그것들을 종합하여 내린 자신만의 결론을 설명한다.
• ChatGPT가 왔다: OpenAI사에서 개발한 모델인 ChatGPT는 자연어(한국어, 영어 등)를 입력받아서 자연어를 출력한다. 우리가 실제로 질문을 입력하면 은닉되어있는 인공신경망을 통해서 어느 대답이 가장 좋을지 계산하여 대답을 해준다는 의미다. ChatGPT가 의식이 있는 존재인지 생각해보려면 이 책에서 제시하는 ‘중국어 방 논증’과 '머릿속의 작은 악마들’을 읽고, 더 나아가서 참고문헌을 조사하면 괜찮을 것이다. 스스로 자신의 대답을 반성해 더 나은 대답을 출력하기 위해 노력하는 모습만 보자면 ChatGPT가 나름대로 의식을 갖추었다고 이야기할 수도 있겠다.
• ChatGPT: Optimizing Language Models for Dialogue (openai.com)

ChatGPT: Optimizing Language Models for Dialogue

• (내 생각에) 다행히 ChatGPT는 기계다: ChatGPT에게 몇 번 말을 걸어보았다. 묻는 말을 제대로 이해하고 명료하게 대답해준다. 특히, 지식에 대해서는 꼬리 질문도 훌륭하게 맞받아친다. 그러나 ChatGPT 자체는 감각을 느낄 수 없고, 보통은 감각에서 파생되는 좋아하는 것과 싫어하는 것을 구분하지 못한다. 하지만, 감각을 수치적으로 판단할 수 있는 수용기를 달아준 기계에 ChatGPT를 업로드하여 기계 입장에서 인간이 말을 걸지 않아도 외부의 자극이 있는 것처럼 판단하고 행동한다면 그 기계는 의식이 있다고 할 수 있을까? 애초에 의식이 어떤 뜻인지 정밀하게 합의되지 않았으므로 주장과 근거 사이에 논리적인 일관성만 있다면 어느 주장이든 받아들일 만하다.
• 우리가 어느 존재인지 생각할 수 있게 해준다: 책을 읽다 보면 우리가 어떤 점에서 지금까지 나온 기계와 구분이 되지 않는지 어떤 점에서 지금까지 나온 기계와 구분이 되는지 여러 생각을 탐험할 수 있다. 이 책을 즐기려면 책에서 소개하는 학자들의 생각을 요약하는 것을 넘어서 서로 부딪히는 주장에 한 쪽 편을 들거나 마음에 들지 않는 주장을 논박해야 한다. 해제에서 나온 이야기를 인용할만한 가치가 있다.

---

💡 철학이 정말 사고의 결정체라면 그 사고는 스스로의 것이어야만 한다. 이는 능동적인 활동이지 단순히 여러 학파들의 견해를 하나로 뭉친 것이 아니다. 문제와 답은 스스로 생각해내야 하며, 혹 다른 이들의 철학이 자신의 생각을 정립하는 데 도움이 된다 해도 자기 자신과 충분히 논쟁을 거치기 전에는 그들의 결론을 받아들일 수도, 제대로 이해할 수도 없다.

---

• 중국어 방 논증에 대해서 생각해보자: 흥미를 느끼는 부분은 읽는 사람에 따라서 제각각이겠지만 나는 중국어 방 논증이 가장 직관적이고 이야기해볼 수 있는 주제라 생각해서 중국어 방 논증에 대한 초대장을 써보려 한다. 중국어 방 논증은 중국어에 대해 아무것도 모른 채 중국어 방 안에서 입력과 출력에 대한 온전한 규칙표만 가진 A(그러니까 컴퓨터를 의인화 한 것이다.)와 중국어 그 자체를 본질적으로 이해하고 있는 리 선생을 대비시키는 사고실험이다.
  • 규칙표만 있는 A는 의식을 갖고 있지 않다: 존 설이라는 철학자는 ‘도덕이란 무엇인가?’라는 질문을 A와 리 선생에게 제시한다. A는 당연히 질문을 이해하지 못할 것이며 규칙표를 한참 뒤적거리다가 질문에 대한 답변을 찾은 다음에 마찬가지로 이해하지 못한 답변을 제시할 것이다. 하지만 리 선생은 자신이 지금껏 보았던 상식과 철학에 대해 깊이 숙고하면서 도덕이 무엇인지 자신만의 견해로 답변을 낼 것이다. 이 과정에서 리 선생은 의식에 영향을 받았을 것이다. 컴퓨터와 ChatGPT도 A와 다를 바가 없다. 답변을 하는 것을 보니 의식이 있는 것처럼 보이지만, 내면에서 일어나는 심상이 없기 때문에 의식을 갖고 있다고 할 수 없다.
  • 우리가 규칙표만 있는 A와 다를바가 무엇인가?: 데이비드 차머스라는 철학자도 마찬가지로 사고실험을 한다. 우리의 뉴런 하나를 뉴런과 동일한 기능을 갖고 있지만 심상 없이 기계적으로만 작동하는 악마 하나로 대체했다고 가정해보자. 우리의 뉴런을 모두 악마로 대체한 다음에 2단계 작업을 시작한다. 하나의 악마가 하는 일을 다른 악마한테 넘기고 하던 일을 넘긴 악마는 제거한다고 가정하자. 그러면 소거가 진행됨에 따라 우리의 뉴런 네트워크는 기계적으로 작동하는 단 하나의 악마로만 변환되었다. 그렇다면 우리는 온전한 규칙표를 가진 A와 다를 바가 없다. 우리는 기계와 다를 바가 없다는 뜻이다.
  • (막간) 미분에 대한 이야기: A라는 학생은 고등학교에서 나오는 함수들에 대한 도함수를 모조리 외우고 있다고 가정해보자. 왜 그 공식이 그렇게 나오는지는 단 하나도 모르지만 $y=\sin x$ 이면 $\dfrac{dy}{dx}=\cos x$ 가 된다는 식으로 말이다. 그리고 학생 B는 극한에 대한 개념부터 시작해 미분 공식을 모두 유도할 수 있고, 필요한 공식들을 체득했다고 하자. 그러면 A든 B든 미분에 대한 연산 문제는 매우 훌륭하게 처리할 수 있을 것이다. 그렇다면 A는 고등학교 미분 연산에 대한 감각이 있다고 말 할 수 있을까? 각자 다른 답을 제시할 수 있겠다.
• 그래서 추천합니까?: 이 책은 두 가지 방향에서 읽을 수 있다. 첫 번째는 자료조사를 위해 의식에 관한 여러 생각거리를 수집하고자 할 때 이 책을 활용하는 방법이다. 저자가 힘들게 찾은 여러 논쟁을 우리는 한 권의 책에서 자유롭게 뽑아 쓰면 된다. 실제로 참고문헌도 꼼꼼하게 정리해뒀으니 더 수월할 것이다. 두 번째는 위에서 잠깐 맛보았듯이 인공지능 시대를 살아가기 위한 철학책으로 읽을 수 있다. 우리가 기계와 어떤 점에서 구분되는지, 아니면 그냥 우리가 기계 그 자체인지 생각해볼 수 있는 여러 상황을 제시해주고, 각각의 학자들에게 찬성하거나 반대하면서 자신이 무엇인지 나름의 결론을 내리면 된다. 먹고 사는 데 활용할 수는 없지만, 풍요로운 독서 모임을 만드는 데는 아주 적절하게 활용할 수 있겠다.

---