호모 데우스(Homo Deus) : <9> 중대한 분리

호모 데우스(Homo Deus) - 미래의 역사 | 유발 하라리(지은이) | 김영사

<목차>
프롤로그 : 1) 인류의 새로운 의제
제1부 : 호모 사피엔스 세계를 정복하다
  2) 인류세
  3) 인간의 광휘
제2부 : 호모 사피엔스 세계에 의미를 부여하다
  4) 스토리텔러
  5) 뜻밖의 한 쌍
  6) 근대의 계약
  7) 인본주의 혁명
제3부 : 호모 사피엔스 지배력을 잃다
  8) 실험실의 시한폭탄
  9) 중대한 분리
  10) 의식의 바다
  11) 데이터교

자유주의 철학의 근간을 흔드는 과학적 발견의 실질적인 위협은 크게 3가지로 나눌 수 있다.

1. 인간은 경제적, 군사적 쓸모를 잃을 것이고, 따라서 경제적, 정치적 시스템은 인간에게 큰 가치를 부여하지 않을 것이다.

ㅇ 자유주의가 성공한 것은 인간에게 가치를 부여하는 것이 정치적, 경제적, 군사적으로 타당했기 때문이다.
  - 프랑스 인권선언이 민중에게 정치적 권리는 부여했던 것, 1차 세계대전 이후 여성의 참정권에 대한 논의가 진지하게 진행된 이유는, 그들의 동기와 진취적 정신을 고취해 더 뛰어난 수행 능력을 보여주기를 원했기 때문이었다.
  - 그러나 기술이 발전하여 군대가 대량 징병 대신 첨단 기술에 의존한다면, 인간의 군사적 가치는 사라질 것이다.
  - 더불어 전쟁이 사이버 공간으로 이동할 것이기에, 인간은 문자 그대로 전쟁에서 인간 방패가 될 수도 있다.

ㅇ 경제 영역에서도 인간의 가치는 줄어들고 있다.
  - 과거에는 인간만이 할 수 있는 일이 있었으나, 지금은 로봇과 컴퓨터가 우리의 역할을 따라잡고 있다. 그리고 이들은 머지않아 업무 대부분을 인간보다 잘할 것이다.
  - 의식과 지능은 분리되고 있으며, 우리는 인간보다 특정한 업무를 효율적으로 수행할 수 있는 비의식적 지능을 개발하고 있다.
  - 원활한 업무수행에 있어 의식이나 주관적 경험은 의무가 아닌 선택사항이다.

ㅇ 새로운 시스템은 시간, 돈, 인간의 생명을 구하겠지만, 수천 개의 일자리를 없애며 인간을 무용지물로 만들 수도 있다.
  - 로봇은 육체노동을 대신하고, 지능적인 알고리즘은 은행원, 의사, 변호사, 교사와 같은 많은 사무직 업무를 대체할 것이다.
  - 물론 단기간에 인간이 대체되지는 않겠지만, 여러 기술적 문제들은 언젠가 해결될 것이다.
  - 높은 수준의 창의력을 요구하는 일들은 여전히 인간의 손에 맡겨질 것이겠지만, 그 수는 극소수일 것이다.
  - 기계나 알고리즘에는 없는 인간미!? 알고리즘은 혈압, 뇌활성을 비롯한 생체 데이터를 분석하여 우리의 정서를 분석하고, 이에 맞는 적절한 대응을 할 수 있을 것이다.

ㅇ 따라서 21세기 경제에서 우리의 중요한 질문은 '일자리도 잃고 가치도 하락한 그 모든 잉여 인간은 무엇을 해야 하는가?'이다.
  - 이는 새로운 질문이 아닌데, 산업혁명으로 촉발된 기계화가 대량실업을 만들지 모른다고 당시에는 두려워했다.
  - 그러나 없어진 직업 대신 새로운 직업이 생겨났고, 사람이 기계보다 잘할 수 있는 인지능력이 필요한 일이 있었다.
  - 만약 알고리즘이 향상되어 인지능력이 필요한 일을 인간 대신할 수 있다면?
      ex) 얼굴인식 프로그램의 성능 향상, AI가 체스 그리고 바둑에서 인간을 이기게 됨
  - 일부 전문가들은 어떤 일은 영원히 비유기적 알고리즘이 할 수 없을 것이라 단언하지만, 그들의 예상은 빗나가고 있다.
  - 그리고 인간이 하는 일은 점점 전문화되고 있어서, 알고리즘이 향상되는 것을 차치하더라도 시간이 갈수록 컴퓨터 알고리즘은 인간을 대체하기 쉬워질 것이다.
  - 알고리즘이 직업시장에서 인간을 몰아낸다면, 알고리즘을 소유한 소수 엘리트 집단에 부와 권력이 집중되어 극심한 사회적 불평등이 발생할 것이다.
  - 인간의 마지막 성역으로 간주되는 예술 역시 알고리즘을 대체될 가능성이 있다.
      ex) 데이비트 코프의 EMI, Annie 개발

ㅇ 19세기 산업혁명 이후 거대한 프롤레타리아 계급이 생겼던 것처럼, 21세기의 우리는 '일하지 않는 사람들'이라는 새로운 계급이 탄생하는 것을 볼지도 모른다.
  - 그들은 경제적, 정치적, 예술적으로 가치가 없으며, 사회의 번영, 힘과 영광에 아무 기여도 못 하는 사람들이다.
  - 이 쓸모없는 계급은 일자리를 구하지 못한 사람이 아닌 일자리를 구할 수 없는 사람들일 것이다.
  - <고용의 미래> 보고서는 미국에 존재하는 직업군 중 약 47%가 컴퓨터 알고리즘으로 대체될 가능성이 크다고 예상하였다.
  - 만약 정말 획기적인 기술이 등장하여 인간이 아무것도 하지 않아도 되는 날이 온다면? 인간의 가치가 신성하다는 자유주의의 신념은 붕괴할 것이다.
  - 일부 전문가들은 인공지능이 인간의 지능을 능가하는 순간 인류를 절멸시킬 것이라 예상하기도 한다.

---

2. 시스템이 여전히 인간을 필요로 한다 해도, 개인을 필요로 하지는 않을 것이다.

ㅇ 시스템은 인간 대신 대부분의 중요한 결정을 내릴 것이다. 그렇게 함으로써 개인들의 권한과 자유를 박탈할 것이다.
  - 20세기까지는 나를 효과적으로 감독할 수 있는 알고리즘이 없었기에, 나를 제일 잘 아는 것은 바로 자기 자신이라는 자유주의자의 주장이 유효했다.
  - 그러나 21세기의 기술로는 나보다 나를 더 잘 아는 알고리즘을 만들 수 있을 것이다.
  - 그렇게 된다면 개인주의에 대한 믿음은 붕괴될 것이고, 권한은 개인으로부터 알고리즘으로 옮겨갈 것이다.
      ex) 생체정보를 기록, 관리하는 최신 의학기기, 유전학 기술에 근거하여 의학적 판단을 내리는 개인 등
  - 많은 사람은 사적인 정보를 알고리즘에 넘겨줄 것이고, 의사결정 대부분을 시스템의 판단에 의존할 것이다.
  - 그 대가로 우리는 자유의지를 포기해야 할 것이며, 인간은 자율적 실체가 아닌 거대한 네트워크의 부속품이 될 것이다.
  - 시간이 갈수록 데이터베이스는 커지고, 통계는 정확해지고, 알고리즘은 개선될 것이다. 이는 더 나은 의사결정으로 이어진다.
  - 물론 알고리즘도 결점은 있겠지만, 시스템이 나보다 나를 더 잘 알게 되는 순간 자유주의는 붕괴될 것이다.

ㅇ 알고리즘이 모든 것을 아는 신탁이 되면, 그다음에는 대리인을 진화하고 마침내 주권자가 될 것이다.
  - 네트워크에서 연결이 끊긴다는 것은 죽음을 의미하기에, 결국 우리는 잠시도 연결이 끊겨 지낼 수 없는 시점에 이를 것이다.
  - 21세기의 신기술은 인본주의 혁명을 뒤집어, 인간의 권한을 박탈하고 비인간 알고리즘의 권한을 강화할 것이다.
  - 인간에서 알고리즘으로의 권한 이동은 주변에서 일어나고 있으며, 이는 평범한 선택의 저항할 수 없는 흐름 때문이다.
  - 개인은 빅브라더가 무너뜨리는 것이 아닌, 내부에서 조용히 붕괴될 것이다.

---

3. 일부 사람들은 업그레이드 되어 소규모 특별 집단을 이룰 것이다.

ㅇ 초인간들은 뛰어난 능력과 창의성을 발휘하여 대다수의 결정을 내릴 것이다.
  - 이 과정에서 낙오된 대부분의 사람은 알고리즘과 초인간 양쪽의 지배를 받는 열등한 계급이 될 것이다.
  - 인류가 생물학적 계급으로 나뉘어지는 순간, 모든 인간이 평등한 권한과 가치를 가진다는 자유주의의 기본 전제가 무너져 자유주의의 근간이 흔들릴 것이다.
  - 미래에는 업그레이드된 엘리트 집단과 나머지 사회 구성원들 사이에 육체적, 인지적 능력의 차이가 벌어지는 것을 볼 수도 있다.
  - 가난한 사람에게 표준적 가치를 제공하는 것과 엘리트들을 업그레이드하는 것, 이 중 미래에는 어떤 선택지가 더 현명한 일이 될까?

---

(p.424) 대부분의 사람들은 인간 방패로 쓰면 모를까 거의 쓸모가 없을 것이다. 오늘날 많은 비대칭전에서 이미 시민들 대다수가 진보한 무기들에 대한 인간 방패 역할로 전락했다는 사실은 의미심장하다.

(p.453) 오래된 금언을 따라 '자신을 알고' 싶다면, 철학, 명상, 심리분석에 시간을 낭비하지 말고, 생체 데이터를 체계적으로 수집해 알고리즘에게 분석을 맡겨야 한다.

(p.467) 유럽 제국주의의 전성기에 스페인 정복자들과 상인들은 색깔 있는 구슬들을 주고 섬과 나라를 통째로 샀다. 21세기 대부분의 사람들이 여전히 가지고 있는 값진 자료는 아마 개인적 데이터베이스일 것이다. 그런데 우리는 겨우 이메일 서비스와 웃긴 동영상을 제공받는 대가로 첨단 기술기업에게 그 데이터를 넘기고 있다.