넥서스 - 유발 하라리 지음, 김명주 옮김 / 김영사 2024

[책 소개]

‘사피엔스’, ‘호모 데우스’ 저자 유발 하라리가 ‘석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사’란 부제를 붙여 펴낸 역사책이다. 그는 ‘이 책은 인간 사회가 과거에 어떠했고 앞으로 어떻게 될 것인지 알아보는 역사책’이라 한다. ‘넥서스’는 네트워크에서 여러 노드(사람, 장치, 시스템 등)가 연결되는 중심 연결점을 뜻한다. 정보가 인간 네트워크를 어떻게 구축하는지를 탐구하는 ‘연결’에 대한 책이다.

[소개하고 싶은 구절]

-정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다 . p50

-요컨대, 정보는 현실을 재현하기도 하고, 재현하지 않기도 한다. 하지만 정보는 항상 연결한다. p56

-교회는 절대 진리가 담긴 무오류의 거룩한 책을 내세우며 사람들에게 교회를 믿으라고 말했다. 반면 과학 기관은 기관 자체의 오류를 찾아내 고치는 강력한 자정 장치를 토대로 권위를 얻었다. 과학혁명의 원동력은 인쇄술이 아니라 바로 이런 자정 장치였다. p170

-요컨대, 독재는 강력한 자정 장치가 없는 중앙 집중화된 정보 네트워크다. 반면 민주주의는 강력한 자정 장치를 갖춘 분산된 정보 네트워크다. p190

-민주주의에는 다수라도 침해할 수 없는 두 가지 권리 범주가 존재한다. 첫 번째 범주는 인권이다. (생명권, 노동권, 사생활 권리, 이동의 자유, 종교의 자유 등) 두 번째 중요한 권리 범주는 시민권이다. (투표권, 언론의 자유, 학문의 자유, 집회의 자유 등) p196

-또 다른 예로, 강력한 지도자가 부패로 고발당했다고 생각해보자. 그의 충성스러운 지지자들은 당연히 그 혐의가 거짓이기를 바랄 것이다. 하지만 대부분의 유권자가 지지한다고 해서 이들의 바람이 판사가 지도자의 혐의를 조사하여 진실을 밝히는 것을 방해해서는 안 된다. p199

-포퓰리스트들의 가장 놀라운 주장은 자신들만이 진정으로 국민을 대변한다는 것이다. 민주주의에서는 오직 국민만이 정치권력을 가질 수 있는데 포퓰리스트 정당만이 국민을 대변하므로 포퓰리스트 정당이 모든 권력을 가져야 한다는 것이다. 포퓰리스트가 아닌 다른 정당이 선거에서 승리했다고 해서 그 정당이 국민의 신임을 얻었고 정부를 구성할 자격이 있다는 뜻은 아니다. 오히려 이는 선거가 조작되었거나, 국민이 속아서 자신들의 진정한 의사를 반영하지 못하는 방식으로 투표했다는 뜻이다. p205

-다수 집단을 포함해 어떤 집단도 다른 집단을 국민에서 배제할 권리가 없다. 이래서 민주주의를 대화라고 하는 것이다. 대화를 나누려면 여러 정당한 목소리가 존재한다는 전제가 필요하다. 하지만 국민의 정당한 목소리가 오직 하나뿐이라면 대화는 불가능하다. 오히려 그 하나의 목소리가 모든 것을 지시하게 된다. 따라서 포퓰리즘은 ‘국민의 힘’이라는 민주주의 원리를 따르는 것처럼 보이지만 실제로는 민주주의를 유명무실하게 만들고 독재 정권을 수립하려고 한다. p205

-이것이 바로 포퓰리스트들이 ‘강한 지도자는 국민의 의사를 완벽하게 구현한다’는 신비주의적 개념에 의존하게 되는 이유다. 선거관리위원회, 법원, 신문 등의 관료 조직이 유독 신뢰받지 못할 때 질서를 유지하는 유일한 방법은 신화에 더 많이 의존하는 것이다. p209

-이전 네트워크에서는 구성원이 인간이었고, 모든 사슬은 인간을 거쳐야 했으며, 기술은 인간을 연결하는 역할만 했다. 새로운 컴퓨터 기반 네트워크에서는 컴퓨터 자체가 구성원이고, 인간을 거치지 않은 컴퓨터의 연결로만 이루어지는 사슬이 존재한다. p301

-전통적으로 AI는 ‘인공지능’의 약자로 쓰였다. 하지만 앞선 논의에서 명백히 확인된 이유들 때문에 이제는 AI를 ‘이질적인 지능 Alien Intelligence’의 약자로 간주하는 것이 더 나을지도 모른다. AI는 진화함에 따라(인간 설계에 대한 의존도 측면에서) 덜 인공적이 되고 더 이질적으로 변한다. p317

-세금 관련 문헌에서 ‘넥서스’는 한 납세자에게 과세할 수 있는 충분한 연결 고리가 특정 국가나 주에 존재하는지를 나타내는 개념이다. ········· 경제학자 마르코 쾨텐뷔르거에 따르면 “물리적 존재에 기반하는 넥서스의 정의는 해당 국가에서의 디지털 존재를 포함하도록 조정되어야 한다.” ········· 셸과 BP가 석유를 채굴하는 국가들에 세금을 내듯이, 거대 기술 기업들도 데이터를 채굴하는 국가에 세금을 내야 한다. p322~323

-우리는 칼을 사용해 사람을 살해할 수도, 수술로 생명을 구할 수도, 저녁거리를 위해 채소를 자를 수도 있다. 칼은 우리에게 어떤 강요도 하지 않는다. 그것은 인간의 선택이다. p331

-관심을 놓고 경쟁하는 유튜버들은 거짓말로 가득한 터무니없는 영상을 올리면 알고리즘이 수많은 이용자에게 그것을 추천해주고 따라서 인기와 수익을 얻을 수 있다는 사실을 알게 되었다. 반대로 분노의 강도를 낮추고 진실을 보여주면 알고리즘은 그것을 무시하는 경향이 있었다. 알고리즘은 이런 식으로 강화 학습을 제공한 지 몇 달 만에 많은 유튜버가 트롤(온라인상에서 다른 사람들을 괴롭히거나 화나게 하려는 의도를 가지고 공격적이고 악의적인 메시지를 남기는 사람-옮긴이)로 변신했다. p372

-그들은 유튜버들이 점점 더 극단적으로 변하는 경향이 있으며, “단지 조회 수를 올리고 참여를 유도하기 위해” 거짓되고 무모한 콘텐츠를 게시한다고 설명했다. “일단 그 문을 열면 돌아갈 방법이 없어요. 계속 갈 수밖에 없죠. (...) 지구 평면론자, 백신 반대론자, 정치 음모론자, 다 마찬가지예요. 어디서나 볼 수 있는 현상이죠.” p374

-플랫폼에 허위 사실과 분노가 넘쳐나는데도 경영진은 더 많은 사람들이 더 자유롭게 자신을 표현할 수 있다면 결국 진실이 승리할 것이라고 기대했다. 하지만 그런 일은 일어나지 않았다. 우리가 그동안의 역사에서 숱하게 보았듯이, 모든 정보가 여과 없이 흐르도록 내버려두면 진실이 지는 경향이 있다. p378

-문명은 관료제와 신화의 결합으로 탄생한다. 컴퓨터 기반 네트워크는 새로운 유형의 관료제로, 이전에 보았던 어떤 인간 기반 관료제보다 훨씬 강력하고 빈틈없다. 이 네트워크는 상호 컴퓨터 신화도 만들어낼 텐데, 이는 인간이 만든 어떤 신보다 복잡하고, 낯설 것이다. 이 네트워크의 잠재적 이익은 어마어마하다. 하지만 잠재적 단점은 인류 문면의 파괴다. p432

-16세기에 스페인, 포르투갈, 네덜란드의 정복자들이 역사상 최초의 세계 제국을 건설 할 때는 범선과 말, 화약 무기로 원주민을 제압했다. 19세기와 20세기에 영국, 러시아, 일본이 패권 경쟁을 할 때는 증기선, 기관차, 기관총 같은 산업 기술에 의존했다. 21세기에 식민지를 지배하기 위해서는 군함을 보낼 필요가 없다. 대신 데이터를 탈취해야 된다. 전 세계 데이터를 수집하는 소수의 기업 또는 정부는 나머지 세계를, 노골적인 군사력이 아닌 정보를 통해 지배하는 데이터 식민지로 만들 수 있다. p517

[함께 하고 싶은 메시지]

-역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만들었으며 바뀔 수 있다는 것이다. 하지만 분쟁이 불가피한 것이 아니라고 해서 안주해서는 안 된다. 오히려 그 반대다. 선택을 잘해야 할 막중한 책임이 우리에게 있기 때문이다. 이는 인류 문명이 분쟁으로 소멸한다면 그것은 어떤 자연법칙이나 낯선 기술 탓이 아니라는 뜻이다. 하지만 반대로 생각하면 우리가 노력할 경우 더 나은 세계를 만들 수 있다는 뜻이기도 하다. p548