호모데우스는 인류의 재앙이다_『호모데우스』
호모데우스는 인류의 재앙이다
-유발 하라리 지음, 김명주 옮김, 『호모데우스』. 김영사, 2017
지난 해 독서토론대회를 준비하면서 작성했던 입론서를 수정한 글입니다. 당시 토론 논제는 "호모데우스는 인류의 축복이다"였고, 글쓴이가 준비한 입론은 이에 대한 부정, 즉 "호모데우스는 인류의 축복이 아니다"입니다. 처음 형식을 갖춘 토론을 준비하면서 팀원들과 함께 책 읽고, 토론했고, 토론 방식에 대해서도 많이 공부했던 기억이 나네요. 책을 읽고 '인간의 한계를 넘어선 존재를 인간이라 할 수 있을까?' '그것이 정말 인류의 진보일까?'에 대한 의문이 들었던 분들 혹은, 토론을 준비하시는 분들이 참고하셔도 좋을 것 같습니다.
0. 주요 개념 정의
본격적인 논의에 앞서 주요 개념을 정의하겠습니다. 인본주의란 신 대신에 인간을 숭배하는 종교의 한 형태로, 인간을 세상의 지배자로 여기며 불멸과 행복, 그리고 권력이라는 인간의 근원적 욕망을 최우선으로 여기는 가치체계입니다. 호모데우스란 ‘신이 된 인간’이라는 뜻으로, 생명공학, 데이터와 알고리즘에 기반한 인공지능 기술을 통해 불멸과 행복이라는 인본주의 궁극의 목표를 달성하여 인간 스스로 신과 같은 존재가 된 것을 의미합니다. 데이터교는 우주가 데이터의 흐름으로 이뤄져 있으며, 어떤 현상이나 실체의 가치는 데이터 처리에 기여하는 바에 따라 결정된다는 믿음 체계입니다.
1. 논의 배경
알파고 신드롬 이후 각종 매체들은 새로운 기술이 초래할 미래상을 연일 그려내고 있습니다. 생명공학 기술의 발달로 인간의 수명이 급격하게 늘어날 것이라 전망하는가 하면, 구글과 같은 초일류 IT 기업들이 막대하게 수집하고 축적하는 데이터와 알고리즘을 통해 인간의 사고와 선택을 예측 가능한 수준으로 분석하는데 성공하였고, 이것이 조만간 인류에게 전례없는 편리한 삶을 가져다 줄 것이라 광고하고 있습니다. 우리는 이미 이전 세대가 경험하지 못한 넓이와 깊이, 속도의 변화를 삶에서 체감하고 있습니다. 하지만 미래 역시 장및빛일 것이라는 보장은 없습니다. 대다수 긍정적인 논의는 호모데우스와 그들이 살아가는 세상을 지금 사회에서 살아가는 호모사피엔스인 우리의 인식 체계에서 상상한다는 점에서 한계를 지니고 있습니다. 이러한 지극히 관념적이고 사고실험적인 상상과 전망은 미래에 대한 합리적인 의심과 경계를 부정하며, 필수적이며 적절한 대비를 불가하게 한다는 점에서 위험합니다.
2. 논점
호모데우스는 호모사피엔스로서의 현 인류와 단절된 종이며, 따라서 호모데우스의 등장은 인간에게 축복이 될 수 없습니다. 구체적인 이유로 첫째, “호모데우스 등장의 과실을 인류가 공평하게 누릴 수 없으며” 둘째, ”‘호모데우스-되기’는 필연적으로 데이터교의 파괴적 부작용을 수반할 수 밖에 없으며“ 셋째, ”호모데우스가 획득하는 ‘쾌’로서의 행복이 인간으로부터 진정한 행복을 상실하게 하며 이는 호모데우스의 등장이 곧 인간의 단종을 의미한다“는 점을 들 수 있습니다. 다음에서 각각의 논점에 대해 논의를 전개합니다.
2.1. 불평등
먼저 오늘날까지 이어지고 있는 자본주의적 불평등과 마찬가지로 호모데우스의 과실도 소수의 부와 권력을 지닌 계층이 독점할 것이며 인류 구성원이 평등하게 누릴 수 없다는 점입니다. 호모데우스가 되고자 하는 인간은 생명공학, 인공지능 기술을 보유하거나 자유롭게 접근할 수 있는 능력을 지녀야 합니다. 이는 지금의 자본주의 질서에서 그 능력과 권한은 사실 상 ‘부’에 따라 분배될 수 밖에 없습니다. 결국 가진 자는 호모데우스가 될 수 있어 영생과 행복을 얻겠지만, 그렇지 못한 자는 ‘사피엔스’에 머무를 것입니다. 이는 생산수단의 독점적 소유과 부의 분배를 두고 갈등했던 지난 자본주의 사회의 계급적 갈등을 넘어서는 큰 분열을 초래할 것으로 우려됩니다. 게다가 이는 호모데우스가 된 계층이 호모데우스가 되지 못한, 호모사피엔스에 머무는 계층을 사실상 지배하는 형태가 나타날 수 있다는 점에서 지난 날의 불평등보다 더욱 근본적이고 폭력적인 형태로 나타날 수 있다는 사실을 시사합니다. 지난 날 생산수단과 잉여가치를 두고 벌어진 갈등이 행복과 영생, 그리고 이를 위한 기술 접근성을 둘러 싼 갈등으로 확대 재생산 될 수 있다는 것입니다.
2.2. 데이터교의 파괴성
다음으로 ‘호모데우스-되기’가 필연적으로 수반하는 데이터교의 도래에 대한 평가입니다. 데이터교의 도래는 무분별한 데이터 숭배가 낳는 파국적 위험성에 인류가 직면한다는 것을 의미합니다. 호모데우스는 데이터교의 교의에 충실한 존재로 고도로 축적된 데이터와 알고리즘을 자유롭게 사용하지만, 동시에 여기에 구속된 채로 살아갈 수 밖에 없는 존재입니다. 이로 인한 구체적인 문제들로 데이터 종속, 프라이버시 침해, 인간 가치 격하 등을 들 수 있습니다. 인본주의 실현을 위한 궁극적 기획인 호모데우스는 데이터교에 기반하며, 이에 따라 데이터는 모든 가치의 원천이 됩니다. 결과적으로 양질의 데이터를 얼마나 소유했는지, 처리할 수 있는지에 대한 능력이 권위의 새로운 원천으로 환원되는 것입니다. 나아가 삶의 모든 판단과 행동은 데이터와 알고리즘에 기반하고, 이것은 조언자에서 위임자로, 궁극적으로 행위자의 지위에 올라 인간의 주체성을 대체할 것입니다. 즉, 인간은 스스로 판단하는 능력을 상실하는 것입니다. 나아가 이 점은 호모데우스의 삶과 행복 역시, 누군가의 판단으로 수집과 관리된 데이터와 알고리즘에 의존하기 때문에 근본적으로 스스로 운영할 수 없다는 것을 의미합니다.(불완전성) 또한 데이터교에 삶의 모든 것을 위임한다면, 실질적으로 우리의 삶을 지배하는 것은 데이터가 아닌, 데이터를 독점하는 기업일 것입니다. 데이터와 알고리즘을 활용하기 위해 개인들은 SNS 등에 자발적으로 자신의 기호와 취향, 판단과 관련된 프라이버시를 노출시키면, 기업은 그것을 무분별하게 수집하고 축적할 것입니다. 이것은 각종 범죄나 소비를 무분별하게 자극하는 마케팅 등에 악용될 수 있습니다. 또한 전체 데이터-알고리즘 체계가 충분한 양을 축적하는 순간, 개별 인간이 지닌 데이터는 가치가 매우 작아집니다. 이는 데이터교의 원리에 따른 것으로, 결국 인간 종 자체의 가치가 추락하는 것을 의미합니다.
2.3. 호모 사피엔스로부터의 단절과 단종
마지막으로 감각적 ‘쾌’를 행복이라 규정하는 것이 타당한지, 그리고 이를 무한대로 달성한 호모데우스가 호모 사피엔스의 연속선상에 있는 종인지에 대한 검토입니다. 저자는 “유기체는 알고리즘이며, 유기체가 ‘행복’이라고 느끼는 것 또한 알고리즘에 따른 감각적 ‘쾌’”라고 규정합니다. 이에 따르면 인간에게 행복이란 알고리즘의 과정을 통해 산출되는 것이며 그 원리를 파악한다면 충분히 조절하고 통제할 수 있는 것입니다. 하지만 이러한 규정은 인간이 자신의 말과 행동, 삶에서 주체적으로 발견하는 의미로서 ‘행복’을 충분히 설명할 수 없습니다. 인간이 자신의 삶에 의미를 부여하고 발견하는 것이 인간 고유한 특성이라는 사실을 인정한다면, ‘호모데우스’의 행복은 인간 고유한 가치와 능력의 상실을 의미합니다. 게다가 인간의 ‘호모데우스-되기’는 일단 실행하면 되돌릴 수 없는 성격을 지녔기 때문에, 이는 궁극적으로 인간다움, 인간성을 회복불가능하게 파괴하는 결과를 초래합니다. 이러한 점에서 인본주의적 가치 실현을 위한 궁극적인 기획이었던 ‘호모데우스’는 인류의 종으로서 호모사피엔스와 단절되는 것이며, 그 자체로 인본주의는 물론, 의식을 지닌 종으로서 인간이라는 종의 소멸을 의미합니다. 종의 소멸이 그 종의 축복이 된다는 것은 자체로 모순입니다.