deadPXsociety

넥서스 본문

넥서스

WiredHusky 2025. 1. 27. 11:51

AI가 이 지구를 구원할 수 있을까? 세계는 지금 AI에 대한 희망과 공포로 들끓고 있다. 낙관론자들은 AI가 인간을 노동에서 해방시켜 줄 거라고 믿고 비관론자는 총을 든 안드로이드가 인간을 살육하거나 자아를 얻은 초지능이 우리 종을 지배하는 시나리오를 쓰고 있다. 미래가 어떻게 될지 누가 알겠는가? 그렇다고 넋 놓고 있을 수는 없다. 미래를 알든 모르든, 우리가 그 미래를 만드는 주체라는 사실만큼은 확실하기 때문이다.

 

낙관론부터 시작해 보자. 낙관론자들은 정보가 많으면 많을수록 이 세상이 더 아름다워질 것이라고 생각한다. 가짜 뉴스를 생산하는 AI봇들이 많아질수록 '옳은' 뉴스를 만들어내는 AI들도 많아질 것이다. 그들의 관점에서 인간의 오해와 편견은 모두 정보의 부족에서 기인한다. 옳은 정보를 얻고 나면 어떻게 그른 마음을 유지할 수 있겠는가? 유튜브에 넘쳐나는 극우 사상들과, 미국의 큐어넌(QAnon) 같은 커뮤니티, 그리고 이들을 열렬히 지지하는 수많은 팬들을 보면 낙관론자들의 주장이 지나치게 낙천적으로 보이는 게 사실이다. 이들은 아마 강력한 AI를 만드는 것으로 이 문제를 해결하려 할 것이다. 셀 수 없을 정도로 많은 정보를 학습하여 무엇이 옳고 그른지 정확히 판단하는 AI가 등장하면, 애초에 이런 정보들이 세상에 유통되지 않도록 강력히 통제할 수 있기 때문이다.

 

불가능한 현실은 아니다. 하지만 이때에도 여전히 무엇이 '옳은가'를 어떻게 판단하냐는 문제가 남는다. 성경을 학습한 AI는 아마 노예를 소유하는 것에 아무런 죄책감을 느끼지 않을 것이다. 2차 세계대전 당시 수많은 유대인을 학살한 사람들 중에는 절실한 기독교인들도 있었다. 네 이웃을 네 몸과 같이 사랑하라는 십계명과, 유대인을 샤워실에 몰아넣어 죽음의 가스를 살포하라는 명령 사이에서 그들은 어떻게 균형을 맞출 수 있었을까? 그것은 생각보다 어려운 일이 아니었다. 그들에게 유대인은 이웃이 아니었기 때문이다. 사실 사람조차 아니었다.

 

 

 

이제 비관론을 얘기해 보자. 그들은 정보가 곧 진실이고 진실이 지혜와 힘이라는 사실을 순진한 발상이라 일축한다. 지혜까지는 모르겠지만 힘이라는 데는 동의할 수 있지 않을까? 아마 비관론자들은 20세기 중반부터 반세기 가깝게 이어온 냉전을 사례로 들며 정보가 힘이라는 사실을 조롱할 것이다. 소련과 중국 같은 공산국가들은 발전한 기술을 토대로 정보를 중앙에 집중했고, 이를 인민의 배고픔을 해결하거나 자유를 보장하는 데 이용하는 대신 강력한 전체주의 독재국가를 수립했다! 그러니 정보=힘이라고 부르고 싶다면, 뭐 그렇게 해도 좋다.

 

비관론자들은 공산주의 독재국가들이 결국 자유민주주의 진영에 패배한 이유를 정보 처리의 비효율에서 찾는다. 많은 정보를 수집하고, 그 정보로 인간을 억압해 질서를 유지하는 데 어느 정도 성공을 거둔 건 사실이다. 하지만 이 때문에 국가는 엄청난 자원을 소비했다. 문제는 그렇게 많은 노력을 쏟아부었음에도 완벽한 통제가 불가능했다는 점이다. 잠도 자지 않고 쉬지도 않는 AI의 등장에 독재자들의 마음이 설레는 것이 바로 이 때문이다. 초거대 AI는 지금까지 인간이 상상할 수 없었던 양의 데이터를 수집하고, 분석하고, 판단할 것이다. 어떤 사람이 반정부 사상을 가졌는지, 언제 어디서 전복을 위한 테러를 감행할지, AI는 쉬지 않고 명령을 내려 사람들을 잡아 가두고 죽일 것이다.

 

<넥서스>는 비관론자의 책처럼 보인다. 하지만 계속 읽어나갈수록 긍정론의 씨앗을 발견할 수 있다. 낙관과 비관과 긍정은 서로 비슷해 보이지만 확실한 차이가 있다. '망했다. 앞으로는 뭘 해도 안 될 거야.'라는 게 비관이라면 '걱정 마 뭘 해도 잘 될 거야.'라는 게 낙관이다. 긍정은 이런 거다. '망했다. 어떻게 해야 이 문제를 해결하지?' 유발 하라리는 비관론자처럼 보이는 긍정론자다.

'' 카테고리의 다른 글

이와타 씨에게 묻다  (0) 2025.01.19
우리의 임무는 게임을 만드는 것입니다  (0) 2025.01.12
블랙홀과 시간여행  (0) 2025.01.05
기묘한 이야기들  (1) 2024.12.29
안사의 난  (2) 2024.12.22
Comments