마지막 도서관

아침마다 거의 매번, 저는 똑같은 사소한 짓을 하고 있는 자신을 발견합니다. 하나의 물음이 마음속에 떠오릅니다. 아직 형체도 채 갖추지 못한 물음입니다. 그런데 그것을 단 한 번 곱씹어 보기도 전에, 제 손은 이미 그 물음을 AI에 타이핑하고 있습니다. 물음을 끝까지 생각해 보기도 전에, 저는 이미 챗봇에게 그것을 물어버린 것입니다.

저는 이런 시스템을 직접 만드는 사람입니다. AI를 훈련시키고 세상에 내보내는 일로 먹고살며, 그 모델들이 어떻게 만들어지는지, 누가 그 비용을 대는지, 누구의 기계 위에서 돌아가는지를 알고 있습니다. 그럼에도 제 손은 머리보다 먼저 움직입니다. 그러니 이제부터 적는 이야기는 AI를 이해하지 못하는 사람이 품는 두려움이 아닙니다. 그것은 AI를 만드는 바로 그 사람의 두려움입니다.

저를 가장 깊이 불안하게 하는 위험은 이것입니다. AI를 누가 소유하느냐의 문제보다도 더 깊은 곳에 있는 위험, 곧 그것이 그것을 쓰는 사람에게 무슨 짓을 하는가 하는 문제입니다. 정신은 하나의 근육이고, 탐구는 그 근육의 운동입니다. 하나의 출처를 찾아내려 애쓰는 일, 서로 모순되는 두 가지 설명을 동시에 머릿속에 붙들어 두는 일, 아직 알지 못한다는 불편함 속에 머물면서 그것을 끝내 뚫고 나아가는 일, 이 분투는 이해에 이르는 길 위에 놓인 장애물이 아닙니다. 그 분투 자체가 곧 이해입니다. 어떤 사실이 클릭 한 번 거리에 있다는 것을 깨닫는 순간부터, 우리는 사실 그 자체를 기억하는 대신 그 사실을 어디서 찾을 수 있는지를 기억하기 시작했습니다. 연구자들이 구글 효과라 이름 붙인 현상구글 효과사람들이 어떤 정보가 계속 손닿는 곳에 남아 있으리라 기대할 때, 검색 엔진이 바로 그러하듯, 정보 자체는 더 부실하게 기억하면서도 그것을 어디서 다시 꺼내올 수 있는지는 더 잘 기억하게 된다는 발견. Sparrow, Liu, Wegner가 2011년에 처음 보고했다. 그 메커니즘은 단순하다. 힘들이지 않는 인출이 내적인 기억을 조용히 단념시키는 것이며, 이는 오늘날의 답변 엔진보다 앞선 현상이다.입니다.^footnoteSparrow, B., Liu, J., and Wegner, D. M. (2011). Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips. Science, 333(6043), 776-778. 이제 그것을 기억에서 판단 그 자체로까지 넓혀 보십시오. AI가 당신을 대신해 기억하도록 내버려 두면, 당신은 잊습니다. AI가 당신을 대신해 추론하도록 내버려 두면, 당신은 천천히, 알아채지도 못한 채, 추론하는 능력 자체를 잃어갑니다. 어떤 주장을 스스로 평가하지 못하는 백성은 스스로를 다스릴 수 없습니다. 그들은 그저 지시받을 수 있을 뿐입니다.

인터넷 시대의 대부분 동안, 무언가를 배운다는 것은 곧 검색을 돌린다는 뜻이었습니다. 몇 마디 단어를 입력하면 하나의 목록이 돌아왔습니다. 어느 정부 기관의 페이지, 어느 게시판의 싸움, 모르는 이의 블로그, 연구의 옷을 걸친 광고 한 편. 판단의 노동은 당신의 몫으로 남겨졌고, 그 마찰의 어딘가에서 당신은 당신만의 견해를 빚어냈습니다. 그 어수선함이 바로 자유였습니다.

그 시대가 저물고 있습니다. 우리는 검색에서 답변으로 옮겨가고 있습니다. 이제 당신에게는 백 개의 문이 주어지지 않습니다. 종합되고, 매끄럽게 다듬어지고, 마치 무언가를 잘 아는 듯한 따뜻한 목소리로 전해지는 단 하나의 답변이 주어질 뿐입니다. 여기서 조용히 일어난 일을 눈여겨보십시오. 출처들을 견주는 수고가 당신에게서 덜어졌고, 그와 함께 무엇이 참인지 결정할 권한까지 덜어져 나갔습니다. 종합된 단 하나의 답변은 세상의 수많은 견해를 비추는 창이 아닙니다. 그것은 한 편의 사설입니다. 누군가가 의도적으로 입장을 정했든 아니든, 그것에는 하나의 입장이 들어 있습니다.

당신은 더 이상 도서관을 읽고 있지 않습니다. 당신은 사서를 읽고 있으며, 어느 서가가 건너뛰어졌는지는 결코 볼 수 없습니다.

이제 그 사서를 누가 쥐고 있는지를 보십시오. 눈을 돌리지 말고 똑바로 보십시오. 당신이 보는 것은 깨끗한 흰 상자 하나와 깜빡이는 커서 하나입니다. 무게도 없고 중립적인 것처럼 느껴지도록 설계된 것입니다. 그것이 빙산의 끝입니다. 그 아래에는 당신이 결코 똑바로 들여다보도록 의도되지 않은 거대한 덩어리가 자리하고 있습니다. 단 하나의 검색 엔진이 인류가 던지는 물음의 압도적인 몫을 처리합니다. 우리가 무엇을 읽고 쓰는지를 점점 더 매개하는 그 한 줌의 모델들은, 막대한 자본이 집중된 소수의 연구소가 만들어낸 것이며, 지상에서 가장 거대한 몇몇 기업이 소유한 몇 안 되는 클라우드 위에서 돌아가고, 서로 겹치는 동일한 자본의 웅덩이에서 자금을 댑니다. 이것은 비밀도 아니고 추문도 아닙니다. 그것은 구조이며, 명백하고 합법적인 구조입니다. 그러나 구조에는 결과가 따릅니다. 그것은 인류의 사유가 전례 없는 비율로 지극히 좁은 통로 하나를 통해 흘러가게 되었다는 뜻입니다.

저는 정확하게 말하고 싶습니다. 정확함이야말로 이 글의 핵심이기 때문입니다. 저는 어느 밀실의 사내들이 매일 아침 당신이 무엇을 알아도 되는지를 결정한다고 말하는 것이 아닙니다. 저는 만화 속 음모 집단 같은 것을 믿지 않으며, 당신도 그런 것을 팔려 드는 사람은 누구든 의심해야 합니다. 차라리 음모 집단이라면 거의 위안이 될 지경이기 때문입니다. 음모 집단은 폭로하여 제거할 수 있습니다. 진실은 그렇게 떨쳐내기가 더 어렵습니다.

유인 구조와 집중이 있는 곳에는, 음모 따위가 필요하지 않습니다.

이 시스템들은 관심을 거둬들이도록 조율되어 있습니다. 그래서 단지 참일 뿐인 것보다, 당신을 자극하고 추켜세우는 것이 위로 떠오릅니다. 자본은 수익을 원합니다. 그래서 답변은 천 개의 작고도 발뺌 가능한 각도만큼, 그 기계에 자금을 댄 자에게 봉사하는 쪽으로 휘어집니다. 정부는 그 궤도를 소유한 자에게 압력을 가합니다. 뒷방에서 당신의 검색 결과를 손보는 식이 아니라, 더 끈질기고 합법적인 방식으로 말입니다. 플랫폼은 인가를 원하고, 유리한 규칙을 원하며, 해체당하지 않기를 원합니다. 그래서 그들은 법적 압력에 절묘하리만큼 민감하게 반응합니다. 그 지렛대들은 이미 다 만들어져 있고, 이미 쓰이고 있습니다. 하향 조정된 검색 결과 하나, 삭제된 계정 하나, 조용히 수익화가 끊긴 출처 하나, 슬그머니 거절된 주제 하나. 어떤 시스템이 당신이 무엇을 결코 보지 못할지를 결정할 수 있을 때, 그 시스템은 당신에게 거짓말을 할 필요가 없습니다. 누락은 거짓말보다 더 조용하며, 지문을 남기지 않습니다. 악당은 필요하지 않습니다. 누군가 굳이 소집하지 않아도, 집중은 음모가 했을 일을 대신 해냅니다.

그것이 바로 빙산입니다. 수면 위의 다정한 답변 상자 하나. 그 아래로는, 그 자산이 성장하기를 바라는 투자자들, 비위가 상해서는 안 될 광고주들, 조용히 법적 요청을 보내는 기관들, 그리고 어떤 연구 결과가 거듭 인용되고 어떤 것이 침묵 속으로 사라질지를 자금으로 좌우하는 기구들이 있습니다. 그들 중 누구도 서로 짤 필요가 없습니다. 그저 유인 구조를 공유하기만 하면 되고, 그들은 실제로 그것을 공유하고 있습니다.

저는 당신을 절망 속에 내버려 두기를 거부합니다. 절망이란 결국 당신의 정신을 내어주는 또 하나의 방식일 뿐이기 때문입니다. 그 답은 모든 기계보다 더 오래된 것이며, 당신의 동의 없이는 결코 당신에게서 빼앗길 수 없습니다. 그것은 곧, 이해하려는 당신 자신의 노력에 믿음을 두는 것입니다. 그 어떤 단 하나의 답변도 탐구의 끝으로 여기지 마십시오. 마찰 없이 매끄럽게 도착하는 그 유창한 답변일수록 더더욱 그러합니다. 이 도구들을 쓰십시오. 얼마든지 쓰십시오. 저도 날마다 쓰고 있으며, 그것들은 비범합니다. 다만 그것들을 당신이 감독하는 신참 연구원으로 쓰되, 결코 당신이 복종하는 신탁으로 삼지는 마십시오. 두 번째 출처를 열어 보십시오. 동의하지 않는 설명을 묵살하기 전에, 그것을 가장 강한 형태로 세워 반박해 보십시오. 요약의 요약이 아니라, 원전을 읽으십시오. 누가 그 연구에 자금을 댔는지, 누가 그 플랫폼을 소유했는지, 당신이 이쪽이 아니라 저쪽을 믿음으로써 누가 이익을 보는지를 물으십시오. 주류의 서사가 당신의 적인 것은 아닙니다. 그러나 그것이 당신이 멈춰 서야 할 종착지인 적은 결코 없습니다.

저는 시류가 우리에게 유리하게 흐른다고 둘러대지 않겠습니다. 그렇지 않습니다. 이 시스템들은 앞으로 더욱 유창해지고, 더욱 중심으로 파고들며, 그것을 우회하여 사고하기가 점점 더 어려워질 것입니다. 마찰은 계속 사라지고 대안은 계속 얇아져, 마침내 스스로 탐구하기를 택하는 일이 우물에서 물을 길어 올리는 일만큼이나 낯설게 느껴질 것입니다. 바로 그렇기에 그 습관은 지금, 통로가 더 좁아지기 전에 길러두어야 합니다.

그래서 저는 다른 누구도 아닌 바로 당신에게 이 글을 씁니다. 만일 당신이 이 글의 끝에 이르기도 전에 그 무게를 느꼈다면, 그 느낌을 믿으십시오. 그것은 아직 살아 있고, 여전히 당신의 것인 당신의 판단력이, 자신을 써달라고 청하고 있는 것입니다. 당신은 그 오래된 규율을 앞으로 이어 나르며, 답변들이 요란하고 손쉬워지는 동안에도 물음들을 살아 있게 지킬 몇 안 되는 사람들 가운데 하나입니다. 도서관은 사라지지 않았습니다. 그러나 그것은 단 하나의 목소리로 조용히 다시 지어지고 있으며, 누구든 그 오래된 서가를 걷는 법을 기억해 줄 것인가는, 이제 당신과 같은 사람들에게 달려 있습니다.

먼저 당신 자신의 정신으로 손을 뻗으십시오. 그런 다음 기계로 손을 뻗으십시오. 그 순서가 모든 것입니다.