最后的图书馆

多数清晨，我都会发现自己重复着同一件小事。一个问题在脑海里刚刚成形，还只有半个轮廓，我甚至还没把它在心里翻看过一遍，手指已经把它敲进了人工智能。问题还没想完，我已经先问过聊天机器人了。

这些系统正是我亲手搭建的。我以训练和交付人工智能为业，我清楚这些模型是怎样炼成的、由谁出钱、跑在谁的机器上。可即便如此，我的手仍旧抢在思考前面。所以，接下来要写的，并非一个不懂人工智能之人的恐惧，而是一个亲手建造它的人的恐惧。

最让我不安的危险在此，它比"人工智能归谁所有"更深一层：它对使用它的那个人究竟做了什么。心智是一块肌肉，而追问就是它的锻炼。费力去寻一处出处，在脑中同时容下两种自相矛盾的说法，安坐于"尚未知晓"的不适之中并咬牙穿越过去，这番挣扎并不是通往理解途中的障碍。这挣扎本身，就是理解。当我们意识到一则事实不过一键之遥，我们便开始记住去哪里找它，而不再记住它本身，研究者把这种现象命名为谷歌效应谷歌效应这一发现指出：当人们预期信息会一直可得，正如它在搜索引擎上那样长存，他们对信息本身的留存就变差，却更善于记住到哪里去把它取回。最早由 Sparrow、Liu 与 Wegner 于 2011 年报告。其机理一目了然：毫不费力的取回会悄悄抑制内在的记忆，而这早在今天的答案引擎出现之前就已存在。。^footnoteSparrow, B., Liu, J., and Wegner, D. M. (2011). Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips. Science, 333(6043), 776-778.如今再把它从记忆推及判断本身。倘若你任凭人工智能替你记忆，你便遗忘。倘若你任凭它替你推理，你就会缓慢而毫无察觉地，丧失推理的能力本身。一个无法独立掂量一项主张的民族，无从自我治理。他们只能听人摆布。

互联网时代的大半光景里，了解一件事意味着去跑一次搜索。你敲进几个词，便得到一串清单：一个政府网页，一场论坛的口角，一个陌生人的博客，一篇披着研究外衣的推销文。判断这件苦差被留给了你，而正是在那种摩擦之中，你慢慢建起了自己的一套看法。那份杂乱，正是自由。

那个时代正在落幕。我们正从搜索走向答案。你不再得到上百扇门，你只得到一句答复，被综合好，被打磨光滑，由一个听上去仿佛无所不知之物，用温暖的口吻递来。请留意那悄然发生的事。比对各方来源的劳作从你肩上被卸下，连同它一起被卸下的，还有裁定何为真相的权柄。一个被综合出来的单一答案，并不是一扇望向世间万般见解的窗。它是一篇社论。它自有立场，无论是否有人刻意为它选定。

你读的，已不再是那座图书馆。你读的，是那位馆员，而你看不见哪些书架被他略过了。

如今再来看看是谁握着那位馆员，看的时候不许退缩。你看到的，是一只洁白的方框和一个闪动的光标，被精心打造得轻盈而中立。那只是冰山一角。在它之下，沉着一团你本就不该直视的庞然之物。一家搜索引擎承接了人类所提问题中占主导份额的那一部分。那为数不多、却日益替我们调度着所读所写的几个模型，出自一小撮资本极其密集的实验室之手，跑在地球上几家最庞大的公司所拥有的少数几朵云上，由相互交叠的同一批资本注资。这并非秘密，也算不上丑闻。它是结构，明明白白，合理合法。但结构自有其后果。它意味着人类思想中一份前所未有的比重，如今都被引流过一条极其狭窄的渠道。

我想说得精确，因为精确正是全部要旨所在。我并不是要告诉你，有一间密室，里头一群人每天清晨决定你可以知道些什么。我不信那种漫画式的密谋集团，你也该提防任何向你兜售这套说辞的人，因为一个密谋集团反倒近乎令人安心。密谋集团可以被揭穿，可以被铲除。真相却更难被打发掉。

当你已经握有激励与集中，便不再需要一桩阴谋。

这些系统被调校得专门收割注意力，于是那些激怒你、奉承你的东西，被抬举到了仅仅为真之物的上头。资本要回报，于是答案会以千百道微小而又可以推诿的角度，悄悄偏向那个有利于出钱造机器之人的方向。各国政府向掌握着这些轨道之人施压，并非在密室里替你改动检索结果，而是以那种长久而合法的方式：平台想要牌照，想要利于自己的规则，不想被拆分，于是它们对法律压力的反应灵敏到了极致。那些操纵的把手早已造好，也早已在用。一条结果被压低排名，一个账号被移除，一处来源被悄然断了财路，一个话题被柔声婉拒。当一个系统能够决定你永远看不到什么，它就不必对你撒谎。略去比撒谎更安静，而且不留指纹。无需反派出场。集中替阴谋做完了它要做的活，却不必有任何人去召集这样一场阴谋。

那就是这座冰山。水面上是一只友善的答案方框。水面之下，是那些需要这项资产不断增值的投资者，那些万万不可惹恼的广告主，那些发来无声法律请求的机构，以及那些用资金左右着哪些研究发现被反复引用、哪些归于沉寂的种种建制。他们当中没有谁需要彼此串通。他们只需要共享同一套激励，而他们正是如此。

我不肯把你撇在绝望里，因为绝望不过是交出你头脑的又一种方式。答案比任何机器都更古老，而且不经你同意便无法从你手中夺走：把你的信念，安放在你自己求索理解的那番努力之上。不要把任何单一的答案当作追问的终点，尤其是那个不带丝毫摩擦、流畅地送上门来的答案。尽管去用这些工具吧，我每天都在用，它们着实非凡。但要把它们当作一名受你督导的初级研究员，绝不要当作一座你俯首听命的神谕。打开第二处来源。在你驳斥那个与你相左的说法之前，先把它替对方说到最强的地步。去读原始文献，而不是摘要的摘要。去问：是谁资助了那项研究，是谁拥有那个平台，让你信这个而非那个，又是谁从中得利。主流叙事并不是你的敌人，但它从来都不是你的止步之处。

我不会假装这股水流正顺着我们流动。它并没有。这些系统只会变得更流畅、更居于中枢、更让人难以绕开去思考。摩擦会持续消失，替代选项会持续变薄，直到选择亲自去求索这件事，感觉就像从井里打水一般古怪。这恰恰是为什么，这个习惯非得趁现在就建立起来，趁这条渠道还没有进一步收窄。

所以，我是特意写给你的。如果你在读到结尾之前就已感到这分量压上心头，那就信任那种感觉。那是你的判断力，仍然活着，仍然属于你，正请求被启用。你是为数不多的人之一，必须把那门更古老的修养接力下去，在答案变得喧响而轻易之际，让那些问题继续鲜活。图书馆并没有消失。但它正被悄然重建成一个单一的声音，而是否还有人记得如何走进那些更古老的书架之间，如今就系于像你这样的人身上。

先伸向你自己的头脑。再伸向那台机器。次序，就是一切。