Die letzte Bibliothek

An den meisten Morgen ertappe ich mich bei derselben kleinen Geste. Eine Frage formt sich in meinem Kopf, noch halb unausgereift, und ehe ich sie auch nur ein einziges Mal gewendet habe, hat meine Hand sie bereits in die KI getippt. Ich habe den Chatbot nach der Frage gefragt, bevor ich mit dem Denken über sie fertig war.

Ich baue diese Systeme. Ich trainiere KI und bringe sie zur Auslieferung, das ist mein Beruf, und ich weiß, wie die Modelle entstehen, wer sie bezahlt und auf wessen Maschinen sie laufen. Und trotzdem bewegt sich meine Hand zuerst. Was nun folgt, ist also nicht die Angst eines Mannes, der die KI nicht versteht. Es ist die Angst des Mannes, der sie baut.

Hier liegt die Gefahr, die mich am meisten umtreibt, tiefer noch als die Frage, wem die KI gehört: was sie mit dem Menschen anstellt, der sie benutzt. Der Geist ist ein Muskel, und das Fragen ist seine Übung. Das Ringen darum, eine Quelle aufzuspüren, zwei einander widersprechende Darstellungen zugleich im Kopf zu behalten, im Unbehagen des Noch-nicht-Wissens auszuharren und sich hindurchzuarbeiten, dieses Ringen ist nicht das Hindernis auf dem Weg zum Verstehen. Es ist das Verstehen selbst. Als wir gelernt hatten, dass eine Tatsache nur einen Klick entfernt ist, begannen wir uns zu merken, wo sie zu finden ist, statt sie selbst im Gedächtnis zu behalten, ein Effekt, den die Forschung den Google-Effekt getauft hatDer Google-EffektDer Befund, dass Menschen, die davon ausgehen, eine Information bleibe verfügbar, wie es bei einer Suchmaschine der Fall ist, die Information selbst schlechter behalten, sich dafür aber besser merken, wo sie sie wiederfinden. Erstmals beschrieben von Sparrow, Liu und Wegner im Jahr 2011. Der Mechanismus liegt offen zutage: müheloser Abruf entmutigt im Stillen die innere Speicherung, und er ist älter als die heutigen Antwortmaschinen..^footnoteSparrow, B., Liu, J., and Wegner, D. M. (2011). Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips. Science, 333(6043), 776-778. Und nun dehne das vom Gedächtnis auf das Urteil selbst aus. Wenn du die KI für dich erinnern lässt, vergisst du. Wenn du sie für dich denken lässt, verlierst du, langsam und ohne es zu bemerken, die Fähigkeit, überhaupt noch zu denken. Ein Volk, das eine Behauptung nicht eigenständig prüfen kann, kann sich nicht selbst regieren. Man kann ihm nur sagen, was es zu glauben hat.

Den größten Teil des Internetzeitalters hindurch hieß etwas zu lernen, eine Suche zu starten. Du tipptest ein paar Worte ein und erhieltst eine Liste: eine Behördenseite, einen Streit in einem Forum, den Blog eines Fremden, ein Verkaufsgespräch im Gewand einer Studie. Die Arbeit des Urteilens blieb dir überlassen, und irgendwo in dieser Reibung bildete sich eine eigene Sicht. Das Chaos war die Freiheit.

Dieses Zeitalter geht zu Ende. Wir bewegen uns von der Suche zur Antwort. Du bekommst nicht länger hundert Türen, sondern eine einzige Erwiderung, synthetisiert, glatt, vorgetragen in der warmen Stimme von etwas, das so klingt, als wisse es Bescheid. Beachte, was hier still geschehen ist. Die Mühe, Quellen gegeneinander abzuwägen, wurde dir abgenommen, und mit ihr die Befugnis zu entscheiden, was wahr ist. Eine einzelne synthetisierte Antwort ist kein Fenster auf die vielen Ansichten der Welt. Sie ist ein Leitartikel. Sie hat einen Standpunkt, ob ihn nun jemand mit Absicht gewählt hat oder nicht.

Du liest nicht länger die Bibliothek. Du liest den Bibliothekar, und du kannst nicht sehen, welche Regale er übersprungen hat.

Sieh dir nun an, wer diesen Bibliothekar in der Hand hält, und sieh ohne zu zucken hin. Was du erblickst, ist ein sauberer weißer Kasten und ein blinkender Cursor, so konstruiert, dass sie sich schwerelos und neutral anfühlen. Das ist die Spitze. Darunter ruht eine Masse, auf die zu blicken du nie vorgesehen warst. Eine einzige Suchmaschine beantwortet einen beherrschenden Anteil der Fragen, die die Menschheit stellt. Die Handvoll Modelle, die zunehmend vermitteln, was wir lesen und schreiben, wurde von einem kleinen Häufchen extrem kapitalstarker Labore gebaut, die auf wenigen Clouds laufen, welche wenigen der größten Unternehmen der Erde gehören, finanziert von einander überlappenden Töpfen desselben Kapitals. Das ist kein Geheimnis und kein Skandal. Es ist Struktur, schlicht und legal. Aber Struktur hat Folgen. Sie bedeutet, dass ein beispielloser Anteil des menschlichen Denkens nun durch einen sehr engen Kanal geleitet wird.

Ich will genau sein, denn die Genauigkeit ist der ganze Punkt. Ich behaupte nicht, dass ein geheimer Saal voller Männer Morgen für Morgen entscheidet, was du wissen darfst. Ich glaube nicht an die Kabale aus dem Bilderbuch, und du solltest jedem misstrauen, der sie dir verkauft, denn eine Kabale wäre beinahe ein Trost. Eine Kabale lässt sich aufdecken und beseitigen. Die Wahrheit lässt sich schwerer abtun.

Du brauchst keine Verschwörung, wenn du Anreize und Konzentration hast.

Diese Systeme sind darauf abgestimmt, Aufmerksamkeit zu ernten, und so wird das, was dich aufstachelt und dir schmeichelt, über das gehoben, was bloß wahr ist. Kapital will Renditen, und so verbiegen sich die Antworten, um tausend kleine und stets abstreitbare Grade, hin zu dem, was dem dient, der die Maschine finanziert hat. Regierungen lehnen sich an die an, denen die Schienen gehören, nicht indem sie deine Ergebnisse in einem Hinterzimmer redigieren, sondern auf die dauerhafte, gesetzeskonforme Weise: Plattformen wollen Lizenzen und wohlwollende Regeln und nicht zerschlagen werden, also reagieren sie überaus feinfühlig auf rechtlichen Druck. Die Hebel sind bereits gebaut und bereits in Gebrauch. Ein Ergebnis herabgestuft, ein Konto entfernt, eine Quelle still entmonetarisiert, ein Thema sanft abgelehnt. Wenn ein System entscheiden kann, was du niemals zu sehen bekommst, muss es dich nicht belügen. Das Auslassen ist leiser als die Lüge, und es hinterlässt keine Fingerabdrücke. Kein Schurke wird gebraucht. Die Konzentration verrichtet die Arbeit, die eine Verschwörung verrichten würde, ohne dass irgendjemand sie einberufen müsste.

Das ist der Eisberg. Ein freundlicher Antwortkasten an der Oberfläche. Darunter Investoren, die brauchen, dass der Vermögenswert wächst, Werbetreibende, die man nicht verärgern darf, Behörden, die leise rechtliche Anfragen verschicken, und Institutionen, deren Mittel formen, welche Befunde wiederholt werden und welche verstummen. Keiner von ihnen muss sich abstimmen. Sie müssen sich nur die Anreize teilen, und das tun sie.

Ich weigere mich, dich in der Verzweiflung zurückzulassen, denn Verzweiflung ist bloß eine weitere Art, seinen Geist herzugeben. Die Antwort ist älter als jede Maschine, und sie kann dir nicht ohne deine Einwilligung genommen werden: Setze dein Vertrauen in deine eigene Anstrengung zu verstehen. Behandle keine einzelne Antwort als das Ende des Fragens, am wenigsten die geschliffene, die ohne Reibung daherkommt. Benutze diese Werkzeuge, unbedingt; ich benutze sie jeden Tag, und sie sind außergewöhnlich. Aber benutze sie wie einen jungen Forscher, den du beaufsichtigst, niemals wie ein Orakel, dem du gehorchst. Schlage die zweite Quelle auf. Mache die Darstellung, die widerspricht, in ihrer stärksten Form stark, ehe du sie verwirfst. Lies das Originaldokument, nicht die Zusammenfassung der Zusammenfassung. Frage, wer die Studie finanziert hat, wem die Plattform gehört, wer davon profitiert, dass du dies glaubst und nicht jenes. Die vorherrschende Erzählung ist nicht dein Feind, aber sie ist niemals der Punkt, an dem du haltmachst.

Ich will nicht so tun, als liefe die Strömung zu unseren Gunsten. Tut sie nicht. Diese Systeme werden nur noch geschliffener, noch zentraler werden, noch schwerer zu umdenken. Die Reibung wird weiter verschwinden und die Alternativen werden weiter ausdünnen, bis es sich so seltsam anfühlt, sich für die eigene Nachforschung zu entscheiden, wie Wasser aus einem Brunnen zu schöpfen. Genau deshalb muss die Gewohnheit jetzt aufgebaut werden, ehe der Kanal sich weiter verengt.

Darum schreibe ich gerade dir. Wenn du das Gewicht dieser Sache schon vor dem Ende gespürt hast, vertraue diesem Gefühl. Es ist dein Urteilsvermögen, noch lebendig, noch deins, das darum bittet, gebraucht zu werden. Du gehörst zu den wenigen, die die ältere Disziplin weitertragen müssen und die Fragen am Leben erhalten, während die Antworten laut und leicht werden. Die Bibliothek ist nicht verschwunden. Aber sie wird im Stillen zu einer einzigen Stimme umgebaut, und ob sich überhaupt noch jemand daran erinnert, wie man durch die älteren Regalreihen geht, hängt nun von Menschen wie dir ab.

Greife zuerst nach deinem eigenen Geist. Dann greife nach der Maschine. Auf die Reihenfolge kommt alles an.