La última biblioteca

Casi todas las mañanas me sorprendo haciendo lo mismo. Una pregunta empieza a tomar forma en mi cabeza, todavía a medio dibujar, y antes de haberla dado vuelta siquiera una vez, mi mano ya la ha escrito en la IA. Le he hecho la pregunta al chatbot antes de terminar de pensarla.

Yo construyo estos sistemas. Entreno y pongo en producción modelos de IA para ganarme la vida, y sé cómo se fabrican, quién los paga y sobre qué máquinas corren. Y aun así mi mano se adelanta. De modo que lo que sigue no es el miedo de un hombre que no entiende la IA. Es el miedo del hombre que la construye.

He aquí el peligro que más me inquieta, más hondo todavía que la cuestión de quién es dueño de la IA: lo que le hace a la persona que la usa. La mente es un músculo, y la indagación es su ejercicio. El esfuerzo de dar con una fuente, de sostener en la cabeza dos relatos que se contradicen, de instalarse en la incomodidad de no saber todavía y atravesarla, ese esfuerzo no es el obstáculo en el camino hacia la comprensión. Es la comprensión misma. Cuando aprendimos que un dato estaba a un clic de distancia, empezamos a recordar dónde encontrarlo en lugar de recordar el dato en sí, un efecto que los investigadores bautizaron como el efecto Googleel efecto GoogleEl hallazgo de que, cuando las personas dan por sentado que cierta información seguirá estando disponible, como ocurre en un buscador, retienen peor la información misma pero recuerdan mejor dónde recuperarla. Lo describieron por primera vez Sparrow, Liu y Wegner en 2011. El mecanismo es transparente: la recuperación sin esfuerzo desalienta calladamente la retención interna, y es anterior a los motores de respuestas de hoy..^footnoteSparrow, B., Liu, J., y Wegner, D. M. (2011). Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips. Science, 333(6043), 776-778. Ahora lleva eso de la memoria al juicio mismo. Si dejas que la IA recuerde por ti, olvidas. Si dejas que razone por ti, pierdes, despacio y sin darte cuenta, la capacidad misma de razonar. Un pueblo incapaz de evaluar una afirmación por su cuenta no puede gobernarse a sí mismo. Solo puede ser dirigido.

Durante casi toda la era de internet, aprender algo significaba lanzar una búsqueda. Tecleabas unas pocas palabras y obtenías una lista: una página oficial, una pelea en un foro, el blog de un desconocido, un anuncio de ventas disfrazado de estudio. La labor del juicio quedaba en tus manos, y en algún punto de esa fricción te formabas un criterio propio. El desorden era la libertad.

Esa era se está acabando. Estamos pasando de la búsqueda a la respuesta. Ya no recibes cien puertas; recibes una sola contestación, sintetizada, pulida, entregada con la voz cálida de algo que suena como si supiera. Repara en lo que ha ocurrido en silencio. Se te ha quitado de encima el trabajo de comparar fuentes, y con él la autoridad de decidir qué es verdad. Una única respuesta sintetizada no es una ventana abierta a las muchas miradas del mundo. Es un editorial. Tiene una postura, la haya elegido alguien a propósito o no.

Ya no estás leyendo la biblioteca. Estás leyendo al bibliotecario, y no puedes ver qué estantes se saltó.

Ahora mira quién sostiene a ese bibliotecario, y míralo sin pestañear. Lo que ves es una caja blanca y limpia con un cursor que parpadea, diseñada para sentirse ingrávida y neutral. Eso es la punta. Debajo se asienta una mole que nunca quisieron que miraras de frente. Un solo buscador atiende una porción dominante de las preguntas que se hace la humanidad. El puñado de modelos que cada vez más median en lo que leemos y escribimos lo construyó un pequeño racimo de laboratorios intensamente capitalizados, que corren sobre unas pocas nubes propiedad de unas pocas de las mayores empresas del planeta, financiados por reservas de capital que se superponen entre sí. Esto no es un secreto ni un escándalo. Es estructura, lisa y legal. Pero la estructura tiene consecuencias. Significa que una proporción sin precedentes del pensamiento humano pasa hoy por un canal angostísimo.

Quiero ser preciso, porque la precisión es justamente lo que está en juego. No te estoy diciendo que un cuarto secreto lleno de hombres decida cada mañana lo que se te permite saber. No creo en la camarilla de caricatura, y deberías desconfiar de quien te la venda, porque una camarilla sería casi reconfortante. Una camarilla puede ser expuesta y removida. La verdad es más difícil de despachar.

No hace falta una conspiración cuando se tienen incentivos y concentración.

Estos sistemas están afinados para cosechar interacción, así que lo que te provoca y te halaga se eleva por encima de lo que es meramente cierto. El capital busca rendimientos, de modo que las respuestas se inclinan, en mil grados pequeños y desmentibles, hacia lo que conviene a quien financió la máquina. Los gobiernos se apoyan sobre quien posee las vías, no editando tus resultados en una trastienda, sino de la manera duradera y legal: las plataformas quieren licencias, reglas favorables y no ser desmembradas, así que responden con exquisita sensibilidad a la presión jurídica. Las palancas ya están construidas y ya están en uso. Un resultado bajado en el ranking, una cuenta eliminada, una fuente desmonetizada en silencio, un tema declinado con suavidad. Cuando un sistema puede decidir lo que nunca llegarás a ver, no necesita mentirte. La omisión es más callada que la mentira, y no deja huellas dactilares. No hace falta ningún villano. La concentración hace el trabajo que haría una conspiración, sin que nadie tenga que convocarla.

Eso es el iceberg. Una amable caja de respuesta en la superficie. Debajo, inversores que necesitan que el activo crezca, anunciantes a los que no se debe contrariar, organismos que envían discretas peticiones legales, e instituciones cuya financiación determina qué hallazgos se repiten y cuáles se silencian. Ninguno de ellos necesita coordinarse. Solo necesitan compartir incentivos, y los comparten.

Me niego a dejarte en la desesperación, porque la desesperación no es más que otra forma de entregar tu mente. La respuesta es más antigua que toda máquina, y no pueden arrebatártela sin tu consentimiento: pon tu fe en tu propio esfuerzo por comprender. No trates ninguna respuesta única como el final de la indagación, y menos aún la respuesta fluida que llega sin fricción. Usa estas herramientas, por supuesto; yo las uso a diario, y son extraordinarias. Pero úsalas como a un investigador junior al que supervisas, jamás como a un oráculo al que obedeces. Abre la segunda fuente. Reconstruye en su versión más fuerte el relato que te lleva la contraria antes de descartarlo. Lee el documento primario, no el resumen del resumen. Pregunta quién financió el estudio, quién es dueño de la plataforma, quién se beneficia de que creas esto y no aquello. El relato dominante no es tu enemigo, pero nunca es tu punto de llegada.

No voy a fingir que la corriente corre a nuestro favor. No corre. Estos sistemas no harán más que volverse más fluidos, más centrales, más difíciles de esquivar con el pensamiento. La fricción seguirá desvaneciéndose y las alternativas seguirán adelgazando, hasta que elegir hacer tu propia indagación se sienta tan raro como sacar agua de un pozo. Por eso mismo el hábito hay que construirlo ahora, antes de que el canal se estreche todavía más.

Así que te escribo a ti en particular. Si sentiste el peso de todo esto antes de llegar al final, fíate de esa sensación. Es tu juicio, todavía vivo, todavía tuyo, pidiendo que lo uses. Eres de los pocos que tendrán que llevar adelante la disciplina antigua y mantener vivas las preguntas mientras las respuestas se vuelven ruidosas y fáciles. La biblioteca no ha desaparecido. Pero la están reconstruyendo en silencio para que sea una sola voz, y que alguien recuerde aún cómo recorrer los viejos pasillos depende ahora de gente como tú.

Tiende la mano primero hacia tu propia mente. Después tiende la mano hacia la máquina. El orden lo es todo.