Jorge Carrión y "Membrana", la distopía que advierte del boom de la IA: "Un escritor es un sismógrafo"

Imaginemos el año 2100. Y con ello, la inauguración del “Museo del Siglo XXI”: una exposición permanente destinada a contextualizar el devenir de la humanidad durante aquellos cruciales 100 años, ahora imprescindibles para comprender un presente controlado por Inteligencias Artificiales. El catálogo de este museo magnánimo, de hecho, es la creación auténtica de una IA: un manual de uso y origen. Una voz post-humana.

Este es el primer paisaje que despliega “Membrana” (Galaxia Gutemberg, 2021), inquietante, distópico y sin embargo original relato del autor español Jorge Carrión (Tarragona, 1976), texto que le valió el Premio Internacional de Novela Ciudad de Barbastro 2021 y múltiples loas especialistas, además de inesperados diálogos interdisciplinares.

“La verdad es que escribí ‘Membrana’ en estado de trance. No busqué la voz, no la construí, sino que me vino dada. Empecé a escribir de un modo torrencial, casi automático, y es muy loco, porque no había leído nunca ningún texto escrito por IA”, cuenta Carrión a BioBioChile.

En “Membrana”, lo que leemos son más de 250 páginas del esfuerzo de una IA por elaborar un texto matriz del “Museo del Siglo XXI”: el catálogo de la instalación que delimita sus salones y secciones y, a su vez, un auténtico monólogo literario que susurra una aterradora voz oficial.

“Todavía no conocía las redes neuronales de aprendizaje profundo, y, por tanto, fue puramente intuitivo. Imaginé cómo escribiría una IA del año 2100 que ya ha conquistado la literatura y que quiere escribir un texto que esté entre lo bíblico y lo técnico, entre lo poético y el informe, pero con estructura de catálogo de museo”, explica.

La metáfora torrencial de Carrión es también un recuerdo literal: la escritura de la novela fue febril y durante la etapa clave de un libro que llevaba masticando 20 años; en palabras del autor, “una historia del viaje y el turismo y un proyecto que ya he enterrado”. El día que debía comenzar a escribirlo, llegaron las primeras líneas de “Membrana”, primera de cinco partes de una saga propia relacionada a la IA: “Todos los museos son novelas de ciencia ficción”, “Los campos electromagnéticos”, “Solaris” y “Gemelos digitales”.

Carrión, ensayista y autor de novelas como “Los muertos”, “Los huérfanos”, “Los difuntos” y “Los turistas”; cronista de viaje, cultor de cómics y experto en series de TV (escribió el analítico “Teleshakespeare”), también arremetió contra el gigante Amazon en el ensayo “Contra Amazon” (2019), en lo que fue la continuación de su defensa de los espacios físicos del conocimiento en el también ensayo “Librerías” (2013). Un tramo que el autor, en 2024, vincula directamente a su saga IA:

“Hay un vínculo con lo anterior: ‘Librerías’, habla de estructuras físicas del conocimiento. Estos proyectos (la saga sobre IA), hablan de estructuras tecnológicas y virtuales del conocimiento y toda mi literatura, todo lo que he escrito, tiene que ver con la inquietud y con el viaje. ‘Membranas’ es un viaje por un museo imposible, y además es un texto que habla también de la historia de la humanidad”.

Jorge Carrión, “Membrana” y la IA: “Hace 20 años había fotógrafos o cantantes que decían que usaban Photoshop o Auto-Tune, y ahora todo el mundo los usa y ya no hay que decirlo”

(P): Con la perspectiva del tiempo, ¿qué crees que fue lo que te llevó a ese “trance” que desembocó en “Membrana”?

(R): Creo que el puente entre Librerías, “Barcelona y los pasajes”, etcétera, y “Membrana”, es “Contra Amazon”, porque ahí empecé a pensar en la biblioteca virtual y el libro electrónico, la circulación algorítmica del conocimiento y creo que esa fue la conexión entre mis libros anteriores, que son crónicas de viaje sobre ciudades, sobre librerías, y mis libros actuales que son sobre Inteligencia Artificial.

(P): ¿Qué te ocurre con la coincidencia histórica que rodea a “Membrana”? Porque la novela, de 2021, tiene mucho que ver con lo que ocurre en estos días.

(R): Creo que un escritor es una especie de sismógrafo, que detecta terremotos que están a punto de ocurrir y los traduce, los interpreta, los imagina. Yo no había leído nunca ningún libro en el que el narrador fuera una IA, eso fue una intuición o una idea que se me ocurrió. Tampoco había leído ningún libro en forma de catálogo de museo, pero evidentemente en estos días, con la denuncia de Scarlett Johansson por la clonación de su voz, está claro que la película “Her” se adelantó a lo que está ocurriendo, y que sí, es cierto, pues, que Membrana se adelantó dos o tres años a lo que iba a ocurrir con el ChatGPT.

(P) ¿Te causó incomodidad esta “premonición”?

(R): Yo creo que uno tiene que trabajar, pensar, escribir, avanzar en su proyecto, en su investigación estética y filosófica, si se puede decir así. Y después, si los medios, las redes sociales, la atención está contigo, fantástico. Y si no, da igual: hay que seguir avanzando.

(P): En el libro aparece el personaje de Ben Grossman, un piloto de drones israelí que descubre que el algoritmo está tomando decisiones por su cuenta, aniquilando objetivos que él había descartado. ¿Quién es el Ben Grossman de nuestros días?

(R): (Ríe) Mira, yo diría que hay una figura interesante en la cultura contemporánea, que es el arrepentido. El gurú tecnológico, el fundador de una startup, el trabajador de Google, o de Meta, que se revela éticamente contra las decisiones corporativas de sus jefes. De modo que en ese tipo de personajes podríamos ver una inspiración de Grossman, un piloto de drones que se da cuenta que los drones están matando por su cuenta y decide ir en contra de los robots. Pero fíjate que lo que yo lamentablemente imaginé, con Ben Grossman, está pasando con Israel, que está ordenando algorítmicamente asesinatos en estos momentos.

(P): Guardaste “Membrana” en pandemia. ¿Intuías que tenías una “gran novela” entre tus manos?

(R): No te voy a decir que tanto, pero sí sabía que es la mejor novela que había escrito. Y en pandemia pensé que habría un apocalipsis cultural, que desaparecerían las editoriales, las librerías, el mundo, y ahí reaccioné escribiendo “Lo viral” (2020), que fue mi diario o anti-diario de la pandemia. Ahí también corregí “Membrana”, la seguí trabajando. Luego vino la presentación al premio (de Barbastro) y por suerte ganó.

(P): ¿Cómo crees que opera la materialidad en tu obra? Has escrito de librerías, de ciudades, de lugares turísticos y concretos, de viajes, pero también de otras formas de materialidad como las series de TV, el mundo digital, las IA…

(R): Siempre pienso en el libro como objeto en papel; yo escribo pensando que se va a leer en papel. Pienso incluso en el diseño de la página. “Membrana” es un libro con partes de diseño gráfico, lo suficiente para insinuar que es un catálogo de museo. Y en verdad empecé en la literatura, desde la crónica de viaje, pensándola con un cuerpo que caminaba, que viajaba, que veía y que registraba, y aunque esa parte de viaje sigue estando en mis libros. Me he virtualizado, y no creo que sea casual, porque estos libros han coincidido con mi paternidad, con los años en que he viajado menos porque he sido padre.

(P): ¿Cuál es tu postura sobre las IA como autoras de contenido?

(R): Yo creo que estamos lejos de esa autoría. Lo que está ocurriendo es una naturalización de la IA. Es decir, a nadie se le ocurriría decir “he usado Wikipedia”, o “he usado Google para escribir esta novela”. Y pasa algo parecido a lo que ocurrió con el Photoshop, o con el Auto-Tune. Hace 20 años había fotógrafos o cantantes que decían que los usaban, y ahora todo el mundo los usa y ya no hay que decirlo, de modo que creo que estamos asimilando lentamente la nueva herramienta y no hay que demonizarla, porque además, ahora mismo, no es capaz de producir buenas imágenes, buenas ilustraciones, buenas canciones o buenos textos sin una cooperación humana, que es mucho menor que la que desde hace un tiempo ocurre en el arte contemporáneo. En el arte contemporáneo, los artistas han usado herramientas. Lo que importa es la mirada humana, la edición, el trabajo y la conceptualización, y no la materia o la instrumento que utiliza.

(P): Has dicho que la escritura de “Membrana” te produjo, también, mucha angustia. ¿Cuándo se origina esa angustia?

(R): Cuando me di cuenta de que estaba hablando como un agente exterminador, que estaba hablando desde el lugar de un sujeto colectivo que ha cometido un genocidio, y que es un monstruo. A mí hace 15 años me pareció problemático que Jonathan Littell escribiera una novela de mil páginas, “Las benévolas”, desde la voz de un nazi; y 15 años después escribo una novela desde la voz de un supernazi del siglo 22.

(P): ¿Crees que volverán los nazis? En “Membrana” aparecen…

(R): En estos días pensaba que no hemos sido capaces de construir discursos sobre la memoria histórica que generen futuro, y estamos volviendo a los fantasmas del siglo XX. En “Membrana” y en “Los huérfanos” vuelven los nazis y eso va mal para la humanidad. Me temo que el triunfo en Austria, donde nació Hitler, de la ultraderecha, es una señal muy negativa; más negativa que el triunfo de Milei o de Bolsonaro o de Trump… Escribí “Todos los museos son novelas de ciencia ficción” para compensar con una micro utopía la distopía de “Membrana”.