¿La imaginación es la recombinación novedosa de la información? ¿O hay algo en ese proceso que trasciende el plano puro de los datos? La reciente publicación de Sesiones en el desierto (Ediciones Bucarest), la segunda novela de Nicolás Mavrakis, coincidió en el tiempo con un nuevo fenómeno de viralización histérica, esta vez alrededor de los avances técnicos en el desarrollo de la inteligencia artificial. Más allá de la herida narcisista de quienes vislumbran su obsolescencia a manos de estas tecnologías, y más allá de la recompensa narcisista para quienes publicitan el desastre, la automatización en la literatura fue el punto de partida para un diálogo con Luciano Rosé, autor de El resto sintético, en la última Feria Internacional del Libro de Buenos Aires.
LR: La primera cuestión sobre la que me gustaría que charlemos es de la relación entre la escritura y las herramientas derivadas de instrumentos técnicos como la inteligencia artificial. Cuando se habla de estos temas lo que se discute en el fondo es la preocupación por la posibilidad de transformar el inconveniente de ser desplazados por las inteligencias artificiales en la ventaja de coexistir con ellas. Un síntoma cultural de esta preocupación, por ejemplo, es la huelga de escritores para cine y televisión en Hollywood. Entre sus reclamos, dentro de los cuales seguramente haya cuestiones de índole salarial o de condiciones de trabajo que desconozco, está la exigencia de que se incorporen regulaciones y limitaciones en el uso de la inteligencia artificial para la escritura de guiones. Es decir, que es posible, si es que todavía no pasó, que una parte de la tarea del escritor de cine y de televisión sea relevada por programas de inteligencia artificial. Entonces, y más allá de la dimensión ideológica del asunto, sobre la cual vamos a volver mas adelante, me interesa que pensemos lo que estos fenómenos significan en relación con la forma en la que escribimos y leemos hoy. Algo que vos decías el otro día cuando conversábamos era que ahí donde aparece una tecnología que puede sustituir el trabajo humano, lo que se pone en evidencia es la dimensión más mecánica de esa tarea.
NM: La “conclusión heideggeriana” era esa: si un trabajo humano puede reemplazarse por el trabajo de una máquina, lo que en esencia nos revela ese reemplazo es que, en este caso, tal creatividad ya se estaba realizando de una manera absolutamente mecánica. En otras palabras, las máquinas, las “tenebrosas” inteligencias artificiales, no hacen arte, sino que desocultan que las personas a las que son capaces de reemplazar estaban haciendo un trabajo maquínico que llamaban arte. Que esto preocupe a los guionistas de Hollywood es normal. El 99% de lo que ellos crean está inicialmente tabulado, regulado, predefinido y moldeado según procesos muy conocidos de investigación de las audiencias. Si las series de Netflix son tan insustancialmente idénticas es por ese motivo, ya lo sabemos. Ahora bien, en algún punto, esto nos abre a cierta discusión filosófica que, a su manera, está en nuestras novelas: ¿desde cuándo lo humano está emplazado en un cálculo técnico? Aunque la pregunta para pensar ahora sería: cuando escribimos una novela, ¿no estamos trabajando también sobre una tradición, sobre un caudal de información que “moldea” lo que podemos crear? Es evidente que mucho de lo que se escribe como literatura podría tranquilamente atribuirse a una inteligencia artificial que combinara en tramas genéricas temas de gran interés para el mercado como el género, la diversidad, la ecología, el feminismo o la dictadura militar, si el objetivo son divisas europeas. No es ningún secreto que hay autores cuyos libros obedecen de una manera artesanal a la misma “lógica algorítmica” de la inteligencia artificial anclada en la mercantilización, la neutralidad y la amable insustancialidad. Pero si dejamos eso de lado, ¿qué pasa con lo que la máquina no puede hacer? ¿Puede una inteligencia artificial crear algo realmente nuevo? Antes que caer en ese asunto vacío, cuya respuesta es “no”, también podríamos preguntarnos: ¿puede un humano crear algo realmente nuevo? Si tal cosa sucede, creo que se debe al tipo de equívoco frente a la tradición que cualquier mecanismo automático, por su lado, descartaría como un error. Estoy pensando en lo que Miguel de Cervantes hizo con el Quijote frente a la tradición de la novela de caballerías. O a lo que hizo Jorge Luis Borges con la plasticidad de la literatura argentina de su tiempo frente a la tradición occidental del cuento, el ensayo y la meditación filosófica. La auténtica creación es imprevisible e incalculable para cualquier mecanismo técnico basado en la recursividad y la contingencia. Al mismo tiempo, es comprensible que el ChatGPT, por eso mismo, entusiasme a los escritores más perezosos y comerciales. Para ellos, nunca existió otro horizonte que uno “artificial”.
LR: Vos hablaste recién de dos cosas: la tradición y el error. Pienso en algunas cuestiones relativas a esos puntos. Primero, la distinción, si es que existe, entre la tradición y la información. ¿Cuál sería la diferencia entre pensar en términos de tradición y de datos? Y con respecto al error, ¿cuál sería la diferencia entre el error humano y el error de cálculo? Porque las inteligencias artificiales, a través de una modalidad de funcionamiento que se conoce como machine learning, incorporan la noción del error con el objetivo de asimilarlo para refinar y depurar el algoritmo. Un algoritmo que se orienta hacia un propósito definido por el humano que lo concibe. Tanto para el caso del error como el de la tradición creo que de lo que estamos hablando es de un plus, de algo que excede o que trasciende el orden puro de la información.
NM: ¿Y ahí ocurre lo que podríamos llamar creatividad? Tampoco creo que sea justo comparar a las inteligencias artificiales con un idealizado genio creador humano. En lo que insistiría es en que hay un elemento de la creación que escapa a cualquier posibilidad de cálculo. Por supuesto, creo que nadie sensato se propone crear algo nuevo. El paso en falso, el error, de repente, ocurre. Alguien empieza a escribir una novela sobre un caballero andante, de repente, por alguna indeterminada circunstancia, esa novela se vuelve irónica y… ¡se creó la novela moderna! En tal caso, para la máquina eso tampoco podría ser concebido como un nuevo aprendizaje sino como un error. No existe un genuino horizonte creativo para las inteligencias artificiales, sino un horizonte de permutaciones permanentes a partir de una información ya provista. Hace unos años, un programador le dijo a Werner Herzog que muy pronto los algoritmos también iban a hacer películas. “No como las mías”, dijo Herzog. Todo se reduce a eso: a cierta imprevisible picardía humana. En tu novela, El resto sintético, un magnate de Silicon Valley instala su cuartel general de operaciones en la costa atlántica argentina. La mera premisa debería anticiparnos que las cosas no van a ocurrir igual que como ocurrirían en San Francisco. De repente, estamos en el terreno de la picaresca y la rigurosa previsibilidad de los algoritmos ya no será tan previsible…
LR: Cualquier reflexión sobre la ironía implica también una meditación sobre la noción del error. El otro día charlábamos sobre un bot de WhatsApp que transcribe los audios mediante el uso de una inteligencia artificial. Lo divertido del bot es que tiene una función que resume el contenido del audio en un párrafo. Digamos, un audio de tres o cuatro minutos, el bot lo sintetiza en tres o cuatro oraciones cortas. Lo curioso es que cuando nosotros íbamos a leer ese resumen lo hacíamos imprimiéndole involuntariamente un tono irónico. Y ahí aparece el equívoco, el chiste, la ironía. Humanamente inducido, sí, pero también determinado por las características del programa. Entonces la inteligencia artificial puede pensarse no solo como una estrategia para abaratar costos sino también como una manera de habitar la web y de establecer una relación virtuosa en el proceso creativo.
NM: No vamos a asustar a las masas si me permito recordar que lo que vos dijiste al leer la transcripción y el resumen de ese mensaje fue que faltaba el elemento histérico que probablemente tenía en su versión original. Y lo tenía, sin duda. Respecto a la inteligencia artificial y el modo en que eso forja una nueva convivencia, en El resto sintético ocurre que internet procesa toda la información de la humanidad para concluir que, ahora que conoce bien a los humanos, internet nos odia. Pero eso no pone en marcha el apocalipsis paranoico habitual en las narraciones tecnofóbicas, sino los mecanismos de la picaresca. Información y autoconsciencia en oposición a picardía y creatividad. Esto me parece importante, porque ya sea que la relación cibernética en los discursos que oímos a cada rato se nos presente como virtuosa o como infame, es decir, ya sea que se trate de un tono tecnófilo o tecnofóbico, siempre se trata de una única voz que remite a las dos caras de una misma moneda hecha de sumisión intelectual y publicitaria a la ideología de Silicon Valley. La idea única en esa moneda es que no hay escapatoria de los designios de Silicon Valley. En este punto, si El resto sintético es una novela sobre el problema de que internet nos conozca y nos odie, Sesiones en el desierto quizás sea una novela sobre el hecho de que también nosotros, también la humanidad, quiero decir, se odia a sí misma. Las redes sociales lo prueban.
LR: A propósito de tu novela, que podría pensarse como una tecno-sátira alrededor de ese gran fenómeno psíquico que fue la adopción masiva de las redes sociales, quisiera hacerte un par de preguntas para profundizar en algunos de los temas que venimos conversando. Además de la naturaleza ideológica del asunto, que Sesiones en el desierto retrata en varios de sus aspectos (como la monetarización de los diagnósticos psiquiátricos, el marketing de la victimología y el tráfico de datos), la materia prima de Sesiones en el desierto es el narcisismo de las redes. Me refiero, por supuesto, al derrotero psíquico y espiritual que se desprende del hecho de que segmentos cada vez mayores de nuestras vidas transcurran online. De forma tal que el mundo tradicional se vuelve cada vez más extraño y el mundo virtual resulta cada vez más monótono. En la novela, un influencer suicida llamado Squet Coll y un terapeuta especializado en redes sociales llamado Falex Rid se encuentran en un tratamiento clínico en el que, sin demorarse demasiado en las apariencias de la respetabilidad médica o de la indignidad romántica de la melancolía, ambos dejan en claro que su único interés genuino es la consumación de sus impulsos narcisistas. Ni psiquiatra ni psicoanalista, Falex Rid es una especie de coach de las redes de dudosa consistencia teórica. Además de funcionar como un decálogo psicopatológico para quienes “ceden su carga existencial a las máquinas”, el marco satírico de Sesiones en el desierto nos lleva a pensar fenómenos complejos como la puja de intereses entre la industria del entretenimiento, la política y la salud mental. Volviendo a nuestra realidad cotidiana, vale aclarar que los terapeutas de redes no existen, al menos por el momento, pero su existencia es tan verosímil y grotesca como la de los gurús de la felicidad y los psicoanalistas que infectan las redes sociales todos los días. Con una distancia sutil y una descripción apenas dislocada de estos fenómenos, tu novela genera un efecto de extrañeza y de comicidad sobre nuestra realidad.
NM: Todos los personajes en la novela son reconocibles en la realidad de las pantallas. El especialista en patologías mentales ligadas a la tecnología quizás no esté todavía formalizado, pero no puede estar muy lejos. La gracia está en subir el volumen de estos personajes a través de la ficción y ver hacia dónde llevan el mundo. Para decirlo sintéticamente, es probable que sean psicópatas. Pero nosotros también estamos ahí, nos movemos y somos parte de este mundo de narcisismo y figuración en las redes. Tal vez no lo hagamos de manera desaforada porque no estamos a cada instante subiendo una foto de lo que comimos, un mensaje sobre lo que pensamos, un video sobre lo que hicimos. Pero sí sabemos muy bien quiénes lo hacen, porque lo hacen sin ningún pudor. Y ellos, por su lado, también saben que están entregados a la impudicia más humillante, pero insisten. En este punto, a mí no me interesa ninguna pregunta sobre las redes sociales que no acepte como punto de partida fundamental que ya todos sabemos bien en qué contradicciones grotescas nos encierra su funcionamiento. Ya todos lo sabemos y todos lo aceptamos. La pregunta que Sesiones en el desierto intenta responder es por qué. Para revolcarnos en la mentira autocomplaciente de que todos somos víctimas inocentes de la tecnología, hay predicadores como Éric Sadin, que en su estilo de guionista frustrado de la saga Terminator estuvo en la Feria del Libro diciendo que el ChatGPT era “un terremoto en nuestras vidas”. No lo sé, Éric. En Buenos Aires incluso la escala metafísica de Richter ya incluye cortes de luz constantes, dengue, inflación galopante… Quizás en lugar de asustar a los desprevenidos sea más atractivo invitarlos a pensar por qué disfrutamos de la exposición patológica a la que nos somete, también, el ChatGTP, que finalmente no era más que una plataforma de extracción de datos culturales y biométricos. ¿Por qué nos sometemos a ese exhibicionismo? ¿Por qué lo necesitamos? ¿Sobre qué fantasías humanas opera?
LR: A propósito de esa ambigüedad en nuestra relación con la tecnología, en Sesiones en el desierto vos le das una vuelta a la idea de la sumisión y la entrega voluntarias. Es decir, si es vox populi que los algoritmos nos roban nuestra información con el propósito de manipularnos, ¿por qué los seguimos usando de manera tan complaciente? Como decías hace un momento, lo sabemos y, sin embargo, lo hacemos. Y junto con eso hay otro tema que aparece en la novela, que es el fenómeno de la viralización y sus consecuencias sobre las jerarquías sociales. Las redes trajeron una supuesta horizontalización en las oportunidades que permitió que algunos personajes que en otras épocas hubieran estado condenados a vivir en los márgenes de la sociedad accedieran a una fama y a un nivel de aceptación hasta hace poco inconcebibles. Squet Coll sería una de esas personas, un producto de esa nueva economía del prestigio a quien el éxito se lo lleva puesto porque no es capaz de comprender los términos de las dinámicas sociales que le anteceden pero siguen vigentes. Incluso pensado en los términos de lo que se considera estéticamente bello o no, o de lo que es deseable e indeseable, hay jerarquías que siguen funcionando por fuera de la horizontalización y de lo viral. ¿Qué te atrae de estos personajes? ¿En qué punto te parece que condensan algo de estos fenómenos?
NM: El protagonista de Sesiones en el desierto está basado en una persona real. A mí me impactó mucho cómo alguien, a partir de la nada y siendo nadie, de repente congregaba multitudes. Luego esta persona sufrió uno de los típicos traspiés de nuestra época y se transformó en un fantasma digital, en un héroe trágico. En tal caso, en lo que supongo que yo pensaba antes de escribir, era en lo que podríamos llamar la ideología de la técnica. Pregunta de examen: ¿cuál es la ideología de la técnica? Respuesta: aquello que sea técnicamente posible, se hará. Ahora bien, el influencer, el advenedizo, el publicista de sí mismo que está muy feliz de ser quien es, ¿es una figura nueva? No lo es, para nada. Entonces, ¿de qué manera la ideología de la técnica se cruza con aquellos que siempre han estado dispuestos a hacer cualquier cosa por triunfar? No hay respuesta que, en cierto modo, no nos esté esperando de una manera inmediata al abrir Instagram, Twitter o Facebook. Estos personajes están ahí, y a veces nosotros mismos somos esos personajes. Y, por supuesto, tanto ellos como nosotros sabemos lo que estamos haciendo. Lo sabemos muy bien. Pero, ¿por qué lo hacemos? ¿Por qué transformamos en gratificación narcisista incluso a nuestro gatito muerto? ¿Por qué monetizamos a nuestra abuelita muerta con tal de figurar en un timeline? ¿Por qué esa devoción? Esta pregunta es más espinosa.
LR: Como contrapunto al oportunismo en las redes pienso en una idea, quizás un poco optimista, de Boris Groys sobre el arte contemporáneo. Groys dice que en el arte contemporáneo lo que define a una obra no es tanto su contenido como su marco. Y ese marco, al implicar un proceso activo de selección sobre lo que miramos y sobre lo que leemos, es definido, es “puesto” por el sujeto. Creo que esa es una buena aproximación al plus inexorable de la imaginación del que hablábamos hace un momento. Sería parte de una relación virtuosa, en lugar de sumisa, con la técnica. Es decir, en el acto de definir lo que se encuadra o cómo se lo encuadra, en el proceso de elegir lo que después se va a mostrar para Groys hay un acto creativo. Siguiendo esta idea, y volviendo al asunto de la automatización, el modo en el que interactuemos con los textos, las imágenes o las canciones elaboradas a través de la inteligencia artificial va a estar mediado por el recorte y el encuadre que hagamos. Lógicamente, la inteligencia artificial puede hacer esto y mucho más. También puede ser usada para producir enfermedades. En Sesiones en el desierto se relata el proceso de invención de un diagnóstico psiquiátrico (llamado “síndrome del resplandor del iceberg”) asociado a los efectos mentales de internet.
NM: Respecto a Groys, ahí está el problema de cómo se compatibilizan, dialogan o se fusionan la imagen y la verdad. ¿Eso es parte de un proceso contemporáneo de autodiseño, como dice Boris Groys? ¿O es un proceso contemporáneo de autoengaño, como dice Peter Sloterdijk? De una u otra manera, como práctica constante en las redes, me parece que tiene un efecto traumático, derivado de la plena consciencia del proceso. ¿Hasta qué punto, incluso si el pacto narcisista masivo entre los usuarios anula toda posible crítica, uno puede autoengañarse? ¿En qué instante eso se vuelve insoportable? Hasta ese instante, la neurosis crece y crece, y luego se transforma en un padecimiento mental.
LR: Es un escenario propicio para la sátira.
NM: En Sesiones en el desierto lo es, pero en la vida real los mismos desequilibrados que viven en el más pleno autoengaño organizan mesas redondas, charlas, cursos, libros de autoayuda psicológica o presentan otros libros de autoayuda psicológica sobre la necesidad de ser genuinos y no concederlo todo a las demandas de quienes los rodean. Es curioso. Para no caer en los discursos apocalípticos habituales alrededor de la técnica, quizás podríamos tratar de recordar qué películas existen sobre el futuro que lo muestren de una manera benéfica. Quiero decir, un futuro donde la aceleración del desarrollo nos lleve hacia algo opuesto al imaginario derrotista establecido por Terminator. Lo estuve pensando. Sólo se me ocurre Volver al futuro 2.
LR: Es más aburrido también, ¿no? Es más entretenido pensar en los términos de la catástrofe que en un futuro donde todo está bien. Es más fácil de pensar también.
NM: El chiste es salirse de lo puramente malo. Todo lo que reafirma el pesimismo sobre el futuro no es conciencia política ni crítica ideológica, sino publicidad en favor de Silicon Valley. Creo que nuestras novelas le escapan tanto al lugar común catastrofista como a la celebración de la utopía. Por otro lado, estos son lugares comunes que nadie se toma en serio. En pleno alarmismo por el ChatGPT, cuando los especialistas en inteligencia artificial advertían que el planeta Tierra estaba en peligro, nadie dejó de enviar sus datos biométricos para que el ChatGPT te devolviera una selfie en estilo ciberpunk para subir a las redes y captar algún corazoncito más. Ahora bien, no creo que eso hable de nuestra inconsciencia como aliados de la inteligencia artificial en carrera hacia la destrucción de la vida humana. Más bien, revela de manera espontánea que muchísimos especialistas en inteligencia artificial son publicistas a los que nadie toma en serio. Ahí surge el espacio para la picaresca y la sátira. Finalmente, tanto El resto sintético como Sesiones en el desierto son novelas irónicas, humorísticas, dispuestas a reírse un poco de toda esta confusión//////PACO
Sesiones en el desierto, de Nicolás Mavrakis, puede comprarse a través de este link.
El resto sintético, de Luciano Rosé, puede comprarse a través de este link.