Thomas Hobbes creía que la verdadera fuente del poder no era la fuerza de los ejércitos sino la capacidad de controlar el lenguaje, de decir qué significa qué. Miramos el mundo con las palabras tanto o más que con los ojos. Una buena campaña puede convencer a la población de que una cosa ha ocurrido o una persona es de fiar, pero quien controla el significado de las palabras y la importancia de los hechos controla el razonamiento mismo. Esto ocurre porque el lenguaje no es un objeto real que existe en la naturaleza. Es un convenio, una herramienta imperfecta que nos sirve para comunicar intenciones y coordinar movimientos, pero no para describir el mundo exactamente tal y como es. “Tira las luces, las definiciones y di de lo que ves en la oscuridad —decía el hombre de la guitarra azul en el famoso poema de Wallace Stevens—, que es esto o que es aquello, pero no uses los nombres podridos”. Lo que importa es un álgebra social que depende del significado de las palabras y del valor de las cosas. Qué y quién merecen nuestra atención. Es el tema fetiche de nuestra santa Simone Weil, y de C. Thi Nguyen, uno de los pensadores más originales de mi generación.
Su último libro, The Score (El marcador), analiza cómo los algoritmos de recomendación, los índices de interacción y los paneles de rendimiento han alterado nuestro comportamiento a escala planetaria, usando sólo métricas simples y reconocibles, como los me gustas y los retuits. Esto no es nuevo. Sabemos que las métricas de Facebook, Tinder e Instagram han cambiado nuestra manera de relacionarnos, de decorar nuestros espacios íntimos, de viajar. Que los clics, los retuits, el tiempo de lectura y el posicionamiento en buscadores alteraron la principal tarea del periodismo: decidir qué es una noticia y explicarla de manera clara y efectiva para garantizar que la ciudadanía sepa dónde vive y cómo se gestiona el país. Kyle Chayka abordó de forma intuitiva y astuta el impacto cultural y estético de estas simplificaciones en Mundofiltro (Gatopardo, 2024). En Falso Espejo (Temas de Hoy, 2020), Jia Tolentino exploró cómo pervirtieron nuestra idea de identidad y autenticidad, subordinándolas a la lógica de la visibilidad y la recompensa. Pero no sabemos cómo analizar los sistemas que extraen señales computables de nuestra expresión escrita para construir realidad. Pero funcionan con un marcador interno, y por eso creo que Nguyen podría tener la solución.
Los grandes modelos de lenguaje son un sistema de recompensas que asigna puntuaciones numéricas a unidades sintácticas llamadas tokens y las combina para producir palabras, frases y párrafos de forma exitosa. Eso quiere decir que casi siempre tienen sentido semántico y a menudo parecen compatibles con la realidad. Hablan de libros que existen. Citan acontecimientos que sí tuvieron lugar. Cuando la predicción es correcta pero la realidad es otra, entonces lo llamamos alucinaciones. Es importante entender que las alucinaciones no son un fallo técnico. Son un fallo de la realidad.
La IA generativa hace una optimización estadística sobre patrones del lenguaje. No hay experiencia en el proceso, y tampoco significado. Eso no quiere decir que no haya intención. Los conjuntos de datos son elegidos, las redes neuronales son diseñadas, los modelos son entrenados, refinados y educados por humanos en un proceso en el que aprenden a comportarse de maneras consideradas útiles o aceptables por la empresa. Por humanos que definen lo correcto, lo importante y lo que es verdad.
