Modelos de lenguage (LLMs)

No utilizo ni para mi trabajo ni para mis aficiones los técnicamente llamados en acrónimo LLMs, de las siglas en inglés Large Language Models, es decir, Grandes Modelos de Lenguaje (a partir de ahora GML). Los más conocidos son ChatGPT, de la compañía OpenAI, en sus diversas “manifestaciones” (la última llamada Astra), Claude, de la compañía Anthropic, y Gemini, de Google/Alphabet (ya nadie sabe cómo llamar a esta entidad). Tampoco utilizo, salvo para ver qué mal funcionan, los modelos de generación de imágenes de dichas compañías. Tengo algunas opiniones que voy a intentar exponer. Pero sobre todo, quiero dejar claro que no pretendo ver el futuro.

OpenAI, Anthropic, Google, y la compañía china detrás del GML Qwen tienen incentivos muy diversos de los que tenemos los científicos a día de hoy. Como dice la declaración de ya más de tres mil matemáticos, sus incentivos y los de los matemáticos dedicados a la docencia y a la investigación están desalineados. Esto es inevitable: tanto OpenAI como Google tienen una fama bien ganada de mentir o de faltar a la verdad o de ajustar sus declaraciones a una visión específica de la terminología utilizada. Y no creo que Anthropic tenga unos incentivos muy diferentes (los dólares). Por supuesto, dejo de lado cualquier reflexión sobre una “compañía” del país que hoy llamamos República Popular China, gobernada por el único partido “legal” posible allí, el comunista. El resumen del desajuste de incentivos que procalama la declaración que cito es que los científicos (específicamente los matemáticos), tal como los entendíamos en 2025, buscan la comprensión y la transmisión, no una mera solución de problemas. Quizás el ejemplo más claro del siglo XX de esto es Grothendieck, quien revolucionó la Geometría Algebraica creando un (en realidad varios) lenguaje nuevo con el objetivo de resolver las llamadas Conjeturas de Weil pero que no llegó a hacerlo. Sin embargo, todo su trabajo fue esencialmente uno de introspección, visualización y creación de conceptos novedosos que permitían pensar la geometría y la aritmética y la topología de maneras radicalmente nuevas: Grothendieck nos permitió pasar de la Edad del hierro a la Grecia Clásica, si se me permite la comparación, simplemente entendiendo la realidad matemática de una manera diferente, generando así nuevos lenguajes, nuevas formas de entender, ver y contemplar para todos los que vivieron su época y los que llegamos detrás. Me pregunto si Sam Altman (el “jefe” de OpenAI) tiene un incentivo similar. O Sundar Pichai, por decir.

Fuera de comparaciones obvias, hay que ser honrado y asombrarse ante el tremendo poder generador que tienen los GML. Tanto que, en los últimos días han resuelto un problema muy cercano a mi campo de investigación, dando un contraejemplo a la Conjetura Jacobiana (el ejemplo está aquí y es muy sencillo de verificar) y —mucho más impactante y cacareado— dando un ejemplo de fluido en las ecuaciones de Navier-Stokes que genera trayectorias con velocidad infinita (sobre esto no pongo citas porque hay suficientes en Internet y porque el ejemplo no ha sido verificado aun ni lo será en algún tiempo). Estos hechos son impactantes. Tremendos. Podemos decir que a los matemáticos nos ha pasado este año lo que les pasó a los jugadores de ajedrez profesionales en 1996, o a los jugadores de Go en 2016: las máquinas pueden producen teoremas a un ritmo muy superior al de los humanos, por inteligentes que sean. Basta tener dinero suficiente para que una máquina demuestre o pruebe que es erróneo algo que un matemático quiere resolver. Al menos, la mayoría.

Así que: ¿qué hemos de pensar? ¿se ha terminado nuestro trabajo de matemáticos? ¿hemos de cerrar los departamentos que se dedican a la investigación pura y simplemente ir preguntando a un GML las cuestiones desconocidas que tengamos? Hablo de matemáticas pero quienes se dedican al desarrollo de software están ahora mismo en una situación mucho más precaria, pues nosotros “no producimos” nada monetariamente valioso desde aproximadamente el siglo XIX, mientras que ellos sí. Mi respuesta es más o menos la que explica William Thurston en su ensayo On Proof and Progress in Mathematics: el trabajo del matemático no es primordialmente demostrar teoremas. Su trabajo tiene tres caras (este es mi modo de resumir sus argumentos y mi manera de ver mi propia vocación): comprensión, demostración y transmisión. Comprensión: ante una realidad —en mi caso geométrica, en otros casos aritmética o analítica o topológica…—, el matemático quiere captar (¿pensar? ¿comprender? ¿entender?) los detalles y las múltiples visiones de dicha realidad; para poder hacer esto necesita un modo de pensar (¿imaginar, quizás?) específico que le permita captar dichos detalles y visiones fácilmente; este modo de pensar es lo que llamamos Matemáticas y una parte —no todo— de ello se especifica en un lenguaje —o varios; esto es lo que denomino “Comprensión”; para Grothendieck, como para Spivak, los “resultados” son evidentes una vez que uno posee las definiciones adecuadas. Transmisión: una vez que el matemático ha “comprendido” una cierta realidad y visto detalles que antes pasaban desapercibidos —como en Biología: si solo se posee el término “árbol”, es imposible entender la diferencia entre caducifolios y perennifolios—, mediante definiciones adecuadas, es capaz de probar que las relaciones entre los objetos de dichas visiones que él ha visto son ciertas —o bien, darse cuenta de que su visión era errónea— demostrándolas formalmente; pero este paso de la demostración es menos de un tercio de su trabajo, e incluso a veces no es el más costoso: puede ser mucho más difícil dar con la definición adecuada que dar con una demostración una vez dicha definición —de un concepto— se posee; la demostración es la confirmación de la visión; muchas veces, muchas, como en el caso de la Conjetura Jacobiana, muchos matemáticos han pretendido “tener claro” que algo era cierto, intentar demostrarlo y chocar con la realidad; el contraejemplo a una “visión” (una conjetura, que decimos) puedo o no ayudar a entender, pero por sí mismo no posee más valor que el decir “esta idea es falsa”; solo es útil si luego sirve para ayudar a encontrar la visión correcta… Finalmente, la parte más valiosa socialmente del trabajo del matemático es la transmisión: conseguir explicar clara y sucintamente los resultados propios y los ya conocidos a su propia generación y a las subsiguientes. Por eso es tan crucial que los profesores de Matemáticas de Secundaria sean matemáticos que han probado su conocimiento de humanidades, ambas cosas: solo en casos singulares (conozco más de uno) un Físico ó un Ingeniero será capaz de saber enseñar matemáticas con la pasión requerida a estudiantes adolescentes. Este trabajo de transmisión, de momento solo sabemos hacerlo con personas, no con máquinas, como ha probado hace pocos meses el informe PISA. La auto-educación utilizando máquinas no parece ser funcional, al menos de momento. Cuando haya robots-profesores (que los habrá) tendremos que estudiar y pensar su sentido y su significado moral.

Todo lo dicho no obsta para que, bien controlados, los GML puedan ser una herramienta utilísima en la investigación matemática presente y futura —en la gran mayoría de los casos, las demostraciones de resultados relevantes (teoremas) necesitan pasos técnicos que realizan mejor las máquinas, estos pasos técnicos se denominan lemas y desde el punto de vista técnico, a veces son más importantes en la ciencia que los propios teoremas—. Yo no los he utilizado aun por dos motivos: por un lado, mi investigación actual está centrada en un campo en el cual me es más importante comprender una relación geométrica que demostrar resultados específicos; por otro, y aquí mi edad cuenta mucho, no me fío un pelo de que las actuales compañías que ofrecen GML utilicen mis interacciones con estos para su propio provecho. No estoy dispuesto, de momento, a alimentar al monstruo de manera gratuita con mi esfuerzo de concentración. Mi investigación matemática la paga el Estado Español y, de momento, no me ha dado permiso para que mi trabajo sea vendido por compañías que no se dedican a la revisión científica por pares.

En último lugar, quiero también poner énfasis en algo de lo que nadie habla, al menos que yo haya visto, y que es también moralmente complejo: los GLM y los generadores de imágenes necesitan pasar por una fase de evaluación de sus reslutados (lo que se llama “entrenamiento”) que precisa interacción humana. Gran parte de los resultados que producen durante esta fase son —esta es la naturaleza humana— imágenes inmorales, textos que incitan al suicidio o al terrorismo, etc. Para que la versión definitiva de un GML tienda a no producir este tipo de objetos (y el tienda tiene un énfasis grandísimo), ha habido muchos miles de personas que han tenido que ver y/o leerlos, y clasificarlos como “ofensivos”. Este trabajo es denigrante e inmoral —por parte del que lo promueve, no estoy juzgando al trabajador, que en muchos casos es una persona necesitada imperiosamente de dinero. Hay numerosos testimonios de esto, aunque solo ponga uno relativo a Facebook. Yo trabajé en su día como evaluador de las búsquedas de Google y había, en la página en la que se trabajaba, la opción de negarse a evaluar búsquedas explícitas. Aun así, alguna búsqueda extraña aparecía. No quiero ni pensar lo que pueden ver quienes evalúan fotografías o textos o vídeos como “violentos”, por ejemplo.

Dejo para el final decir que este texto lo he redactado directamente, no lo he revisado (lo he escrito para exponer mi situación mental) y que el acróstico se lo dedico a P.L. Seguro que le gustará.