Bakarne Altonaga Begoña (EHU)
Mikel Varela Pequeño (EHU)
Desde la irrupción de los grandes modelos de lenguaje (LLM por sus siglas en inglés) generativos, alrededor de 2018 con el primer modelo GPT-1, la Inteligencia Artificial (IA) ha adquirido una popularidad inédita pese a que dio sus primeros pasos a mediados del siglo pasado. De ese modo en el debate público no especializado frecuentemente la IA se ve reducida a la IA generativa. La percepción del impacto que la meditada popularización de esta tecnología está teniendo en la vida de las personas se está viendo amplificada por las palabras de gurús tecnológicos, cierto mesianismo sensacionalista, optimismo grandilocuente, marketing más o menos subliminal… que buscan, por un lado, alimentar un sistema ávido de datos para su entrenamiento y, por otro, el prometido retorno económico de unas inversiones multimillonarias (entre las cinco principales corporaciones, alrededor de 650.000 millones de dólares) que alcanzan los niveles del PIB de países del tamaño de Argentina o Suecia.
Burbuja o no, lo cierto es que su impacto también se está notando en la Universidad, donde la IA generativa parece haber encontrado un terreno fértil en el que continuar con un modelo que necesita de su incesante expansión y extractivismo de datos. A las prácticas académicas diarias se están progresivamente incorporando herramientas basadas en los LLM que las compañías tecnológicas ponen a nuestro alcance, sin reparar, parece, en las implicaciones que su implementación y normalización puedan acarrear a diferentes niveles a medio y largo plazo.
La literatura científica está poniendo de relieve, en términos generales, los peligros político-sociales (sesgos y reproducción de formas de discriminación) y eco-sociales (derivados del mantenimiento del hardware y entrenamiento del software) y, en particular en el contexto académico, los límites técnico-prácticos de los modelos a implementar (falta de veracidad, ‘alucinaciones’, errores de contenido y opacidad de los procesos), así como la dependencia pasiva que el uso indiscriminado de estas tecnologías está generando con respecto a unas estructuras digitales creadas por empresas cuyos intereses no se encuentran alineados con los propios de las universidades públicas y las sociedades en que se insertan.
Sin embargo, en la órbita académica son comunes los cantos de sirena que, con un ojo puesto en los diferentes rankings internacionales, apelan a un supuesto aumento de la productividad. Se trata de una dudosa estrategia cortoplacista que alimenta un modelo científico que de sobra sabemos que nos lleva a la atrofia: por un lado, confunde cantidad con calidad, inundando la producción científica de ruido, y, por otro, funde los presupuestos públicos que deberían ir destinados a financiar la investigación en el abono de tasas de publicación que en muchas ocasiones no tienen más efecto que el de engrosar las arcas de las grandes editoriales.
En ese mismo sentido, los últimos movimientos de la Agencia Nacional de Evaluación de la Calidad y Acreditación (ANECA), en el marco de la coalición internacional de instituciones de investigación CoARA y de otras iniciativas como la DORA, impulsan el cambio hacia una evaluación de la investigación centrada en la calidad. Cuestionan el argumento productivo de quienes abogan por abrir las puertas del ámbito de la investigación al caballo de Troya de la IA generativa. ¿Vamos a permitir que el uso intensivo de los asistentes de IA generativa nos haga abundar, aún más, en la nefasta senda del publish or perish? ¿Vamos a seguir inundando el ya de por sí saturado ecosistema de revistas científicas de artículos que tienen más de re-producción que de producción de conocimiento?
En el terreno de la docencia, los riesgos no son menores y las consecuencias ya se están dejando notar en las aulas, principalmente en aquellas disciplinas en que la redacción y el análisis de textos devienen herramienta fundamental. Con invitaciones al alumnado a hacer un uso responsable de la IA generativa, pero sin proporcionar el software adecuado ni las herramientas conceptuales y técnicas imprescindibles para desarrollar una actitud informada y crítica, se transmite la falsa idea de que se trata de una herramienta objetiva y veraz, capaz de proporcionar información conforme a los estándares de rigor académico. Se desplaza la autoridad intelectual a un artefacto cuya naturaleza estadística lleva implícito un error siempre presentado en un categórico y convincente envoltorio de veracidad. Nos convertimos en aliadas del sesgo de autoridad tecnológica.
Al parecer, la IA generativa puede, si bien bajo la espada de Damocles del error, asistir al alumnado en el aprendizaje. Ahora bien, ¿de qué forma redundará todo ello en los procesos cognitivos fundamentales y en la adquisición de competencias básicas, como la habilidad de detectar problemas y solucionarlos de forma autónoma o la capacidad de síntesis, análisis y redacción de textos complejos? ¿En qué lugar quedan, entonces, el pensamiento crítico y el cuestionamiento de la autoridad —ejercicios inherentes a toda creación de conocimiento y práctica de la democracia— cuando se normaliza la delegación del pensamiento en la máquina?
Estas preocupaciones no nos llevan a impugnar la IA en su totalidad. No cabe duda de que en ciertas disciplinas el uso de herramientas específicas de IA ya está siendo catalizador de importantes avances científicos. Pero lo cierto es que la llegada de la IA generativa a la academia, y más concretamente al área de las Humanidades, cuestiona no solo el modelo académico actual, sino también los fundamentos antropológicos y epistemológicos sobre los que se asienta. Así se perfila el rol que va a jugar en el seno de las estructuras sociales de las que es parte y de cuya transformación, por tanto, participa activamente.
El modelo inferencial sobre el que se sostienen los popularizados LLM lo fía todo a la gestión de datos. Su “inteligencia” ordena información, sintetiza, genera patrones que buscan predecir pero no crea nuevas ideas pues estas no son predecibles. La universidad, no obstante, necesita de ambas. De una concepción apolínea de la ciencia que trabaja bajo el confort que le proporciona un paradigma firmemente asentado, en el que la IA ya está desplegando de forma útil su potencial (piénsese en todo trabajo de ingeniería con fines aplicados). Y de esa otra expresión dionisíaca que persigue la ruptura epistemológica, que fuerza el surgimiento de nuevos paradigmas a partir de los límites del que emergen, una apuesta teórica intuitiva cuando todavía no hay un marco teórico empíricamente asentado, un gesto de fidelidad a una idea aún incierta (piénsese, exempli gratia, en los primeros pasos de la mecánica cuántica).
Reducir el conocimiento, la ciencia y, en consecuencia, el papel que la universidad juega en su producción y transmisión a una sola de ellas sería un craso error. Tras el embate neoliberal iniciado en la década de 1970, la universidad parece abrazar cada vez con más ímpetu un modelo que le está llevando a perder su posición central como espacio de pensamiento libre y experimentación intelectual incondicionada en favor de intereses cortoplacistas más propios de las lógicas competitivas y productivistas. En ellas lo importante es el conocimiento (explotable), pero no el pensamiento. Asimismo, la educación superior está progresivamente pasando de ser un espacio para la formación integral de la persona a través de la ciencia a una simple herramienta para la formación de cuerpos profesionales, de mano de obra.
Así, la IA está reconfigurando no solo lo que entendemos por conocimiento, inteligencia o pensamiento, sino, con ello, lo que comprendemos por ciencia y el tipo de educación que deben recibir las personas que a ella se van a dedicar, así como su capacidad transformadora de nuestras sociedades. Es decir, su uso está modificando categorías epistemológicas, antropológicas y políticas que condicionan el modo en que damos sentido a la realidad y organizamos nuestras sociedades. En consecuencia, la universidad debería abordar esta nueva intensificación tecnológica sin perder de vista las premonitorias palabras que, en The Matrix (1999), el agente Smith trasladaba a Morfeo: “cuando empezamos a pensar por vosotros, vuestra civilización pasó a ser nuestra”.
