Incoherente

Me llega por LinkedIn un artículo titulado “La IA irrumpe en los trabajos de fin de carrera: 'Estoy por poner en los agradecimientos a ChatGPT'“. Mi primera reacción ha sido responder

La IA ha llegado para hundir el negocio a las empresas de TFG por encargo y a exacerbar un fenómeno que ya existía.

Pero cuál ha sido mi sorpresa al abrir el artículo (sí, hay que leer las cosas antes de criticarlas) y encontrarme esta cita:

Las empresas a las que se encargan estos trabajos finales aseguran no sufrir una caída de clientes. “No tenemos menos demanda, pero desde hace un año notamos que sí han cambiado las expectativas de los alumnos. Nos contactan porque han hecho un borrador con ChatGPT y no saben cómo utilizarlo o darle continuidad”

Reflexionemos sobre esto un momento: ChatGPT produce borradores tan buenos que exceden las capacidades de los estudiantes que los han pedido en primer lugar.

¿Es esto un elogio a la “Inteligencia Artificial”?

¿O más bien la constatación de que el sistema educativo está a punto de colapsar?

Calculadoras o ábacos

Entre los tecnocuñados es muy típico mofarse de quienes critican la “Inteligencia Artificial” comparándolos con los que lamentaban el uso de las calculadoras de bolsillo en las aulas. “¡Jaja, míralo! ¡Es un ludita!” (Pobres, no saben que los luditas están más vivos que nunca – eso lo hablamos otro día).

Hay un dicho en mi pueblo: “no hay nada más atrevido que la ignorancia”.

Como cuentan en este artículo (traducción libre), David Krakauer describe dos tipos de artefactos cognitivos (herramientas que aumentan nuestra inteligencia): complementarios, si ayudan a los humanos a completar una tarea de forma que incrementa sus habilidades incluso en ausencia de la herramienta, o competitivos, si ayudan a los humanos a completar la tarea en una forma que disminuye sus habilidades y le hace dependiente de la herramienta. Y los dos ejemplos que da son precisamente la calculadora de bolsillo como artefacto competitivo, y el ábaco como artefacto complementario.

Hay evidencia científica que respalda esta visión. Por ejemplo, este artículo de un centro de investigación en China concluye que el uso del cálculo mental basado en ábaco (AMC por sus siglas en inglés) mejoró las habilidades matemáticas y cognitivas en niños de 7 años.

Por otra parte, ¿acaso alguien puede negar que, por útiles que sean las calculadoras, hemos renunciado a nuestra capacidad de hacer aritmética básica mentalmente? No es raro ver cenas de amigos en las que hay que dividir la cuenta y la gente saca el móvil para teclear “20 / 2”.

Lo mismo ocurre con la nueva generación de chatbots (en adelante ChatGPT, como quien llama Kleenex®️ a los pañuelos de papel). Le pides cosas, ello te responde, Ctrl+C, Ctrl+V, y a vivir.

Claro que hay formas de usar ChatGPT que invitan más a la reflexión. Pero el propósito de un sistema es lo que hace, y lo que hace ChatGPT es liberarte de escribir.

Del propósito de ChatGPT hablamos otro día. Hoy me interesan más sus efectos.

Y son bastante perniciosos.

Escribir es pensar

Sigue el dichoso artículo con un entrecomillado de un ex-rector:

El sistema educativo sigue muy anclado en la memorización, la redacción… y eso, o lo cambiamos, o no tiene sentido ninguno porque la máquina lo hace mejor que el alumno medio.

Voy a decir algo que tal vez sea impopular: ¿por qué se demoniza tanto la memorización y la redacción?

Claro que a lo mejor no es muy útil saberse los reyes godos o los afluentes del Miño (para ciertas definiciones capitalistas de utilidad), pero ¿de verdad alguien se imagina un mundo en el que externalizamos completamente nuestra memoria a las máquinas? Si cada vez que quisiera debatir tuviera que interrumpirme y buscar en Google o preguntar a ChatGPT, sería imposible pensar y discurrir cualquier cosa. Parece bastante claro que tener cosas en nuestra RAM cerebral solo puede sumar, nunca restar (siempre y cuando recordemos la fuente claro 😉).

Y en cuanto a redactar... ¡es que escribir es pensar! Parafraseando algo que dijo Richard Feynman en una entrevista, lo que dejamos por escrito no es un registro de nuestro proceso mental: es nuestro proceso mental. Pensaba igual Niklas Luhmann, el creador del método Zettelkasten:

No es posible pensar sistemáticamente sin escribir.

A lo que esto nos lleva, inevitablemente, es que quien renuncia a escribir renuncia a pensar. Quien deja que otros escriban por él está dejando que otros piensen por él.

¿Y cómo piensa ChatGPT?

Como un tecnocuñado.

Usar ChatGPT es pensar como un gafapasta californiano

Ignorando por un momento los ridículos orígenes del término “Inteligencia Artificial”, lo cierto es que ChatGPT tiene poco de inteligente. En primer lugar, ¿alguien cree que si entrenásemos ChatGPT con el conocimiento hasta el Imperio Romano, el sistema sería capaz de inventar la máquina de vapor y la bombilla eléctrica? Lo que hace ChatGPT es interpolar, nunca extrapolar.

Esto último reconozco que está un poco manido. Pero me parece muy osado que los tecnocuñados, que desprecian toda forma de conocimiento que no se pueda expresar en código Python incluyendo Humanidades y Ciencias Sociales y están seguros de que una red neuronal artificial funciona exactamente igual que el cerebro humano, nos vengan a explicar qué es la inteligencia.

Para reflexionar: de la misma forma que somos seres tridimensionales y no podemos visualizar cómo sería una cuarta dimensión espacial, ¿es acaso posible comprender nuestra propia inteligencia?

Y en segundo lugar, sí, ChatGPT está entrenado con todo Internet, y más (no sabemos a ciencia cierta con qué está entrenado de hecho). El problema del Internet angloparlante es que es dominantemente yanqui. Y quien piense que “lo yanqui” es “lo neutral”, “lo normal”, etcétera, es porque tiene la mente totalmente colonizada.

El año pasado me fascinó este artículo sobre la “Inteligencia Artificial” y la sonrisa yanqui, que compara cómo la “Inteligencia Artificial” se imagina a diferentes pueblos nativos tomándose un selfie y, en los casos en los que existen fotografías, cómo eran esos pueblos en realidad. No tiene desperdicio.

El artículo cierra con una dulce foto de la autora y su padre, tomada en la unión soviética, y estas palabras (traducción mía):

Al aplanar la diversidad de expresiones faciales de civilizaciones alrededor del mundo, la IA ha colapsado el espectro de la historia, cultura, fotografía, y emoción humanas en una perspectiva monolítica. Ha presentado una falsa narrativa visual sobre la universalidad de algo que en el mundo real — en el que han vivido humanos reales que han creado cultura, expresión y sentido durante cientos de miles de años — es cualquier cosa menos uniforme.

Cada vez que pedimos que ChatGPT nos escriba una redacción, o un rap, nos da un texto escrito desde una óptica, un lugar geográfico y un tiempo muy concretos. Cada vez que lo usamos para ayudarnos a confeccionar ese email difícil, ese informe infumable, esa solicitud infame, estamos dejando que una forma de ver el mundo muy concreta nos penetre aún más.

Es la ideología de que todo lo que no se puede medir no importa.

No todo lo que importa se puede medir

El cerebro no es “solo” multiplicaciones de matrices y funciones trigonométricas inversas, de la misma forma que el amor no es “solo” reacciones químicas. Estas frases pueden ser técnicamente correctas, pero no nos ayudan a entender la realidad.

En 2011-2012, tras la resaca del “cueste lo que me cueste” de Zapatero y la mano de hierro de Bruselas, se produjo un brutal recorte educativo en España, que se cristalizó en el Real Decreto-ley 14/2012, de medidas urgentes de racionalización del gasto público en el ámbito educativo, más conocido como “el Tasazo”. Un joven Juanlu estaba por aquel entonces en la Universidad, y este Tasazo aceleró un proceso de descomposición que ya se venía anunciando desde hacía años: de la pizarra a las diapositivas, de los exámenes orales a los escritos, de los escritos a los cuestionarios “tipo test”. Y trató de hacer algo al respecto.

Por supuesto, la región en la que yo estudié, Madrid, aplicó el rango máximo de cada horquilla de precios. De eso a lo mejor hablamos otro día.

Han pasado ya 12 años, y si algo me enseñó esa experiencia es que no estábamos dispuestos a movilizarnos ni siquiera por dinero. Pero más allá de si la implantación del Espacio Europeo de Educación Superior (“Bolonia”) estuvo bien o mal, de si las ingenerías se pusieron demasiado drama-queen o no (uf, de eso sí que habría que hablar largo y tendido otro día), lo cierto es que este fue el punto de inflexión en el que me di cuenta de que estábamos yendo hacia un sistema educativo, ya incluso en el ámbito universitario, en el que se favorecía la cantidad sobre la calidad.

Y eso nos lleva al punto inicial sobre la educación. Creo que no se le escapa a nadie que no se puede dar una valoración justa y objetiva de la misma manera a sesenta alumnas que a mil. El resultado de la presente masificación es evidente: como describe la Ley de Goodhart, la métrica (la nota final) ha dejado de ser una buena medida de lo que se quería premiar (el aprendizaje). Más aún: aquello que nos importaba, que era el aprendizaje, está empeorando a pasos agigantados.

Me da igual si se enseña con tablets, con cuadernos, o “la letra con sangre entra”. Lo que determina todo es el método de evaluación, y la nota es lo único que les importa a los estudiantes. ¿Podemos realmente culparles por ello, en un contexto en el que la gente joven no sabe si va a tener trabajo, casa, o planeta cuando terminen de estudiar?

La decimonónica Conferencia de Rectores puede seguir debatiendo sobre si hay que prohibir ChatGPT o no. Nada de lo que hagan tendrá el menor impacto si no se ataca el problema de raíz, que es colapsar en un numerito unidimensional el proceso de aprendizaje de miles de alumnos que entran a los colegios, institutos, centros formativos y universidades como trozos de carne que entran a una fábrica para ser picados y convertidos en salchichas.

¿La solución? Bueno, tampoco os vengáis arriba. Ya me gustaría a mí tener las soluciones. Con tal de que nadie diga que el problema es el software privativo ya me doy con un canto en los dientes.