El autor advierte sobre los peligros del uso de la IA en el ámbito educativo. Los chatbots en el aula y la necesidad de saber cómo funciona la tectología.
Cognitivicidio, el verdadero "la inteligencia artificial nos va a matar a todos"
Permítanme comenzar con algunos neologismos, prometo que aportan categorías útiles para el análisis. El primero es criti-inflismo que me parece un término más simpático que el frío criti-hype del inglés porque, además de resonar con nuestras tradiciones literarias, es mucho más gráfico: la crítica se vuelve el mecanismo usado para inflar una burbuja especulativa, en este caso, de la inteligencia artificial (IA).
Repasémoslo brevemente: los chatbots de IA, como ChatGPT, Claude, Gemini, etcétera, pertenecen a un pequeño grupo de gigantes tecnológicas. Su oferta gratuita o de bajo costo es posible gracias a inversiones multimillonarias que, por ahora, no tienen una recuperación clara. Para sostenerlas, la industria necesita mantener la expectativa de que la tecnología es extraordinariamente potente y que la “superinteligencia” está siempre a punto de llegar (spoiler: no va a suceder). En ese contexto, las advertencias de sus propios CEOs sobre los riesgos de la IA también pueden funcionar como argumento para justificar por qué esa promesa “todavía” no se concretó. Valentín Muro lo explica en mucho más detalle.
¿Eso significa que no hay peligros? Claro que no. De hecho, otro de los efectos del criti-inflismo es hacer pensar que el peligro se encuentra en un lugar futuro, hipotético, lejano, y así distraer de los problemas reales, cercanos, inmediatos, que realmente ya están sucediendo. Es una maniobra distractiva para que no hablemos de costo ambiental, la concentración de poder, la incertidumbre en el mundo laboral, y lo que aquí nos preocupa, el efecto perjudicial que los chatbots de IA están produciendo sobre las capacidades cognitivas.
¿Entonces la IA nos arruina el pensamiento? Es importante hacer una distinción: no estamos hablando de la toda la IA. Para mucha gente la única IA visible son chatbots como ChatGPT, Claude, Gemini y el resto de los grandes modelos de lenguaje (LLMs, por sus siglas en inglés), pero esto es sólo uno de los tantos tipos de IA existente y no todos los tipos son iguales por más que se basen en la misma idea tecnológica: utilizar grandes volúmenes de datos en una etapa de entrenamiento para poder identificar patrones.
Hay muchos usos valiosos de la inteligencia artificial en ámbitos productivos. Necesitamos incorporar mucha más tecnología para aumentar la productividad de las pymes, potenciar la medicina y mejorar múltiples sectores de la economía. Para eso, existen modelos que requieren capacidades de cómputo razonables y que pueden desplegarse de manera local, sin necesidad de entregar los datos a ninguna de las grandes empresas tecnológicas.
Sin embargo, en el terreno educativo la cosa cambia. Las grandes tecnológicas intentan instalar los chatbots bajo la promesa de educación personalizada, un “docente” presente las 24 horas y formas de aprendizaje mucho más eficientes. Más allá de las promesas, el efecto es otro y se ve cada vez más en las aulas. Entre docentes la charla sobre la preocupación que esto genera es un tema recurrente.
Varios colegas de CONICET, universidades del país y ONGs especializadas le dimos voz a esta preocupación en un comunicado donde repasamos la evidencia científica que la sustenta. Allí, especialistas en IA, Ciencias de la Computación, Educación, Neurociencia y Alfabetización Digital coincidimos en que ya es hora de sacar a ChatGPT, Claude, Gemini y productos similares de las aulas. Ojo, eso no significa que la escuela no deba enseñar cómo funciona la inteligencia artificial, todo lo contrario. El comunicado es claro:
Así como conducir un vehículo no significa saber de mecánica, escribir unos prompts está muy lejos de significar que sabemos de IA. No podemos dejar de señalar un lugar en el que la IA sí debe estar en la escuela: bajo la lupa, como elemento de estudio. Sostenemos que no solo la Inteligencia Artificial, sino la disciplina más amplia que la contiene, las Ciencias de la Computación, deberían formar parte de la currícula. Digámoslo claramente: en el mundo actual es imprescindible entender cómo funciona la tecnología, cómo está hecha, por quiénes, con qué intenciones, con qué potencialidades, con qué ideas científicas detrás. Es nuestra obligación enseñar estos temas y fomentar las discusiones no solo sobre cómo es la tecnología, sino, principalmente, sobre cómo podría ser.
Cuando los chatbots piensan por nosotros, atacan la parte central del proceso de aprendizaje. Aprender es como ejercitar un músculo: la actividad tiene que ser tanto conseguible como desafiante. El momento del esfuerzo es clave: es realmente donde la “magia sucede” y nuestro cerebro asimila el conocimiento nuevo integrándolo con el ya existente. Si esa tarea la hacen los chatbots, no hay aprendizaje.
En el MIT realizaron un estudio pionero. Dividieron a 54 estudiantes universitarios en tres grupos y les pidieron que escribieran breves monografías en base a ciertas preguntas disparadoras. Un grupo utilizó ChatGPT, el otro solo googleó y el tercero, ninguna de las dos alternativas. Al pedirles posteriormente que citaran algo de lo que habían escrito, la mayor parte de quienes googlearon y de quienes no usaron ninguna herramienta externa lo hizo sin problemas, mientras que en el grupo que utilizó el LLM la gran mayoría de los participantes no logró hacer una sola cita correcta de su propio trabajo, realizado solo unos minutos antes.
Dicho de otra manera, resolvieron la tarea con ChatGPT, pero nada les quedó de lo que escribieron. De hecho, el otro resultado principal del estudio muestra cómo el uso de las distintas herramientas modifica la manera en que las redes neurales se conectan: encontraron que la conectividad disminuye cuanto mayor apoyo externo, y menos “pensamiento”, se usa al escribir.
Investigadores de Suecia y China analizaron 30 meses de datos educativos de más de 26.000 estudiantes secundarios chinos. Encontraron que quienes usaban chatbots de IA hacían la tarea 30% más rápido y lograban notas 18% superiores a sus compañeros que no usaban IA. Pero, ¿aprendían más? La respuesta es que no: ya a los seis meses de usar IA sus notas habían caído un 20%. El efecto se vio en todas las materias. Más aún, cuando rindieron exámenes de ingreso al siguiente nivel de la escuela secundaria o a la universidad, reconocidos por su alto nivel de exigencia, sus calificaciones también cayeron, entre un 18 y un 24%.
Si los chatbots de IA simples no funcionan, ¿funcionarán los que están personalizados para funcionar como tutores expertos y responder solamente en base a un cuerpo de conocimiento previamente seleccionado por docentes? Es una pregunta importante, porque muchos productos se comercializan bajo esa premisa. La evidencia nos dice que tampoco: un estudio sobre 900 estudiantes que involucraba uno de estos tutores personalizados para matemática no encontró evidencia de aprendizaje cuando se tomaron exámenes “a libro cerrado”.
Para ampliar la bibliografía puede consultarse una versión extendida del artículo que escribimos junto a Andrea Goldin para la Biblioteca del Congreso de la Nación.
Ese pedido colectivo firmado por especialistas de reconocida trayectoria culmina con una invitación a no conformarnos, a no pensar que somos menos, a evitar esto que llamo cognitivicidio:
La escuela es el lugar donde podemos no repetir la sociedad que existe y, en cambio, fomentar la que deseamos que exista. Allí preparamos a los alumnos para el mundo real, para el laboral y para el futuro. Que no podamos fumar en la escuela no significa que no enseñemos sobre los riesgos del tabaco, sus efectos biológicos o sus interacciones químicas. La misma reflexión vale sobre el uso de herramientas de IA que perjudican los aprendizajes. No es necesario involucrar un chatbot en la jornada escolar para explicar cómo funciona, cómo está construido y a quién beneficia. Algunos países, como Noruega, y ciudades, como Nueva York, ya tomaron esa decisión. Argentina puede hacerlo también.
Los chatbots de IA en el aula están matando nuestra capacidad para pensar. Estamos a tiempo de evitarlo.
