Editorial

REFLEXIONES SOBRE LA IA DESDE EL ÁMBITO ACADÉMICO EDUCATIVO: IMPLICACIONES A LA LUZ DE LOS ODS

EL RESTO, QUIZÁ, NO ES SOLO LITERATURA

Ante la despectiva coletilla final “y el resto es literatura”, atribuida en ocasiones al matemático J. H. Poincaré, al ensayista Paul Valéry o incluso al humanista Mario Bunge, normalmente siempre supeditada a una apología previa de la ciencia exacta y la objetividad del conocimiento sobre otras aproximaciones a nuestras realidades, hemos creído oportuno abrir estas breves líneas introductorias, precisamente, con literatura:

La noche era fría y mis pensamientos pesados mientras caminaba por las calles de Anstey, sintiendo la desesperación y la furia crecer en mi interior. Cada día veía a más compañeros perder sus empleos a causa de los nuevos marcos de tejer, y la dignidad que habíamos construido con nuestras propias manos se desmoronaba ante la fría eficiencia de las máquinas. Pensaba en mi padre y su orgullo por el trabajo bien hecho, en cómo esos mismos telares que prometían progreso nos arrebataban el pan de la boca y nos dejaban en la miseria. Al ver a un joven famélico llorar junto a su madre, supe que no podía seguir siendo un espectador pasivo.

Decidí entonces que debía actuar, no por odio a la tecnología, sino por amor a mi gente y nuestra dignidad. Con una determinación ardiente, me dirigí al taller y, enfrentándome a los monstruos de madera y metal, levanté el martillo y golpeé con fuerza. Cada golpe resonaba como una declaración de resistencia, liberando la desesperación que me había consumido. No sabía qué vendría después, pero había hecho lo que debía hacer. Con el sonido del marco de tejer rompiéndose, comprendí que no solo destruía una máquina, sino también la sumisión y el miedo que habían mantenido a mi gente oprimida. Había dado el primer paso hacia un futuro donde lucharíamos por nuestro derecho a vivir con propósito.

El escenario revivido nos pone en la piel de Ned Ludd, icono folclórico del movimiento ludita que, a principios del siglo XIX, condensó a artesanos y obreros textiles ingleses que protestaban ante la irrupción y el intrusismo de las máquinas en sus trabajos y sus vidas. Hoy, salvando las diferencias, ante el avance de la tecnología encabezada por la Inteligencia Artificial (IA), el calificativo de “ludita” puede entenderse tanto como un insulto como un halago en función de las opiniones y sentimientos que los retos y desafíos de la IA suscite en nuestro interior.

No obstante, al igual que ocurrió realmente con el maquinismo que derivó de la primera revolución industrial, esos miedos no pueden reducirse únicamente a ciertas profesiones y sectores del tejido socioeconómico. La IA, como ocurrió con la máquina de vapor, no solo llegó para quedarse, sino para cambiarlo todo, en todas partes y de manera irreversible, aunque no por ello irremediable ni, por supuesto, incontrolable.

De ahí la necesidad de que desde todas las esferas de la sociedad se preste atención a este nuevo fenómeno de la IA, en especial la IA generativa y, en lo que respecta al ámbito universitario, a la IA generativa de textos. La razón más parsimoniosa es bien sencilla, pues involucra directamente a los pilares del proceso educativo aumentando no solo la facilidad de cometer fraude académico a través de peticiones específicas de trabajos sino también por la excesiva comodidad de aceptar como válidas, sin juicio crítico, los resultados que tengan a bien darnos estos modelos.

Por tanto, igual que ocurre con otros aspectos de la tecnología, donde se ha demostrado que lejos de destruir puestos de trabajo tiende a modificarlos y/o desplazarlos, eliminando tareas repetitivas que no necesitan la intervención humana -véanse como ejemplos los avances en robótica- mejorando así otros aspectos la intervención humana al hacerla más precisa. En este sentido, podríamos citar multitud de campos de aplicación de la IA, entre los que se podría destacar, aunque no exclusivamente, la diagnosis médica. De ahí que se deba prestar especial atención a estos y otros avances para hacer un uso responsable y seguro como, en el caso que nos ocupa, de la IA generativa.

No es casual, por tanto, que atendiendo desde el ámbito académico a la relación que se establece entre los Objetivos de Desarrollo Sostenible (ODS) y el avance de la IA el primero que se ve directamente afectado, tanto para bien como para mal, sea el 4: Educación de calidad. Sin embargo, como se podrá observar a lo largo de los siete artículos que conforman este monográfico de la Revista Edetania, desde el campo educativo también se destacan otros no menos importantes como, por ejemplo, el que hace referencia a la reducción de las desigualdades o el no menos importante relacionado con la igualdad de género que tan en duda se pone cada vez que aparece un algoritmo experto en patrones clasificadores.

Así, en el primero de los artículos, titulado “Ecos de sostenibilidad: Reflexiones sobre la Inteligencia Artificial a la luz de los Objetivos de Desarrollo Sostenible”, las personas interesadas podrán atisbar un estudio teórico que profundiza en el impacto de la IA, especialmente centrado en la repercusión de los grandes modelos generativos de lenguaje (LLM) y su deriva en relación con los ya mencionados ODS. Desde los conceptos de cámaras de eco y burbujas epistémicas, este trabajo examina cómo la adopción desmedida de la IA puede socavar el pensamiento crítico y la calidad educativa, promoviendo la polarización ideológica y la desinformación, entre otros efectos negativos. Desde el ámbito de la teoría, los autores abogan por un uso equilibrado y responsable de la tecnología, para así enriquecer el pensamiento crítico y la verdadera esencia humana, completamente alejada de la cómoda e innecesaria sumisión tecnológica. Un uso, por tanto, centrado en la asistencia y no en la sustitución de nuestras acciones.

En el segundo, bajo el encabezado “Sesgos de la IAG: Reflexiones desde la docencia universitaria”, encontramos un texto que también aborda críticamente el uso de tecnologías de IA emergentes, específicamente ChatGPT, en el proceso de enseñanza-aprendizaje universitario. En él se destaca la presencia de sesgos de género y raciales en las respuestas generadas por esta herramienta. De esta manera, a través de un análisis cualitativo de diez conversaciones con ChatGPT, se evidencian respuestas claramente marcadas por sesgos culturales y sociales, marcando así, de manera negativa, la experiencia educativa realizada. Este estudio, por tanto, subraya la importancia de desarrollar estrategias para mitigar estos sesgos y promover una reflexión crítica y ética a la hora de usar las tecnologías de IA en el ámbito educativo, alineándose así con los Objetivos de Desarrollo Sostenible relacionados con la igualdad de género, la reducción de desigualdades y la educación inclusiva y de calidad.

En este mismo sentido, pero de una manera más gráfica y en lengua inglesa, pasamos al artículo titulado “Una imagen vale más que mil tokens. Explorando los sesgos atribucionales y prejuicios a través de la ventana contextual de DALL-E 3” que investiga los sesgos de género, raciales y profesionales presentes en los modelos de IA generativa tanto de texto (ChatGPT) como de imagen (DALL-E 3), así como su impacto en el campo educativo. En él, a través de pruebas controladas y análisis tanto cualitativos y cuantitativos de más de un centenar de indicaciones específicas, se revela, por ejemplo, cómo el 43% de las imágenes generadas reflejan sesgos de género significativos, perpetuando de esta manera tanto estereotipos como prejuicios. Estos resultados son relevantes para el desarrollo y supervisión de estrategias que mitiguen los sesgos en la IA y promuevan tecnologías más justas y alineadas con los ODS, especialmente en este caso con el ODS 5, sobre igualdad de género, y el ODS 10, reducción de las desigualdades. El estudio, por tanto, ofrece una evidencia más visual para apoyar nuestros discursos pedagógicos y así abordar estos sesgos, por ejemplo, desde la propia formación en estas tecnologías.

Después encontramos el artículo “Más allá de las pantallas: Una aproximación al uso responsable de las IA a través de las TIC” en el que su autora examina el impacto revolucionario de la IA en el sector educativo, subrayando en este caso tanto sus indudables oportunidades de concreción pedagógica: desde plataformas de enseñanza personalizada hasta realidad aumentada y gamificación; como sus desafíos: retos en términos de privacidad, sesgos algorítmicos, brecha digital, capacitación docente y ética. Este estudio destaca la necesidad de desarrollar algoritmos justos y programas de inclusión digital para evitar la ampliación de estas brechas al mismo tiempo que enfatiza la importancia de la capacitación docente en habilidades digitales. De esta forma, la combinación de IA y TIC se presenta como aspecto crucial para ofrecer herramientas innovadoras que transformen la educación y consigan mejorar no solo la educación de calidad, sino también, entre otros, la igualdad de género y la reducción de desigualdades, promoviendo así un uso responsable, competente y ético de estas tecnologías en el ámbito educativo.

El artículo titulado “Retos de la tecnologización de la enseñanza y aprendizaje en la universidad”, también en inglés como lengua principal, aborda de manera amplia pero detallada los desafíos que presenta la integración de herramientas digitales como paso previo al uso de la IA en educación superior, subrayando, como no podría ser de otra forma en este escenario, su impacto en la consecución de los ODS. A través de una revisión narrativa, se destacan tres aspectos principales: el uso excesivo de tecnologías digitales por parte de los docentes, especialmente de las presentaciones a través de diapositivas, el impacto negativo de los dispositivos electrónicos en el rendimiento académico de los estudiantes, y los desafíos y beneficios de la integración de la IA, con énfasis en modelos generativos de lenguaje. A través de una visión crítica y realista, pero no por ello apocalíptica, el artículo nos interpela para encontrar un punto medio donde el uso de estas tecnologías se haga con mesura y prudencia. Este análisis, por tanto, destaca por ofrecer una necesaria visión crítica y justificada sobre cómo la excesiva tecnificación en educación puede influir, tanto positiva como negativamente, en la calidad educativa.

Todas estas visiones clarifican la tensión que sanamente subyace en el triángulo de amor-odio IA, educación y ODS. Aspecto también presente en el artículo “La dicotomía educativa entre la pluma humana y la mente algorítmica: Una propuesta de innovación educativa sobre IA en Educación Social” centrado en el diseño de una propuesta de innovación docente en el grado de Educación Social en dos universidades españolas. Esta iniciativa aborda el uso de la IA generativa de textos por parte de los estudiantes. Primeramente, los participantes escriben un manuscrito sin ayuda de la IA para, posteriormente, reescribirlo con asistencia de esta herramienta. Finalmente, los puntos fuertes y débiles de su uso son evaluados. El objetivo principal es contrastar los resultados y, a través de la comprensión de algunos de los límites de esta herramienta, fomentar una utilización ética y crítica de la IA, integrándola de manera adecuada y promoviendo un cambio de calidad responsable. Por ello, esta investigación destaca la importancia de la alfabetización digital y la reflexión ética en el uso de la IA, alineándose así con el eje transversal del monográfico, particularmente en la mejora de la calidad educativa (ODS 4), sin duda un tema crucial para las próximas décadas.

Finalmente, en el artículo titulado “Transformación Educativa: Inteligencia Artificial en la Mejora de la Calidad y la Tutoría Electrónica” no solo se examina el impacto de la IA en la educación superior no presencial, ampliando así el escenario de los anteriores escritos, sino que también incluye el uso de la IA a través de una pionera metodología cualitativa que integra el procesamiento del lenguaje natural (ChatGPT) con un software de análisis de datos cualitativos (MAXQDA) y cuyo objetivo es identificar las competencias blandas esenciales para los tutores electrónicos. Se concluye que, aunque la IA presenta debilidades en áreas que requieren competencias humanas, su integración puede ayudar a identificar de manera temprana determinadas dificultades de aprendizaje, personalizando así el proceso educativo y la calidad del mismo.

Todos estos artículos nacen a caballo entre las iniciativas llevadas a cabo dentro del Proyecto de Innovación y Mejora Docente “Uso de la Inteligencia Artificial generativa conversacional en la docencia universitaria. El caso de ChatGPT y afines: posibilidades, retos y buenas prácticas” (UCLM, 2023-2025) y la consolidación, tras algunos pasos intermedios como el simposio “¿Sueñan las inteligencias artificiales con ovejas eléctricas? Desafíos de la IA para lograr los ODS desde el ámbito universitario” (CIIDES, 2024), del Grupo de Innovación Docente GaIA: Grupo de aprendizaje en Inteligencia Artificial. Agradecemos, por tanto, a todas las personas participantes el haber aceptado aventurarse en esta propuesta, no exenta de riesgos pero que finalmente llega a buen puerto con la presente publicación.

Se dice que fue H. G. Wells quien definió la civilización como una carrera entre la educación y la catástrofe. Hoy, con la IA en el tablero de juego, esa carrera aumenta exponencialmente su velocidad y pone en alerta sobre la necesidad de cimentar -al mismo tiempo que reconfigurar- los pilares educativos de una humanidad que necesariamente ha de reflexionar sobre lo que nos hace ser, precisamente, seres humanos. Aspecto que ya se ha puesto anteriormente en práctica en otros campos de aplicación de la tecnología. Si la IA -generativa o no- puede llegar a suplantarnos, relevarnos o asistirnos en determinados aspectos que se acercan más al mundo objetivo y aséptico de las matemáticas y la ciencia exacta -como ha ocurrido previamente en otros campos de aplicación de la IA- quizá sea entonces cuando, separado el trigo de la paja, lo artificial de lo sentipensante, lleguemos a la conclusión de que el resto, quizá, no solo era posible clasificarlo dentro del rico pero limitado espectro de la literatura.

Una literatura también amenazada por la IA, pues el más aguzado lector seguramente ya haya notado que, en efecto, esos párrafos narrativos sin referencia del episodio ludita, así como gran parte de los resúmenes de los propios artículos, han sido escritos, con mayor o menor fortuna, por el manido y temido, a partes iguales, ChatGPT.

No, lo humano no es solo literatura como tampoco es posible reducirlo únicamente a patrones matemáticos, por ello, la compleja fragilidad que lo caracteriza requiere de estos y otros campos para su mejor comprensión, evolución y florecimiento.

José L. González-Geraldo y José A. Ballesteros
Universidad de Castilla-La Mancha (UCLM)