Recomendaciones para el uso de la inteligencia artificial generativa en la docencia UNAM

Generado con IA, generador de Imagenes de Bing.

UNIVERSIDAD NACIONAL AUTONOMA B MEXIES POR M Recomendaciones para el uso de la inteligencia artificial generativa en la docencia Devocion CUAIEED Biblioteca y CECAV Digitales de DGTIC UNAM DIRECCIÓN GENERAL DE CÓMPUTO Y DE TECNOLOGÍAS DE INFORMACIÓN Y COMUNICACIÓN CAGENIERT ICAT Aglisiden y Tecnologia IER instituto de Energús ïsue UNACECAY .CUAIEED Diección Bibicecas y Digitales di. G = UNAM DGTIC UNAM DIRECCIÓN GENERAL DE COMPITO Y DE TECNOLOGIAS DE INFORMACIÓN W COMUNICACIÓN GENIEAT ICAT wetinta de Grecka Aplinkos y Trendingis IER Instituto de Energías Äsue UNIVERSIDAD NACIONAL AUTONOMA B MEXICO POR M ESPIRITV B JUU Recomendaciones para el uso de la inteligencia artificial generativa en la docenciaPrimera edición: octubre de 2023 D.R. @ 2023 UNIVERSIDAD NACIONAL AUTÓNOMA DE MÉXICO Ciudad Universitaria, C.P. 04510, Ciudad de México "Recomendaciones para el uso de Inteligencia Artificial Generativa en la docencia" por Grupo de trabajo de Inteligencia Artificial Generativa de la UNAM se distribuye bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional. Basada en una obra en https://cuaieed.unam.mx/. CC BY NC SA La presente obra está bajo una licencia de CC BY-NC-SA 4.0 internacional https://creativecommons.org/licenses/by-nc-sa/4.0/deed.es_ES Esta licencia permite: Compartir (copiar y redistribuir el material en cualquier medio o formato). Adaptar (remezclar, transformar y crear a partir del material). Bajo los siguientes términos: Atribución. Usted debe dar crédito de manera adecuada, brindar un enlace a la licencia, e indicar si se han realizado cambios. Puede hacerlo en cualquier forma razonable, pero no de forma tal que sugiera que usted o su uso tienen el apoyo de la licenciante. No comercial. Usted no puede hacer uso del material para una finalidad comercial. Compartir igual. Si remezcla, transforma o crea a partir del material, deberá difundir sus contribuciones bajo la misma licencia que el original. Hecho en México.

Índice

Recomendaciones para el uso de la inteligencia artificial generativa en docencia

1. Exploremos y experimentemos
2. Usemosla con actitud reflexiva y crítica
3. ¿Cuáles son los retos de seguridad con el uso de IA en docencia?
4. ¿Cuáles son los retos para la integridad académica?
5. Seamos creativos en el uso de IAGen en los espacios educativos
6. Debemos repensar la evaluación y el aprendizaje
7. Automaticemos las tareas de gestión
8. Usos potenciales de IAGen por estudiantes
9. Usemos la IAGen en formación continua y desarrollo de comunidad
10. Directorio Universidad Nacional Autónoma de México
11. Grupo de trabajo de IA generativa

4Recomendaciones para el uso de la inteligencia artificial generativa en docencia

Hemos alcanzado una era digital y tecnológica en donde la inteligencia artificial (IA) se ha po- sicionado como un recurso que está transformando muchos aspectos de la vida en el mundo, la educación no es la excepción. La IA generativa (IAGen) emerge como una herramienta pro- metedora para mejorar las prácticas educativas. La capacidad de estos sistemas para crear contenido y material personalizado, así como ofrecer experiencias dinámicas de aprendiza- je, plantea un enorme potencial. Esta tecnología aporta elementos que pueden convertirse en disruptivos para el proceso de enseñanza y aprendizaje, cuando se utilizan en un marco ético, responsable y bien informado.

Durante el transcurso de este año, la Universidad Nacional Autónoma de México (UNAM) ha documentado el interés de varias entidades y dependencias en el tema, de manera que el 14 de agosto de este año se instaló formalmente un grupo de trabajo sobre el uso de estas herra- mientas en docencia, con el fin de explorar el potencial de IAGen en enseñanza, aprendizaje y evaluación en la institución, así como organizar actividades relativas al tema y emitir recomen- daciones que sean de utilidad para el profesorado de la universidad. Este documento es una de estas iniciativas, se presentan recomendaciones prácticas que pretenden ayudar a la incor- poración y aprovechamiento de la IA generativa en los espacios de aprendizaje universitarios.

Es importante recordar que el campo de la IAGen tiene un crecimiento explosivo a nivel global, por lo que será necesario actualizar estas recomendaciones con el cúmulo de experiencias, investigaciones y recomendaciones que se generen a corto y mediano plazo.

50

Generado con IA, generador de imagenes de Bing.

Exploremos y experimentemos

¿Qué es la IA generativa?

La IAGen es una rama de la inteligencia artificial, que parte del uso de técnicas de apren- dizaje profundo aplicadas en modelos generadores de lenguaje, con entrenamiento basa- do en dos enfoques principales. a) No supervisado, en el que se utilizan grandes cantida- des de datos, y b) Supervisado, en el que existen pequeños volúmenes de datos que son monitoreados por humanos a fin de mejorar los resultados (Radford et al., 2018; OpenAI, 2023a).

Si bien estas arquitecturas llevan varios años desarrollándose, fue en 2022 cuando se generó una versión que superó por mucho el número de parámetros utilizados anteriormente, lo que trajo consigo la posibilidad de entrenar estos modelos con datos extraídos de fuentes de internet, como páginas web, libros, artículos de investigación y otro tipo de documentos (Uc-Cetina et al., 2023). Esto derivó en herramientas con la capacidad de generar respuestas e interacciones que no habían sido posibles.

La IA generativa al alcance de todos

Con la liberación de los primeros grandes modelos de lenguaje (LLM, por su nombre en inglés, Large Language Models) comenzó la carrera por desarrollar modelos y herramientas más ca- paces y coherentes, esto implica esfuerzos técnicos y económicos por lo que los modelos más 61. Exploremos y experimentemos complejos y con mayores funcionalidades se ofrecen bajo esquemas de suscripción. Como explica (Chen et al., (2023), una forma de seguir mejorando estos modelos de lenguaje, es por medio de la interacción con usuarios, lo cual implica la recolección de los datos para su proce- samiento. Para medir el grado de accesibilidad a la información de estos modelos ha surgido el FMTI (por su denominación en inglés, Foundation Model Transparency Index) como indicador que refleja el grado de transparencia en la construcción, funcionamiento y acceso a los datos utilizados para crear estos grandes modelos (Bommasani, Rishi et al., 2023). Otros modelos permiten el acceso libre en favor de la transparencia en la creación de estas tecnologías, como son Llama-2 (Touvron et al., 2023) o BLOOMZ (Muennighoff et al., 2022) que reportan el origen de los datos utilizados y se pueden descargar para su uso local.

Por otra parte, la brecha digital a nivel global y nacional que ya existía antes de la pandemia parece ir en aumento, lo que hace más compleja la situación y requiere que los diferentes paí- ses, gobiernos, empresas e instituciones académicas se involucren en la planeación, diseño, regulación, uso y evaluación de estas herramientas, para avanzar en la disminución de estas diferencias (Jaiswal y Arun, 2021).

¿Por dónde empezamos como comunidad docente?

Una manera de comenzar a utilizar la IAGen en docencia es identificar las necesidades educa- tivas susceptibles de resolverse con la incorporación de estas herramientas (Giannini, 2023). Cada docente debe cuestionarse si algunas de las tareas de gestión, enseñanza, aprendizaje o evaluación que realiza, pueden mejorarse incorporando herramientas de generación de texto, imágenes o contenidos multimedia.

Por supuesto, ello implica familiarizarse con los conceptos básicos y la jerga de la IAGen, ya que aunque el tema ha tenido alta presencia en los medios de comunicación, sigue existiendo poco conocimiento e incluso confusión sobre el tema en la comunidad académica y estudiantil (Mills et al., 2023; UNESCO, 2023b). Se recomienda explorar glosarios sobre el tema diseñados para educadores, como el desarrollado por (Ruiz y Fuso, 2023), para sumergirse en la terminología.

Por otra parte, ante la explosión de documentos, podcasts, presentaciones y seminarios web del tema, es recomendable iniciar con los más sencillos, elaborados para educadores, como los diseñados por IESALC y la UNESCO (Miao y Holmes, 2023; Sabzalieva y Valentini, 2023; UNES- CO, 2023a). La UNAM desarrolló un curso masivo abierto en línea (MOOC) sobre los aspectos básicos del uso de IAGen en docencia, disponible en la plataforma Coursera (Bucio et al., 2023).

En la sección 5 de este documento se describen algunos de los posibles usos específicos de la IAGen en la práctica docente.

7O

Generado con IA, generador de imagenes de Bing.

Usémosla con actitud reflexiva y crítica

¿Cuáles son los riesgos?

En los grandes modelos de lenguaje, los datos con los que se entrenan estos sistemas pueden sesgar sus respuestas, así como afectar la calidad, veracidad y precisión de las mismas. Es im- portante tener conciencia de que podemos sobrevalorar a las IA generativas (Lim et al., 2023).

En (Ray, 2023) se señalan los siguientes riesgos: limitaciones en la confiabilidad y precisión de la información; sesgos de los modelos; exceso de confianza en las herramientas, que puede reducir el pensamiento crítico y la solución independiente de problemas; control de calidad inestable; sesgos en las bases de datos; problemas de generalización y explicabilidad (no es claro cómo toma decisiones); costo energético en el medio ambiente; asuntos de seguridad (generar contenido perjudicial, como discurso de odio y noticias falsas); asuntos de privacidad; errores factuales y alucinaciones; así como sesgos culturales y lingüísticos.

¿Cuáles son sus limitaciones?

Aunque las IA generativas son cada vez más poderosas y flexibles, es necesario elaborar las peticiones de manera precisa, debido a que puede perder el contexto, en especial después de 82. Usémosla con actitud reflexiva y crítica varias interacciones sucesivas, debido a que su desempeño no es adecuado cuando hay ambi- güedad. Se requieren mejoras en la diversidad de los datos de entrenamiento para minimizar el riesgo de que genere contenido ofensivo, sesgado o inapropiado (Ray, 2023). Por su parte (Yan et al., 2023) señalan que aún falta validación en contextos educativos auténticos, e identifican poca transparencia y falta de participación de agentes relevantes (como los usuarios) en el di- seño de innovaciones. Al mejorar la transparencia y participación se podrá desarrollar tecnolo- gía educativa de mayor impacto. En ese sentido, (Kadaruddin, 2023) subraya la importancia de que desarrolladores de IAGen, educadores, investigadores y responsables de políticas públicas trabajen conjuntamente.

En la Guía para IAGen en educación e investigación (Miao y Holmes, 2023), se plantea que a los GPT podría llamarseles "modelos fundacionales" ya que son herramientas de propósitos generales, y que desarrolladores y educadores debemos desarrollar modelos de "sintonía fina" llamados "EdGPT", entrenados específicamente para propósitos educativos con datos de alta calidad y para dominios específicos.

¿Cómo podemos mitigar sus riesgos?

Es necesario estar atentos a los riesgos y limitaciones, para aprovechar al máximo sus benefi- cios. Para lograrlo (Su y Yang, 2023), presentan un marco teórico para su uso en el aula, que in- cluye: identificar resultados deseados para asegurar la alineación de la herramienta con ellos; determinar el nivel de automatización deseado; analizar las consideraciones éticas, incluyendo posibles sesgos y su impacto en docentes y estudiantes; así como evaluar la efectividad en el logro de los resultados deseados. Algunas estrategias de mitigación de riesgos del uso de IAGen que podemos utilizar en docencia son las siguientes: verificar el contenido de las res- puestas, aplicando sistemas de revisión para garantizar la validez de los resultados; formación docente sobre el tema, para que el profesorado comprenda las capacidades y limitaciones de estas herramientas; diseño incluyente, para minimizar la exclusión de poblaciones vulnerables y minorías; evaluaciones periódicas de los sistemas de IAGen por terceros para verificar su eficacia y equidad; promover el diseño y aplicación de un marco regulatorio apropiado para su uso, que puede incluir políticas sobre recopilación y manejo de los datos de estudiantes y docentes.

¿Cuál es la relevancia de la "explicabilidad" en IA?

La explicabilidad en la IAGen es un principio fundamental que debe guiar el estudio, desarrollo, y uso de estos sistemas. Se puede definir como la capacidad de comprender y explicar la ma- nera en cómo se toman las decisiones internamente en los sistemas, ya que entre más extenso y complejo sea un sistema, hay más dificultad para interpretar cómo se procesa la información, convirtiéndose en "cajas negras" para los usuarios (Barredo Arrieta et al., 2020). Abordar la explicabilidad en términos prácticos permite evaluar la precisión, los sesgos y las posibles ten- dencias de un sistema, promoviendo así la confianza y la transparencia con miras a garantizar la privacidad. De esta forma, la explicabilidad permite construir puentes entre la complejidad inherente de los modelos de la IAGen y la comprensión humana. Este vínculo es esencial para una adopción ética y responsable en nuestras rutinas diarias y en el ámbito académico.

9