Directrices éticas sobre IA y datos en educación para educadores

Comisión Europea

DIRECTRICES ÉTICAS SOBRE EL USO DE LA INTELIGENCIA ARTIFICIAL (IA) Y LOS DATOS EN LA EDUCACIÓN Y FORMACIÓN PARA LOS EDUCADORES

Ni la Comisión Europea ni nadie que actúe en su nombre se responsabilizarán del uso que pudiera hacerse de esta información. Luxemburgo: Oficina de Publicaciones de la Unión Europea, 2022 @ Unión Europea, 2022

Cc BY

La política de reutilización de los documentos de la Comisión Europea se rige por la Decisión 2011/833/ UE de la Comisión, de 12 de diciembre de 2011, relativa a la reutilización de los documentos de la Comisión (DO L 330 de 14.12.2011, p. 39). Salvo que se indique otra cosa, la reutilización del presente documento está autorizada en virtud de una licencia Creative Commons Attribution 4.0 International (CC BY 4.0) (https://creativecommons.org/ licenses/by/4.0/). Esto significa que se permite la reutilización siempre que la fuente este adecuadamente identificada y se indique cualquier cambio. Para cualquier uso o reproducción de elementos que no sean propiedad de la Unión Europea, podrá ser necesario solicitar la autorización directamente de los respectivos titulares de derechos.

Información de Publicación

Print ISBN 978-92-76-57550-4 doi:10.2766/795588 NC-07-22-649-ES-C

PDF ISBN 978-92-76-54198-1 doi:10.2766/898 NC-07-22-649-ES-N

Agradecimientos

Las orientaciones han sido elaboradas por la Comisión Europea con la ayuda del Grupo de Expertos sobre la Inteligencia Artificial y los Datos en la Educación y la Formación, dirigido por consultores asociados a ECORYS. La Comisión desea dar las gracias a:

• Agata Majchrowska
• Aleksander Tarkowski
• Ari Alamäki
• Deirdre Butler
• Duuk Baten
• Egon Van den Broek
• Guido Noto La Diega
• Hanni Muukkonen van der Meer
• Inge Molenaar
• Jill-Jênn Vie
• Josiah Kaplan
• Juan Pablo Giraldo Ospino
• Julián Estévez
• Keith Quille
• Lidija Kralj
• Lucilla Crosta
• Maksim Karliuk
• Maria Wirzberger
• Matthew Montebello
• Stephan Vincent-Lancrin
• Tapani Saarinen
• Tobias Rohl
• Viola Schiaffonati
• Vitor Hugo Mendes da Costa Carvalho
• Vladislav Slavov

DIRECTRICES ÉTICAS SOBRE EL USO DE LA INTELIGENCIA ARTIFICIAL (IA) 4 Ethical guidelines5 Y LOS DATOS EN LA EDUCACIÓN Y FORMACIÓN PARA LOS EDUCADORES

Índice

Introducción 6 Contexto de las presentes directrices 8 Plan de Acción de Educación Digital 8 Inteligencia artificial y uso de datos 10 Propuesta sobre la política y el marco regulador de la UE en materia de inteligencia artificial 12 Conceptos erróneos comunes sobre la IA 12 Ejemplos del uso de la IA y los datos en la educación 14 Consideraciones y requisitos éticos que acompañan a las directrices éticas 18 Consideraciones éticas 18 Requisitos clave para una IA fiable 18 Preguntas orientativas para los agentes educativos 19 Orientaciones para agentes educativos y directores de centros de enseñanza 22 Utilización de las preguntas orientativas 22 Planificación para un uso eficaz de la IA y los datos en la escuela 26 Sensibilización y compromiso de la comunidad educativa 27 Competencias emergentes para el uso ético de la IA y los datos 28 Glosario de términos relacionados con la IA y los datos 32 Información complementaria 38

Introducción

Desde la forma en que nos mantenemos informados hasta la manera en que tomamos decisiones, la inteligencia artificial (IA) se está convirtiendo en un elemento ubicuo de nuestra economía y nuestra sociedad. Naturalmente, también ha llegado a nuestras escuelas. El uso de la IA en la educación ha dejado de enmarcarse en un futuro lejano. Ya está cambiando el modo en que trabajan las escuelas, las universidades y los agentes educativos, y también cómo aprenden nuestros hijos. Está haciendo que los entornos educativos sean más receptivos, ya que está ayudando al profesorado a abordar las necesidades específicas de cada alumno. Se está convirtiendo rápidamente en un aspecto fundamental de la tutoría personalizada y la evaluación, y está mostrando cada vez más su potencial para ofrecer valiosas ideas sobre el desarrollo de los estudiantes. El impacto de la IA en nuestros sistemas de educación y formación es innegable y seguirá creciendo en el futuro.

Los estudiantes y agentes educativos ya se benefician de la IA en su vida cotidiana, muchas veces sin ser conscientes de su presencia. Los entornos de aprendizaje en línea suelen abarcar varios continentes, a menudo sin que los usuarios sean plenamente conscientes de cómo y donde se utilizan sus datos. Esto plantea desafíos éticos específicos en cuanto al uso de la IA y el procesamiento de grandes cantidades de datos en la educación. Huelga decir que debemos garantizar que los profesores y agentes educativos comprendan el potencial de la IA y los macrodatos en la educación, sin dejar de ser conscientes de los riesgos asociados.

Por este motivo, me complace compartir con ustedes las presentes directrices éticas para agentes educativos sobre el uso de la IA y los datos en la enseñanza y el aprendizaje. Sin duda, las directrices ayudarán a nuestros profesores y agentes educativos a reflexionar sobre cómo pueden utilizar la IA y los datos en sus prácticas cotidianas, y les capacitarán para actuar en consecuencia.

Agradezco al Grupo de expertos creado por la Comisión Europea por su valiosa contribución a la preparación de las presentes directrices. Este Grupo reunió a una amplia gama de expertos: desde profesionales a investigadores en el ámbito de la IA, los datos, la ética y la educación, así como representantes de diversas organizaciones internacionales, como UNICEF, la UNESCO y la OCDE.

El Grupo de expertos ofreció amplios conocimientos y experiencia sobre la base de las Directrices éticas para una IA fiable y la Lista de evaluación para una IA fiable (ALTAI), ámbitos que ya han ocupado un lugar destacado en la agenda política de la UE. Centrándose tanto en la ética de la educación como en la ética de la IA y los datos, el Grupo también tuvo en cuenta el marco jurídico propuesto para la IA (Ley de Inteligencia Artificial), el Reglamento general de protección de datos (RGPD) y las propuestas de Ley de Datos y de una Declaración de la UE sobre los Derechos y Principios Digitales.

Estas directrices se utilizarán en centros educativos de toda Europa y las promoveremos activamente a través del programa Erasmus+. De forma colectiva o individual, los profesores y los directores de los centros educativos dispondrán ahora de una base sólida para lanzarse a ampliar el uso de estas tecnologías de manera razonable, segura y ética.

Estas directrices, junto con su uso sobre el terreno, son fundamentales para los esfuerzos que estamos realizando a fin de alcanzar el Espacio Europeo de Educación, al tiempo que apoyan la labor que están llevando a cabo los Estados miembros de la UE. Las directrices forman parte de un camino más largo, mientras que la UE está negociando y preparando un marco regulador global y eficaz para una IA fiable, que se implementará en todos los sectores de la UE, incluida la educación.

Y nuestro trabajo no se detiene aquí. A medida que avancemos, aumentará nuestra comprensión de cómo aplicar estas tecnologías, permitiendo que los agentes educativos sean aún más inclusivos y pragmáticos, especialmente en la educación primaria y secundaria.7 Y LOS DATOS EN LA EDUCACIÓN Y FORMACIÓN PARA LOS EDUCADORES

Por lo tanto, invito a todos los profesores y agentes educativos europeos a aprovechar estas directrices y a compartir sus opiniones sobre su aplicación práctica y su experiencia, ya que esto apoyará los esfuerzos que estamos realizando en relación con la transición digital en la educación. También nos beneficiaremos enormemente de las opiniones y la experiencia de nuestros alumnos y sus familias, así como todas las partes interesadas en el ámbito de la educación, sobre el uso y el impacto de la IA en su trabajo diario y sobre cómo hacerlo más provechoso, evitando al mismo tiempo los riesgos y efectos negativos para los derechos humanos y nuestros valores fundamentales de la UE.

Nuestro trabajo conjunto sobre la IA y los datos en la educación muestra un compromiso compartido con la comunidad educativa, con nuestros alumnos, su desarrollo y su bienestar. Las presentes directrices constituyen un punto de partida importante. Ahora corresponde a todos nosotros promoverlas y ponerlas en práctica. Cuento con ustedes para ello.

Mi más sincero agradecimiento a los expertos de este Grupo, que hicieron de estas directrices una realidad. Sus ideas y su dedicación se manifiestan en las páginas siguientes.

Gracias. Nyliganuales Mariya Gabriel

Contexto de las directrices

Plan de Acción de Educación Digital

El Plan de Acción de Educación Digital (2021-2027) es la iniciativa política renovada de la Unión Europea (UE) para apoyar una adaptación sostenible y eficaz de los sistemas de educación y formación de los Estados miembros de la UE a la era digital.

El Plan de Acción de Educación Digital:

• ofrece una visión estratégica a largo plazo para una educación digital europea de alta calidad, inclusiva y accesible;
• aborda los retos y oportunidades de la pandemia de COVID-19, que ha dado lugar a un uso sin precedentes de la tecnología para la educación y la formación;
• pretende lograr una mayor cooperación a escala de la UE en materia de educación digital y subraya la importancia del trabajo conjunto en todos los sectores para llevar la educación a la era digital;
• presenta oportunidades, entre las que se incluyen mejorar la calidad y la cantidad de la enseñanza relacionada con las tecnologías digitales, apoyar la digitalización de los métodos de enseñanza y las pedagogías, y proporcionar las infraestructuras necesarias para un aprendizaje a distancia inclusivo y resiliente.

Y LOS DATOS EN LA EDUCACIÓN Y FORMACIÓN PARA LOS EDUCADORES 9

El Plan de Educación Digital presenta dos prioridades estratégicas, cada una de las cuales contiene una serie de acciones para el período 2021-2027:

Prioridades Estratégicas del Plan de Acción de Educación Digital (2021-2027)

1. Para fomentar un ecosistema educativo digital de alto rendimiento necesitamos: Infraestructura, conectividad y equipos digitales. Una planificación y un desarrollo eficaces de las capacidades digitales, en particular capacidades organizativas eficaces y actualizadas. Agentes educativos y personal de educación y formación con cibercapacidades y confianza digital. Contenidos de alta calidad, herramientas fáciles de utilizar y plataformas seguras que respeten la privacidad y los estándares éticos.
2. Para desarrollar cibercapacidades y competencias digitales pertinentes para la era digital: Apoyar la dotación de cibercapacidades y competencias digitales desde una edad temprana:
   • Alfabetización digital, incluida la gestión del exceso de información y el reconocimiento de la desinformación.
   • Educación informática.
   • Un buen conocimiento y entendimiento de las tecnologías con uso intensivo de datos, como la inteligencia artificial.
   Impulsar las cibercapacidades avanzadas: aumentar el número de especialistas digitales y de niñas y mujeres en estudios y carreras digitales.

En el marco de la Prioridad 1: fomentar el desarrollo de un ecosistema educativo digital de alto rendimiento, el Plan de Acción de Educación Digital esboza una serie de acciones para fomentar el desarrollo de un ecosistema educativo digital de alto rendimiento que incluyen una acción específica para elaborar directrices éticas sobre el uso de la IA y los datos en la educación y la formación, que se compartirán con educadores y directores de centros de enseñanza.

Ethical guidelines