En un llamado urgente a los gobiernos de todo el mundo, la UNESCO ha publicado las primeras “Orientaciones Mundiales sobre la IA Generativa en la Educación y la Investigación”.
En el documento de más de 40 páginas, el organismo insta a los gobiernos a tomar medidas para regular el uso de esta tecnología, la cual ha puesto en jaque los procesos educativos tradicionales.
Como menciona el texto, las herramientas de IA generativa (GenAI) pueden automatizar algunos niveles básicos de escritura y creación de obras de arte, lo que está obligando a los responsables políticos y a las instituciones educativas a reflexionar sobre sus implicaciones a largo plazo para la creación, adquisición y validación del conocimiento.
Como señala Audrey Azoulay, Directora General de la UNESCO, “no puede integrarse en la educación sin el compromiso público y sin las salvaguardias y regulaciones necesarias por parte de los gobiernos”.
La orientación de la UNESCO
Algunas de las ventajas de la IA generativa en la educación y la investigación, según la UNESCO, son el aumento de la eficiencia, la mejora de la accesibilidad y el aumento de la creatividad. Así, puede ser utilizada para apoyar el aprendizaje personalizado, asistir en la traducción de idiomas y ayudar en la creación de contenidos.
Pero también hay retos potenciales, como la necesidad de un uso ético y eficaz de la tecnología, la preocupación por la parcialidad y la privacidad, y el impacto potencial en el empleo y la mano de obra.
En este sentido, la UNESCO propone pasos clave para que los gobiernos regulen la IA Generativa en la educación, incluyendo la adopción de normas globales de protección de datos y privacidad. También establece un límite mínimo de edad de 13 años para el uso de herramientas de IA en las aulas, y destaca la importancia de la formación de docentes en esta área.
Estas directrices se basan en la Recomendación de 2021 de la UNESCO sobre la ética de la inteligencia artificial y el Consenso de Beijing de 2019 sobre la inteligencia artificial en la educación, promoviendo valores humanos como la inclusión, la equidad de género y la diversidad cultural y lingüística.
“Si bien GenAI puede aumentar las capacidades humanas para completar ciertas tareas, existe un control democrático limitado de las empresas que promueven GenAI. Esto plantea la cuestión de las regulaciones, en particular con respecto al acceso y uso de datos nacionales, incluidos datos sobre instituciones e individuos locales, así como datos generados en el territorio de los países”.
Así, la UNESCO plantea la necesidad de una legislación adecuada para que los gobiernos locales mantengan control sobre las crecientes olas de GenAI, para garantizar su gobernanza como un bien público.
La ingeniería de prompts y el plagio
La UNESCO también hace énfasis en la importancia en que tanto profesores, investigadores y estudiantes utilicen la GenAI de manera ética y responsable. Para conseguir esto, se requiere mayor expertise en la ingeniería de prompts.
“Los investigadores y profesores también necesitarán experiencia en ingeniería y evaluación crítica de las instrucciones generadas por GenAI. Dado que los retos planteados por GenAI son complejos, los investigadores y profesores deben recibir formación y apoyo de alta calidad para ello”.
Respecto al plagio, explica que la GenAI puede permitir a los estudiantes hacer pasar por suyos textos que no han escrito, lo que constituye un nuevo tipo de plagio. Para hacer frente a este problema, los proveedores de GenAI deberían estar obligados a etiquetar sus productos con marcas de agua “generado por IA”, mientras se desarrollan herramientas para identificar el material que ha sido producido por la inteligencia artificial.
La estrategia a largo plazo de UNESCO es que las instituciones y los educadores se replanteen el diseño de las tareas escritas, incluyendo la aplicación de valores humanos como la compasión y la creatividad a los complejos desafíos del mundo real.
