N.91 – UNESCO: Guía para el uso de la Inteligencia

Los programas de Inteligencia Artificial Generativa (IAGen) irrumpieron en el conocimiento público a finales de noviembre de 2022, con el lanzamiento de ChatGPT. Provocó notorias inquietudes la semejanza entre los textos, imágenes, vídeos, música y software generados por los IAGen y los producidos por humanos calificados. Por ejemplo, la inquietud inicial en Educación fue que las herramientas IAGen podrían ser utilizadas por los estudiantes para “hacer trampa” en sus tareas, socavando así el valor de la evaluación, calificación y certificación del aprendizaje. Si bien algunas instituciones educativas prohibieron el uso de herrramientas IAGen, otras acogieron con cautela su llegada. Muchas escuelas y universidades, por ejemplo, sostuvieron que “los estudiantes y el personal necesitan recibir apoyo para utilizar las herramientas IAGen de manera efectiva, ética y transparente” (Grupo Russell). Pero la IAGen plantea también múltiples preocupaciones inmediatas relacionadas con cuestiones como la seguridad, la privacidad de los datos, los derechos de autor y la manipulación, las cuales deben comprenderse y abordarse prioritariamente.

Las herramientas de IAGen están surgiendo con una velocidad que supera ampliamente a la capacidad de adaptación.de marcos regulatorios nacionales, mientras que pocas instituciones educativas están preparadas para promover un uso adecuado. Las amplias posibilidades de los IAGen para procesar información y conocimiento, que replican el pensamiento de orden superior que constituye la base del aprendizaje humano, exhiben un enorme potencial para la educación.

Tales capacidades obligan a los responsables de las políticas educativas y a las instituciones a reflexionar sobre sus implicaciones a largo plazo para la creación, adquisición y validación del conocimiento. En esta nueva fase de la era digital es fundamental formular consideraciones críticas acerca de qué, por qué y cómo debe aprenderse.

Esta primera guía global de la UNESCO sobre IAGen en Educación tiene como objetivo ayudar a los países a implementar acciones inmediatas, planificar políticas de largo plazo y desarrollar la capacidad humana para garantizar una visión de estas nuevas tecnologías centrada en el ser humano, de manera que realmente beneficien y empoderen a los docentes, estudiantes e investigadores. Con base en la Recomendación de 2021 de la UNESCO sobre Ética de la Inteligencia Artificial, la guía: (a) Propone pasos clave para que las agencias gubernamentales regulen el uso de IAGen y presenta marcos y ejemplos concretos para la formulación de políticas y el diseño curricular que permitan usos éticos y efectivos de la IAGen en la educación, (b) Presenta una evaluación de los potenciales riesgos que la IAGen podría representar para los valores fundamentales de inclusión, equidad, igualdad de género, así como de diversidad y pluralidad lingüística y cultural, (c) Describe los requisitos para que los proveedores de IAGen promuevan su uso ético y efectivo en educación, (d) Enfatiza la necesidad de que las instituciones educativas validen los sistemas IAGen en cuanto a su aptitud ética y pedagógica para la educación y definan los contenidos, métodos y resultados, así como la forma de evaluar y validar el aprendizaje, (e) Formlula un llamado a la comunidad internacional para reflexionar sobre las implicaciones de IAGen -a largo plazo- para el conocimiento, la enseñanza, el aprendizaje y la evaluación, y (f) Ofrece recomendaciones concretas para los responsables políticos y las instituciones educativas sobre cómo diseñar los usos de las herramientas IAGen para beneficiar y empoderar genuinamente a los estudiantes, docentes e investigadores, con base en un enfoque centrado en el ser humano.

La Guía analiza primero qué es IAGen y cómo funciona, presentando las diversas tecnologías y modelos disponibles (Sección 1), antes de identificar una serie de cuestiones éticas y políticas controvertidas en torno a la IA en general y a la IAGen en particular (Sección 2). A esto le sigue una discusión de los pasos y elementos clave para regular IAGen con un enfoque centrado en el ser humano, que garantice un uso ético, seguro, equitativo y significativo (Sección 3). Luego, la Sección 4 propone medidas para desarrollar marcos de políticas coherentes e integrales para regular el uso de IAGen en educación e investigación, mientras que la Sección 5 analiza las posibilidades de utilizar IAGen de manera creativa en el diseño curricular, la enseñanza, el aprendizaje y las actividades de investigación. En la Sección 6 se presentan las conclusiones de la Guía, con consideraciones sobre las implicaciones de la IAGen -a largo plazo- para la educación y la investigación.