N.68 – UNESCO: Relevantes declaraciones

La 41ª reunión de la Conferencia General de la UNESCO, celebrada en París, concluyó el 24/11/2021 con la adopción de acuerdos clave que muestran una renovada cooperación multilateral en cuestiones de alta relevancia global. La presente reseña comprende tres (3) documentos. El primero (1) trata sobre la consulta global abierta por parte de la iniciativa “Los futuros de la educación”. El segundo (2) es la Recomendación sobre Ética de la Inteligencia Artificial. El tercero (3) es el Proyecto de Recomendación sobre la Ciencia Abierta.

1.- Primer documento: Los futuros de la educación: un nuevo contrato social para la educación (1)

La iniciativa de la UNESCO “Los futuros de la educación” tiene como objetivo repensar la educación y dar forma al futuro. Está catalizando un debate mundial sobre cómo replantear el conocimiento, la educación y el aprendizaje en un mundo de creciente complejidad, incertidumbre y precariedad. El propósito es “pensar juntos para que podamos actuar juntos para crear los futuros que queremos”.

Para plasmar esta iniciatva, la Directora General de la UNESCO convocó una Comisión Internacional independiente, liderada por la Presidenta de la República Democrática Federal de Etiopía -Sahle-Work Zewde- para elaborar un informe mundial sobre los Futuros de la Educación. Los miembros de la Comisión son líderes de pensamiento en los ámbitos de la política, la academia, las artes, la ciencia, las empresas y la educación. La Comisión estudiará detenidamente las aportaciones recibidas a través de las consultas mediante un proceso de inteligencia colectiva que se plasmará en el informe mundial y en otros productos del conocimiento relacionados con la iniciativa.

La Comisión se centrará en repensar el papel de la educación, aprendizaje y conocimiento a la luz de los enormes desafíos y oportunidades de futuros previsibles, posibles y preferidos. Hasta la fecha concretó varias publicaciones, incluido un documento de “Avances Recientes” (marzo de 2021) y un informe de junio 2020 titulado “La educación en un mundo tras la COVID: nueve ideas para la acción pública”. Su trabajo está respaldado por una amplia consulta pública y una extensa investigación de antecedentes.

A través de la iniciativa “Los futuros de la educación: aprender a transformarse” se procura suscitar diálogos sobre cómo el conocimiento y el aprendizaje pueden moldear el futuro de la humanidad y del planeta. Las aportaciones de individuos, redes y organizaciones -en esta consulta global y abierta- alimentarán el trabajo de la Comisión Internacional y darán forma al debate mundial.

2.- Segundo documento: Recomendación sobre Ética de la Inteligencia Artificial (2.1.) (2.2.)

Durante la 41ª reunión de la Conferencia General, los 193 Estados miembros de la UNESCO adoptaron la Recomendación sobre Ética de la Inteligencia Artificial, la cual fue presentada como una guía para “afrontar de manera responsable los efectos conocidos y desconocidos de la inteligencia artificial en los seres humanos, las sociedades, el medio ambiente y los ecosistemas”. La guía contempla los principios que deben inspirar el desarrollo de tecnologías hoy controvertidas y aborda también temas como la diversidad cultural y lingüística. “Este texto establece por primera vez un marco normativo mundial para el uso de la inteligencia artificial. Se basa para ello en tres pilares: el respeto de los derechos humanos, el Estado de Derecho y la lucha contra la discriminación”, explicó Audrey Azoulay, directora general de la UNESCO.

En la redacción del documento, que se inició a principios de 2020, participaron grupos de expertos, representantes de Google, Facebook, Microsoft, las Universidades de Stanford y Nueva York, la Academia China de Ciencia y Tecnología. En septiembre de 2020 se presentó un primer borrador y se abrió el plazo para que los países presentaran sus comentarios y observaciones sobre el texto, que continuó en revisión hasta la última conferencia general.

El documento de 30 páginas que Azoulay caracteriza como un “texto histórico” no es legalmente vinculante, pero se prevé que se constituirá en una referencia global para el desarrollo y uso ético de esta tecnología: “La UNESCO pide a sus 193 Estados miembros que tomen todas las medidas necesarias para aplicar este marco ético. La Organización evaluará periódicamente su aplicación, pidiendo a los Estados que informen sobre sus progresos y prácticas en este ámbito. Estos resultados serán analizados por expertos y sometidos a debate público de forma transparente”, precisa Azoulay.

Con relación a las tecnologías más cuestionadas en la actualidad, se establecen pautas como las siguientes: (a) sistemas de reconocimiento facial: “no deben ser utilizados con fines de vigilancia masiva o rendición de cuentas sociales”, (b) armas autónomas: “las decisiones de vida o muerte no deben ser tomadas por sistemas de inteligencia artificial; la última palabra debe ser humana”. El documento aborda también diversas cuestiones relevantes, como el potencial efecto de los sistemas de recomendación que emplean las plataformas de streaming como Netflix o Spotify en la diversidad cultural y lingüística. Se hace un llamamiento a los países para que trabajen en la mejor comprensión y evaluación de los efectos positivos como de los potencialmente perjudiciales de los sistemas de recomendación. Con vistas a un hipotético futuro donde las personas interactuemos con robots y sistemas de inteligencia artificial capaces de reconocer y reproducir emociones humanas, el documento requiere que se evalúen las implicaciones éticas de estas relaciones, dado que podrían someter a niños y adultos a manipulaciones y consecuencias negativas para su salud mental. Se subraya la necesidad de que los individuos estén en todo momento informados sobre si están tratando con uno de estos sistemas o son objeto de decisiones tomadas por ellos. Se pide también que se establezcan mecanismos para acceder a las razones que guían una decisión que afecta a los derechos o libertades de los usuarios, así como vías para impugnarla o solicitar una reevaluación.

Otras materias incluidas en el documento son la protección de la privacidad, la prevención de los sesgos que puedan afectar al desempeño de esos sistemas, la promoción de un entorno más inclusivo en el sector, e incluso la reducción del impacto ambiental de esos sistemas. De acuerdo con un estudio publicado en la revista Nature, entrenar un algoritmo de inteligencia artificial puede producir cerca de 300.000 kilos de dióxido de carbono, lo que equivale a 125 vuelos de ida y vuelta entre Nueva York y Pekín. Además, la UNESCO exige que los gobiernos eduquen a sus ciudadanos en los derechos digitales que se procura proteger, de manera que sean conscientes de sus derechos y dispongan de las habilidades de pensamiento crítico necesarias para navegar la esfera digital, así como empoderarlos para que exijan la rendición de cuentas a las empresas tecnológicas y que la IA sea desarrollada de forma humana y ética.

3.- Tercer documento: Proyecto de Recomendación sobre la Ciencia Abierta (3)

El Proyecto de Recomendación sobre la Ciencia Abierta contiene las siguientes secciones: Preámbulo, (i) Finalidad y objetivos, (ii) Definición de Ciencia Abierta, (iii) Valores fundamentales y principios rectores, (iv) Ámbitos de acción, y (v) Seguimiento. Con finalidad sinóptica, esta reseña sólo aborda tres secciones: (a) Finalidad y objetivos, (b) Definición de Ciencia Abierta, y (c) Valores fundamentales y principios rectores. Los interesados pueden acceder al contenido completo del documento, tanto en español como en inglés (3):

(a) Finalidad y Objetivos: El objetivo de la Recomendación es “proporcionar un marco internacional para las políticas y prácticas de la ciencia abierta que reconozca las diferencias disciplinarias y regionales en las perspectivas de la ciencia abierta, tenga en cuenta la libertad académica, los enfoques transformadores en materia de género y los desafíos específicos a los que se enfrentan los científicos y otros agentes de la ciencia abierta en diferentes países y, en particular, en los países en desarrollo, y contribuya a reducir las brechas digital, tecnológica y de conocimientos que existen entre los países y dentro de ellos. Se expone una definición común, así como valores, principios y normas compartidos para la ciencia abierta a escala internacional, y se propone un conjunto de medidas que propicien una implantación justa y equitativa de la ciencia abierta para todas las personas en los planos individual, institucional, nacional, regional e internacional. Los principales objetivos y ámbitos de acción de la Recomendación son los siguientes: (i) promover una definición común de la ciencia abierta, de los beneficios y desafíos que conlleva y de los diversos medios de acceder a ella; (ii) crear un entorno normativo propicio para la ciencia abierta; (iii) invertir en infraestructuras y servicios de ciencia abierta; (iv) invertir en recursos humanos, formación, educación, alfabetización digital y desarrollo de capacidades para la ciencia abierta; (v) fomentar una cultura de la ciencia abierta y armonizar los incentivos en favor de la ciencia abierta; vi) promover enfoques innovadores para la ciencia abierta en las diferentes etapas del proceso científico; vii)promover la cooperación internacional y multipartita en el contexto de la ciencia abierta y con miras a reducir las brechas digital, tecnológica y de conocimientos”.

(b)- Definición de Ciencia Abierta: A los efectos de la Recomendación, “Se define como un constructo inclusivo que combina diversos movimientos y prácticas con el fin de que los conocimientos científicos multilingües estén abiertamente disponibles y sean accesibles para todos, así como reutilizables por todos, se incrementen las colaboraciones científicas y el intercambio de información en beneficio de la ciencia y la sociedad, y se abran los procesos de creación, evaluación y comunicación de los conocimientos científicos a los agentes sociales más allá de la comunidad científica tradicional. La ciencia abierta comprende todas las disciplinas científicas y todos los aspectos de las prácticas académicas, incluidas las ciencias básicas y aplicadas, las ciencias naturales y sociales y las humanidades, y se basa en los siguientes pilares clave: conocimiento científico abierto, infraestructuras de la ciencia abierta, comunicación científica, participación abierta de los agentes sociales y diálogo abierto con otros sistemas de conocimiento”. (Nota del Editor: Los referidos pilares clave son definidos con amplio detalle en el documento)

(c) Valores fundamentales y Principios rectores:

“Los valores fundamentales de la ciencia abierta se derivan de las implicaciones éticas, epistemológicas, económicas, jurídicas, políticas, sociales, multipartitas y tecnológicas, así como de las relativas a los derechos, relacionadas con la apertura de la ciencia a la sociedad y la ampliación de los principios de apertura a todo el ciclo de la investigación científica. Entre estos valores se incluyen los siguientes: (a) calidad e integridad: la ciencia abierta debería respetar la libertad académica y los derechos humanos y favorecer una investigación de alta calidad mediante la utilización de múltiples fuentes de conocimiento y la difusión amplia de los métodos y los resultados de la investigación para garantizar un control y un examen rigurosos, así como unos procesos de evaluación transparentes; (b) beneficio colectivo como bien público mundial: la ciencia abierta debería pertenecer a la humanidad en común y beneficiar a la humanidad en su conjunto. Para ello, el conocimiento científico debería estar disponible abiertamente y sus beneficios deberían ser compartidos universalmente. La práctica de la ciencia debería ser inclusiva, sostenible y equitativa, incluso por lo que respecta a las oportunidades de educación científica y desarrollo de capacidades; (c) equidad y justicia: la ciencia abierta debería contribuir en gran medida a garantizar la equidad entre los investigadores de los países desarrollados y de los países en desarrollo, favoreciendo el intercambio justo y recíproco de las aportaciones y los resultados científicos y la igualdad de acceso al conocimiento científico tanto para los productores como para los usuarios de conocimientos, independientemente de su ubicación, nacionalidad, raza, edad, género, nivel de ingresos, circunstancias socioeconómicas, etapa profesional, disciplina, lengua, religión, discapacidad, etnia o situación migratoria o de cualquier otro motivo; (d) diversidad e inclusión: la ciencia abierta debería abarcar una diversidad de conocimientos, prácticas, flujos de trabajo, lenguas, resultados y temas de investigación que se ajusten a las necesidades y al pluralismo epistémico de la comunidad científica en su conjunto, las diversas comunidades de investigación y los académicos, así como el público en general y los depositarios de conocimientos ajenos a la comunidad científica tradicional, incluidos los pueblos indígenas y las comunidades locales, y los agentes sociales de diferentes países y regiones, según proceda”.

“Los siguientes principios rectores de la ciencia abierta proporcionan un marco para establecer condiciones y prácticas favorables al respeto de los valores enunciados anteriormente y a la consecución de los ideales de la ciencia abierta: (a) transparencia, control, crítica y reproducibilidad: se debería promover una mayor apertura en todas las etapas de la actividad científica, con miras a reforzar la solidez y el rigor de los resultados científicos, aumentar la repercusión de la ciencia en la sociedad y mejorar la capacidad de la sociedad en su conjunto para resolver problemas complejos e interconectados. Esta mayor apertura contribuye a aumentar la transparencia y la confianza en la información científica y refuerza la característica fundamental de la ciencia, que es una forma específica de conocimiento basada en pruebas y verificada a la luz de la realidad, la lógica y el control por pares científicos; (b) igualdad de oportunidades: todos los científicos y demás agentes y partes interesadas de la ciencia abierta, independientemente de su ubicación, nacionalidad, raza, edad, género, nivel de ingresos, circunstancias socioeconómicas, etapa profesional, disciplina, lengua, religión, discapacidad, etnia o situación migratoria o de cualquier otro motivo, tienen las mismas oportunidades para acceder y contribuir a la ciencia abierta y beneficiarse de ella; (c) responsabilidad, respeto y rendición de cuentas: una mayor apertura conlleva una mayor responsabilidad para todos los agentes de la ciencia abierta, lo cual, junto con la rendición de cuentas pública, la sensibilidad ante los conflictos de intereses, la vigilancia acerca de las posibles consecuencias sociales y ecológicas de las actividades de investigación, la integridad intelectual y el respeto de los principios e implicaciones éticos de la investigación, debería constituir la base para la buena gobernanza de la ciencia abierta; (d) colaboración, participación e inclusión: la colaboración en todos los niveles del proceso científico —más allá de los límites geográficos, las barreras lingüísticas y las brechas generacionales y de recursos— debería convertirse en la norma, y debería fomentarse la colaboración interdisciplinaria, así como la participación plena y efectiva de los agentes sociales y la integración de los conocimientos de las comunidades marginadas en la solución de los problemas de importancia social; e) flexibilidad: debido a la diversidad de sistemas, agentes y capacidades existentes en todo el mundo en el ámbito de la ciencia, así como a la constante evolución de las tecnologías de la información y la comunicación en las que se apoyan, no existe una forma única de practicar la ciencia abierta. Conviene alentar diferentes vías de transición hacia la ciencia abierta y diferentes modos de practicarla, siempre que se respeten los valores fundamentales enunciados anteriormente y se fomente la máxima adhesión a los demás principios aquí presentados; (f) sostenibilidad: para ser lo más eficiente y eficaz posible, la ciencia abierta debería basarse en prácticas, servicios, infraestructuras y modelos de financiación a largo plazo que garanticen la participación equitativa de los productores científicos procedentes de instituciones y países menos favorecidos. Las infraestructuras de la ciencia abierta deberían organizarse y financiarse con una visión esencialmente a largo plazo y sin fines de lucro, que potencie las prácticas de la ciencia abierta y garantice a todas las personas un acceso permanente y sin restricciones en la mayor medida posible”.