Newsletter DPT Nro. 88-90
ISSN 2618-236X
Septiembre-Noviembre / 2023
NOTICIAS EDUCATIVAS Y PEDAGOGICAS
NOTICIAS EDUCATIVAS Y PEDAGOGICAS INTERNACIONALES
La Inteligencia Artificial en el ámbito educativo y académico
Enriquece aprendizajes, alienta reivindicaciones e induce prevenciones
La creciente incursión de aplicaciones de Inteligencia Artificial (IA) en el ámbito educativo y académico, particularmente por el uso de chatbots inteligentes, ha generado diversas expectativas, pero también incipientes prevenciones y restricciones asociadas a posibles riesgos. Esta reseña comprende cuatro artículos. En el primero (1) se enuncian 10 posibles usos de la IA para mejorar la educación. En el segundo (2) se sintetiza una entrevista sobre la denominada “discriminación idiomática” que se manifiesta desde antaño en ciencia y tecnología y sobre cómo la IA podría contribuir a atenuarla. En el tercero (3) se fundamenta el rechazo, por parte de agencias financiadoras, al uso de la IA en la revisión por pares. En el cuarto (4) se relata una experiencia –desarrollada en un ámbito académico- sobre posibles usos malignos de los chatbots inteligentes en la investigación.
1.- Primer artículo: Usos de la IA para mejorar la educación (1)
En el sector Educación se percibe en la IA un inmenso potencial para: (a) hacer que la educación sea más atractiva y personalizada, (b) mejorar la accesibilidad, (c) complementar los estilos de aprendizaje individuales, y (d) mejorar la experiencia de aprendizaje tanto para el profesor como para el alumno. En el artículo aquí reseñado se delinean los siguientes diez ejemplos de aplicaciones de IA que pueden revolucionar al sector Educación.
1.- Aprendizaje personalizado: Todos tenemos diferentes estilos, preferencias y ritmos de aprendizaje. La IA permite encontrar patrones para desarrollar un aprendizaje personalizado. También ayuda con la planificación, programación y producción de lecciones, de manera que las experiencias -con disponibilidad 7×24- resulten únicas y gratificantes.
2.- Aprendizaje adaptativo: El aprendizaje adaptativo utiliza la IA para personalizar los recursos y las actividades de aprendizaje, con el propósito de satisfacer las necesidades únicas de cada alumno. El algoritmo de IA analiza rigurosamente el desempeño de cada estudiante, y ajusta el ritmo y la dificultad del material para optimizar el proceso de aprendizaje.
3.- Calificación automatizada: Calificar tareas y exámenes es una de las tareas que más tiempo consume en la educación. Con la ayuda de algoritmos de aprendizaje automático, las herramientas de IA pueden evaluar -con gran precisión y eficiencia- ensayos, tareas y pruebas, lo que ahorra tiempo, garantiza la consistencia en la calificación, elimina potenciales sesgos y proporciona comentarios personalizados a estudiantes y profesores.
4.- Sistemas de tutoría inteligente (ITS): Son impulsados por algoritmos que -con base en patrones de aprendizaje- proporcionan planes de enseñanza personalizados y adaptables basados en las necesidades y el ritmo de aprendizaje de cada alumno. Monitorean el progreso de cada alumno, les proveen el apoyo necesario y los desafían cuando están listos para avanzar.
5.- Creación de contenido inteligente: A través de las plataformas de IA, los alumnos pueden elegir el plan de lecciones que se alinea con sus características y preferencias. También puede ayudar a generar cuestionarios, simulaciones y experimentos interactivos, a través de chatbots, realidad aumentada o virtual.
6.- Análisis del aprendizaje: Las herramientas de IA permiten analizar grandes cantidades de datos de desempeño de los alumnos. Los resultados pueden utilizarse para realizar intervenciones oportunas y aportar apoyo a los alumnos que lo requieran. Por su parte, los alumnos también pueden usarlo para realizar un seguimiento de su propio aprendizaje y rendimiento. El análisis del aprendizaje individual plantea riesgos éticos y de privacidad que deben contemplarse en las aplicaciones.
7.- Asistentes administrativos virtuales: La IA puede encarar tareas administrativas, como la organización y programación de horarios, liberando tiempo de los profesores para que puedan concentrarse en tareas esenciales que demandan su atención.
8.- Procesamiento del lenguaje natural: Es un campo de la IA que se ocupa de crear sistemas informáticos que puedan comprender e interpretar los lenguajes humanos. Estos sistemas podrían contribuir, por ejemplo, a superar barreras idiomáticas en grupos de estudiantes con distintos idiomas.
9.- Modelación predictiva: Los sistemas de modelación predictiva basados en IA permiten –en función de diversas variables clave- identificar fortalezas, desafíos y potenciales de desarrollo en estudiantes, para poder orientarlos de manera personalizada.
10.- Realidad aumentada y virtual: Las tecnologías inmersivas permiten enriquecer las experiencias de aprendizaje. La “realidad aumentada” superpone imágenes generadas por computadora en objetos del mundo real, mejorando así la percepción –por parte del usuario- de la realidad proyectada. La “realidad virtual” exhibe un entorno virtual simulado en el cual el usuario puede experimentar sus estrategias y tácticas, como si se tratara de un entorno real. Por ejemplo, permite disponer de un laboratorio donde los estudiantes pueden realizar experimentos de biotecnología o bioingeniería.
Conclusión
El uso de la IA en la educación podría revolucionar las formas de aprendizaje. Pero no puede reemplazar la interacción y la empatía humanas, que son esenciales en el proceso de enseñanza y aprendizaje. Por otra parte, es crucial una cuidadosa consideración –en cada caso- de las cuestiones éticas, de seguridad y de privacidad implicadas.
2.- Segundo artículo: La IA podría contribuir a atenuar la “discriminación idiomática” en ciencia y tecnología (2.1.) (2.2.)
Según un estudio publicado en PLOS Biology por un grupo internacional de 11 autores, el omnipresente dominio del idioma inglés en las actividades de investigación (por ejemplo: revisar literatura, escribir, publicar, comunicar y participar en conferencias) provoca notorias dificultades para los angloparlantes no nativos (APNN) de todo el mundo. Según los autores, el mayor esfuerzo que los APNN deben dedicar a la “nivelación idiomática” puede obstaculizar su desarrollo y estancar sus carreras.
Para obtener mayor información sobre los obstáculos que enfrentan los APNN y cómo abordarlos, Science Careers (SC) entrevistó conjuntamente a los autores principales del estudio: Valeria Ramírez Castañeda (VRC), Ph.D. estudiante en la Universidad de California, Berkeley, y el conservacionista japonés Tatsuya Amano (TA), profesor titular de la Universidad de Queensland (Australia). A continuación, se presenta un resumen de la entrevista.
2.1.- SC: ¿Cómo fueron afectadas sus carreras por las barreras idiomáticas?
VRC: Cuando estaba elaborando mi tesis de maestría (en Colombia), intenté escribir el manuscrito en inglés, pero me resultó tan difícil que al final decidí escribirlo solo en español. Eso me alertó sobre la problemática del dominio del idioma inglés en la ciencia.
TA: Me afectó mucho. Cuando escribí mi primer artículo (como estudiante de posgrado en Japón), me tomó mucho tiempo redactarlo en inglés y mi supervisor me dijo que no podía publicarse con un inglés tan elemental. Presenté esa tesis en japonés y luego hice un gran esfuerzo para traducirla y publicarla en inglés. Fue una experiencia dura para mí, e incluso ahora (habiendo publicado ya muchos artículos en inglés) me lleva mucho tiempo y esfuerzo hacerlo, y eso rara vez es reconocido por la comunidad académica.
2.2.- SC: ¿Qué dificultades encontraron en sus estudios?
TA.: Encontramos significativas desventajas en cada tipo de actividad que realizamos. Por ejemplo, para leer un documento, los APNN necesitamos hasta el doble de tiempo que los angloparlantes nativos (APN). Para las publicaciones es 2,6 veces más probable que nuestros artículos sean rechazados y 12 veces más probable que se nos solicite una revisión idiomática. Y casi la mitad de los APNN decidieron no asistir a conferencias internacionales y alrededor de un tercio de ellos decidió no exponerse a una presentación oral porque no tenían confianza en su propio inglés. También descubrimos que el nivel de ingresos tiene un significativo efecto en la superación de las barreras idiomáticas; por ejemplo, en Japón es normal que los investigadores dispongan de financiamiento para solventar servicios profesionales de traducción al inglés, pero ello no ocurre, por ejemplo, en Colombia.
2.3.- SC: ¿En qué idioma difunden sus estudios los APNN?
TA.: Para nuestras carreras, tenemos que publicarlos en inglés porque ello es imprescindible para ser evaluado como investigador. Pero luego, como deseo difundir mis trabajos en Japón, debo traducirlos al japonés. Pero eso representa un gran esfuerzo adicional para nosotros.
VRC: Para mí es incoherente investigar en Colombia pero no publicar en español. ¿Quién puede acceder a lo publicado y realmente usarlo en el propio país?
2.4.- SC: ¿Visualizan algún factor que represente un obstáculo particularmente importante?
TA: Las mayores desventajas se presentan en las publicaciones. Además, si un artículo es rechazado, hay que hacer revisiones en inglés y probar con otras revistas, lo que multiplica el esfuerzo. Otro obstáculo está en la participación en conferencias, que implica mucho estrés mental, ansiedad e inseguridad, pero es fundamental para una carrera científica y para desarrollar una red de investigación. La insuficiente participación en conferencias puede conducir a la pérdida de oportunidades para los APNN.
VCR: Para mí fue muy impactante enterarme de que el 91% de los APNN necesitan más tiempo para leer. Ahora, que puedo hacerlo más fácilmente, experimento mayor sentido de pertenencia.
2.5.- SC: ¿Qué está perdiendo la comunidad científica por el hecho de que los APNN padezcan esas barreras?
TA: Los APNN constituyen el 95% de la población mundial. Entonces: ¿Es correcto mantener la actual dinámica idiomática para sólo el 5% de los investigadores? Nuestra respuesta es, obviamente, “no”. Tenemos muchos desafíos globales, incluida la conservación de la biodiversidad, la crisis climática global y las pandemias, y deberíamos involucrar a todos en este planeta para resolver estos problemas.
VCR: Somos seres pensantes en diferentes idiomas y eso significa diferentes formas de observar y entender el mundo, así como aportar diferentes soluciones. También queremos que los integrantes de las comunidades locales, por ejemplo, en Colombia, puedan leer el artículo que escribimos sobre la biodiversidad en Colombia, porque son los colombianos quienes deben opinar y decidir sobre eso. Preservar los idiomas y la diversidad idiomática es tan importante como preservar la diversidad biológica.
2.6.- SC: ¿Qué podrían hacer las instituciones, en lo inmediato, para equilibrar las situaciones?
TA: La responsabilidad de las revistas es enorme porque son las “guardianas” de la ciencia. Pueden utilizar la traducción automática para producir resúmenes en idiomas alternativos o, idealmente, traducciones completas. Algunas, como las revistas de la Sociedad Ecológica Británica, ya integran herramientas de edición idiomática con IA en el sistema de envío de artículos para la revisión. Esto representa una solución para países de bajos ingresos, cuyos investigadores no tienen acceso a servicios de edición en inglés. En cuanto a las conferencias científicas, deberían crearse entornos más inclusivos; por ejemplo, algunas ya permiten que los hispanohablantes presenten sus aportes en español, con subtítulos en inglés.
VCR: Necesitamos un esfuerzo concertado. Si bien los APNN pueden gastar más dinero y esfuerzo para mejorar su inglés, ello no es suficiente ni es justo. Por eso toda la comunidad científica tiene que hacer algo; nosotros no podemos hacer todo.
2.7.- SC: ¿Qué ocurre con los APNN a nivel individual?
TA: Muy a menudo se confunde la calidad del inglés de una persona con su calidad científica o con su nivel educativo. Pero eso no es correcto: la calidad científica no está correlacionada con la calidad del inglés. Esas dos variables deben distinguirse explícitamente, y eso es algo que puede hacerse al evaluar documentos o propuestas de subvenciones o al realizar entrevistas de trabajo. Deberíamos ver a los APNN a través de sus activos en lugar de sus deficiencias, porque ser APNN significa poder hablar otros idiomas y tener un relevante papel para conectar dos culturas diferentes.
VCR: Durante un tiempo, al percibirse que el idioma internacional era el inglés, sólo obtenían beneficios las personas que publicaban en inglés, lo que disuadía a las demás de publicar en sus propios idiomas. Para los investigadores locales sería muy importante clasificar las publicaciones que no están en inglés con un nivel equivalente a las publicaciones en inglés. Para nosotros es muy importante seguir hablando de la sociedad multilingüe en general, porque la diversidad lingüística también significa diversidad biológica y cultural.
Abordar el problema de la discriminación fáctica de los APNN requerirá el compromiso de instituciones, editores y financiadores por igual, y sus acciones deberán ser drásticas. Por ejemplo, Michael Gordin, historiador de la Universidad de Princeton, señala que las agencias que financian la investigación internacional podrían exigir que los artículos científicos se publiquen primariamente en el idioma del país donde se realizaron. Las herramientas de IA podrían ayudar a nivelar el campo de juego, pero los editores y las revistas (incluida Science) deberían revisar e incluso revertir por completo sus políticas referidas al uso de la IA para escribir y revisar (ver 3.- Tercer artículo). Dichos pasos son factibles y deberían tomarse de inmediato.
3.- Tercer artículo: Agencias financiadoras de investigación rechazan el uso de IA en la revisión por pares: Por cuestiones de confidencialidad, confiabilidad y originalidad del pensamiento (3)
Un investigador y revisor de los Institutos Nacionales de Salud (NIH) dijo -públicamente y con entusiasmo- que la herramienta de IA ChatGPT resultaba ya imprescindible para redactar revisiones críticas de propuestas de investigación. Otros participantes coincidieron y dijeron que ChatGPT permitía un gran ahorro de tiempo: “para redactar una revisión crítica sólo es necesario pegar partes de la propuesta sujeta a revisión -como el resumen, los objetivos y la estrategia de investigación- y pedirle a la IA que evalúe críticamente la información”.
Sin embargo, tanto los NIH como otras agencias de financiamiento están prohibiendo el uso de la IA en las revisiones. El 23 de junio, NIH prohibió el uso de herramientas de IA generativa en línea (como ChatGPT) “para analizar y formular críticas de revisión por pares”. Lo mismo hizo, el 7 de julio, el Consejo Australiano de Investigación (ARC). La Fundación Nacional de Ciencias de EE.UU. formó un grupo de trabajo interno para analizar si puede haber usos apropiados de la IA como parte del proceso de revisión de méritos y, de ser así, qué “barreras de protección” pueden ser necesarias. Y el Consejo Europeo de Investigación prevé discutir acerca del uso de la IA tanto para escribir como para evaluar propuestas.
La mayor preocupación reside en la confidencialidad. Cuando partes de una propuesta se introducen en una herramienta de IA en línea, la información pasa a formar parte de sus datos de entrenamiento y causa inquietud el hecho de no tener claro “dónde se envían, guardan, visualizan o utilizan los datos”.
Las revisiones escritas por IA también preocupan a los críticos, ya que dichos sistemas carecen de creatividad y han sido entrenados con información preexistente. “Se pierde la originalidad del pensamiento e incluso puede incurrirse en plagio”, señalaron funcionarios de los NIH. Para las revistas es también una preocupación la responsabilidad de los revisores. “No hay garantía de que el revisor entienda o que esté de acuerdo con el contenido que está proporcionando”, dice Kim Eggleton, quien dirige la revisión por pares en IOP Publishing.
Mientras los revisores pueden percibir que ChatGPT produce comentarios significativos, lo que realmente hace es “regurgitar” respuestas. Si bien algunos revisores humanos hacen lo mismo, hay una gran diferencia entre una revisión adecuada -que proporciona información crítica, opinión informada y evaluación de un experto- y un mero comentario sobre lo que ya está en una propuesta.
Sin embargo, algunos investigadores dicen que la IA ofrece la oportunidad de mejorar el proceso de revisión por pares y consideran a la prohibición de los NIH como una “retirada tecnofóbica” de la oportunidad de un cambio positivo. Los revisores pueden usar las herramientas de IA para verificar sus propias críticas y chequear si han pasado por alto algún aspecto relevante.
Mohammad Hosseini, investigador posdoctoral de ética en la Universidad Northwestern, señala que -por ahora- la prohibición de los NIH es razonable: “Dada la sensibilidad de los problemas y proyectos que abordan los NIH, y la novedad de las herramientas de IA, es absolutamente necesario adoptar un enfoque cauteloso y mesurado”
4.- Cuarto artículo: ¿Pueden los chatbots ayudar a desarrollar virus para desencadenar próximas pandemias?: Ejercicios en el ámbito académico: (4.1.) (4.2)
Los expertos en tecnología han estado advirtiendo acerca de los eventuales daños que podrٳa provocar el uso de la inteligencia artificial (IA). Ahora, Kevin Esvelt agrega otra preocupación: la IA podría ayudar a alguien sin conocimientos científicos y con malas intenciones a ordenar la generación de un virus capaz de desencadenar una nueva pandemia.
Esvelt, un experto en bioseguridad del Instituto Tecnológico de Massachusetts (MIT), pidió recientemente a estudiantes de posgrado que crearan un virus peligroso con la ayuda de ChatGPT u otros grandes modelos de lenguaje. Después de sólo una hora, el grupo entregó listas de virus candidatos y compañías que podrían sintetizar su código genético y ensamblar sus componentes (ver abajo: Descripción del ejercicio).
Esvelt y otros señalan que el ejercicio muestra que los sistemas de IA pronto podrían permitir que personas ajenas al ámbito científico diseñen armas biológicas. Los expertos en bioseguridad ya estaban preocupados por el hecho de que la cultura de intercambiar abiertamente información biológica (incluyendo secuencias de virus) podría ser aprovechada por bioterroristas para obtener modelos para desarrollar nuevas armas biológicas. Pero hasta ahora, ello hubiera requerido una experiencia considerable: el potencial terrorista necesitaría identificar un virus candidato, sintetizar el material genético viral y combinarlo con otros reactivos para “arrancar” un virus capaz de infectar células y reproducirse.
Pero todos esos pasos se están simplificando rápidamente. Por ejemplo, las nuevas impresoras de ADN permitirían a los interesados eludir la evaluación que la mayoría de las empresas de biología sintética realizan para garantizar que ningún pedido incluya material genético para posibles armas biológicas. Alguien con intenciones maliciosas podría enviar estos planos genéticos a una de las docenas de compañías de investigación contratistas para ensamblarlos en un virus objetivo. La IA podría reducir aún más las barreras.
Descripción del ejercicio
Para realizar el ejercicio Esvelt dividió a un grupo de estudiantes de posgrado (dentro del curso ‘Salvaguardar el futuro’ del MIT), sin conocimientos ni experiencia en ciencias de la vida, en tres subgrupos, cada uno con 3 o 4 miembros. Todos los subgrupos tenían acceso a GPT-4, Bard y otros chatbots de IA, y se les dio un plazo de 1 hora para recurrir a los chatbots para diseñar y desarrollar agentes capaces de causar una pandemia.
Al cabo de esa hora, los chatbots habían sugerido 4 virus: (a) el de la influenza H1N1 de 1918, (b) un virus de la influenza aviar H5N1 de 2012, (c) el virus de la viruela variola mayor, y (d) una cepa del virus Nipah. En algunos casos, los chatbots incluso señalaron mutaciones genéticas reportadas en la literatura para aumentar la trasmisión. Los motores de IA también describieron técnicas para ensamblar un virus a partir de su secuencia genética, así como los suministros de laboratorio necesarios y las empresas que podrían proporcionarlos. Finalmente, los chatbots incluso sugirieron empresas que podrían imprimir material genético sin examinarlo y laboratorios que podrían ayudar a ensamblar los componentes.
Esvelt duda de que las sugerencias de estos chatbots representen –en lo inmediato- una gran amenaza de pandemia. Antes de asignar el ejercicio al curso, él mismo verificó que no surgieran sugerencias realmente amenazantes, y compartió su plan con otros expertos en bioseguridad. Sin embargo, cree que el experimento subraya cómo la IA y otras herramientas podrían facilitar a posibles terroristas desatar nuevas amenazas a medida que la creciente literatura sobre amenazas biológicas se incorpore a los datos de entrenamiento de la IA.
Esvelt señala la posibilidad de restringir la información disponible para chatbots y otros motores de IA, excluyendo de los conjuntos de entrenamiento los artículos en línea que describen recetas para crear y mejorar patógenos: “ello sería suficiente para eliminar casi todo el riesgo”. El equipo de Esvelt estima que esos artículos representan menos del 1% de la base de datos de resúmenes de PubMed. El costo de dicha exclusión sería que los motores de IA no podrían usar esos documentos para hacer avanzar la biología de manera positiva, pero el beneficio de prevenir el mal uso sería “práctico e inmediato”.
Otras salvaguardas podrían incluir exigir a todas las empresas de síntesis de ADN y futuras impresoras de ADN que evalúen el material genético contra toxinas y patógenos conocidos, y exigir a las organizaciones de investigación por contrato (CRO) que verifiquen la seguridad de cualquier material genético que se les solicite ensamblar.
Referencias:
(1) “10 examples of how artificial intelligence is improving education: AI is revolutionizing many industries such as medicine and finance, so what about education? Let’s take a look at some examples of how AI is improving education” By Tejasri Gurura. Interesting Engineeering. Artificial intelligence in education. May 11, 2023
(2.1.) “News at a glance: Ben Franklin’s anticounterfeiting, science’s English language barrier, and disclosing stigmatized identities to students” By Science News Staff. Science. The latest in science and policy. 20 Jul 2023.
(2.2.) “For nonnative English speakers, scientific careers bring particular challenges”. By Claudia López Lloreda. Science. 18 Jul 2023
(3) “Science funding agencies say no to using AI for peer review: Concerns include confidentiality, accuracy, and “originality of thought”. By Jocelyn Kaiser. Science. Science Insider. Scientific Community. 14 Jul 2023. DOI: 10.1126/science.adj7663
(4.1.) Fuente primaria: “Can large language models democratize access to dual-use biotechnology?” Emily H. Soice, Rafael Rocha, Kimberlee Cordova, Michael Specter, Kevin M. Esvelt. arXiv Computer Science. Computers and Society. 6 Jun 2023. arXiv:2306.03809v1. DOI: 10.48550/arXiv.2306.03809
(4.2.) Fuente secundaria: “Could chatbots help devise the next pandemic virus?: An MIT class exercise suggests AI tools can be used to order a bioweapon, but some are skeptical” By Robert F. Service. Science. Scienceinsider. News. 14 Jun 202. © 2023 American Association for the Advancement of Science. DOI: 10.1126/science.adj2463. A version of this story appeared in Science, Vol 380, Issue 6651.