Newsletter DPT Nro. 42
ISSN 2618-236X
Octubre/ 2019
CUESTIONES DE INTERES
INTELIGENCIA ARTIFICIAL: SEGUNDA PARTE
Los sistemas de Inteligencia Artificial (IA) están diseñados para aprender a reconocer patrones, formular predicciones y tomar decisiones en contextos específicos.
En el numero anterior (Newsletter DPT N° 41, septiembre 2019) presentamos reseñas de un conjunto de notas relativas a desafíos planteados por la creciente incursión de la IA en diversos sectores y actividades humanas.
A continuación reseñamos un nuevo conjunto de cuestiones y notas pertinentes.
La problemática de las decisiones tomadas por algoritmos
Fuente: K@W: “Who Made That Decision: You or an Algorithm? Wharton’s Kartik Hosanagar discusses his new book on how algorithms influence our decisions”.Mar 25, 2019 Books Podcasts Research Video North America. Knowledge@Wharton
Entrevista de Knowledge@Wharton con Kartik Hosanagar referida a su reciente libro titulado “A Human’s Guide to Machine Intelligence: How Algorithms Are Shaping Our Lives and How We Can Stay in Control” (“Una guía humana para la inteligencia de máquina: cómo los algoritmos moldean nuestras vidas y cómo podemos mantener control”).
La entrevista focaliza en los desafíos que plantean los sistemas de “aprendizaje profundo” (“deep-learning”), en los cuales los algoritmos desarrollan procesos ٴ autónomos de aprendizaje y decisión con base en los datos que se les proporcionan. En ese marco se refiere a cómo pueden controlarse las decisiones adoptadas por algoritmos inteligentes mediante una participación humana -activa y deliberada- en el desarrollo y aplicación de esas tecnologías. Se plantea, asimismo, la pertinencia de una Carta de Derechos para garantizar la transparencia sobre los datos utilizados para tomar decisiones y sobre la decisión en sí. Otro pilar en la Carta de Derechos reside en el control humano sobre algoritmos que pueden influir en la vida de cientos de miles o incluso de millones de personas.
Las personas primero
Fuente: K@W’s: “Why We Need a People-first AI Strategy”. Knowledge@Wharton. Jun 07, 2019. Technology Content
La IA infunde hoy sensaciones de ilimitado entusiasmo (tipo panacea) o exasperante temor (a perder empleos, privacidad, transparencia, dignidad). El mayor desafío colectivo reside en aprender cómo la IA puede ayudar a empoderar y mejorar a las personas y cómo ello puede contribuir a mejorar la sociedad.
En una reciente entrevista con Knowledge@ Wharton, Soumitra Dutta señaló la necesidad de una “agencia humana” con facultad para auditar y evaluar los aprendizajes y decisiones de los sistemas de IA. El mayor problema reside en los sistemas de “aprendizaje profundo”, basados en redes neuronales y otras tecnologías, que siguen siendo -en gran medida- “cajas negras”. Otro desafío crucial reside en lograr una armónica coexistencia y complementación dinámica entre personas y máquinas, así como recalificar a las personas que resulten desplazadas.
Hacia una interfaz simbiótica cerebro-inteligencia artificial
Fuente primaria: “Elon Musk Announces Plan to ‘Merge’ Human Brains with AI”. By Mitch Bowman and Jason Koebler. Tech by Vice. Vice. Jul 17 2019
Fuente secundaria: “Elon Musk anuncia plan para ‘fusionar’ cerebros humanos con inteligencia artificial”. Por Mitch Bowman, y Jason Koebler (traducido añ español por Álvaro García). Tech by Vice. Vice 19 Julio 2019
Elon Musk, destacado “gurú” de la innovación global (fundador de Tesla Motors, Solar City y SpaceX), constituyó recientemente la empresa Neuralink, con el objetivo final de lograr una simbiosis entre los humanos y la inteligencia artificial (IA).
Uno de las metas de la nueva compañía se focaliza en crear un chip que pueda implantarse en el cerebro para tratar una variedad de lesiones y enfermedades cerebrales, como parálisis, Alzheimer y demencia. El dispositivo implantable consistiría en una gran cantidad de cables (extremadamente delgados) con electrodos en un extremo que se insertarían en lugares del cerebro donde puedan captar las señales eléctricas de neuronas individuales. Un chip recibe e interpreta los datos provenientes de dichos cables, y una “cápsula” transmite luego los datos a un dispositivo que ejecuta el software de interfaz. Dado el reducido tamaño del chip, de solo 4 mm por 5 mm, el equipo planea comenzar con cuatro chips en sus pruebas con humanos.
Los primeros ensayos clínicos en humanos, que comenzarían hacia finales de 2020, focalizarían en un dispositivo para permitir que los pacientes cuadripléjicos controlen una computadora. Esto implicará insertar los cables antes mencionados en la corteza motora primaria, lo que permitirá que el paciente afectado piense en mover su mano para mover el mouse, y que el dispositivo de interfaz interprete la actividad cerebral para mover el mouse de manera adecuada.
EE.UU. actualiza su Plan Estratégico de Inteligencia Artificial
Fuente primaria: “Executive Order on Maintaining American Leadership in Artificial Intelligence. Infrastructure & Technology”. White House, Washington DC, February 11, 2019.
El 11/02/2019 el presidente Trump firmó la Orden Ejecutiva “Mantener el liderazgo estadounidense en Inteligencia Artificial”, la cual incluye un Plan Estratégico Nacional de Investigación y Desarrollo de Inteligencia Artificial: Actualización 2019.
Dicha orden lanzó, a su vez, la Iniciativa Americana de IA, un esfuerzo concertado -que compromete al sector privado, la academia, la sociedad y los socios internacionales afines- con la finalidad de promover y proteger la tecnología e innovación en EE.UU.
Las directivas clave de la iniciativa instruyen a agencias federales para: (a) Priorizar las inversiones en investigación y desarrollo (I&D) de IA, (b) Mejorar el acceso a ciberinfraestructura y datos de alta calidad, (c) Garantizar el liderazgo de EE.UU en el desarrollo de estándares técnicos para IA, (d) Implementar oportunidades de educación y capacitación para preparar a la fuerza laboral para la nueva era de la IA.
La Actualización del Plan Estratégico Nacional de I&D de IA 2019 –basada en el publicado en 2016- define las áreas prioritarias para las inversiones federales, dando cuenta de las nuevas investigaciones e innovaciones técnicas surgidas en los últimos años. Dicha actualización establece un conjunto de objetivos para la investigación de IA financiada con fondos federales, con las siguientes prioridades estratégicas: (1) Promover inversiones a largo plazo I&D -en colaboración con la academia, la industria y otras entidades no federales- para que EE.UU mantenga su liderazgo mundial en IA y genere disrupciones tecnológicas que contribuyan al desarrollo económico y la seguridad nacional, (2) Mejorar el acceso a datos, modelos y recursos federales trazables y de buena calidad para la I&D en IA, manteniendo niveles de seguridad, privacidad y confidencialidad acordes con las leyes y políticas, (3) Reducir las barreras al uso de tecnologías de IA para promover su aplicación innovadora, protegiendo el avance tecnológico, el desarrollo económico, la seguridad nacional, los valores, las libertades civiles y la privacidad, (4) Asegurar que las normas técnicas minimicen la vulnerabilidad a los ataques de actores maliciosos y reflejen las prioridades federales para la innovación y la confianza pública en los sistemas que utilicen tecnologías de IA; y desarrollar estándares internacionales para promover y proteger esas prioridades, (5) Capacitar a la próxima generación de investigadores y usuarios de IA a través de pasantías; programas de capacitación; y educación en ciencia, tecnología, ingeniería y matemáticas, para garantizar que los trabajadores estadounidenses, incluidos los federales, puedan aprovechar al máximo las oportunidades de la IA, (6) Desarrollar e implementar un plan de acción, de conformidad con el Memorando Presidencial de Seguridad Nacional del 11/02/2019 (Protección de la ventaja de EE.UU en inteligencia artificial y tecnologías críticas relacionadas) (NSPM) para proteger la ventaja de EE.UU en IA contra competidores estratégicos y adversarios extranjeros.
