N.87 – El Parlamento Europeo aprobó el Reglamento

En materia de Inteligencia Artificial (IA) existe ya cierto consenso mundial acerca de la necesidad de que: (a) la IA alcance todo su potencial, (b) se asegure que los beneficios de la IA lleguen a todos los habitantes del mundo, y (c) se prevengan y controlen los eventuales daños, riesgos y amenazas de la IA. En ese marco, el Parlamento Europeo aprobó recientemente el Reglamento de IA, que se destaca como la primera normativa integral sobre IA. Por otra parte, la ONU formuló un conjunto de criterios fundamentales para una regulación mundial de la IA.

Esta reseña comprende tres artículos. El primero (1) trata sobre los fundamentos y las pautas de funcionamiento previstas en el Reglamento de IA de la Unión Europea (UE). En el segundo (2) se delinea un balance de virtudes y desafíos del Reglamento de IA de la UE. En el tercero (3) se enuncian algunas propuestas de las Naciones Unidas para una regulación que contribuya a que la IA beneficie a todos los habitantes del mundo.

1.- Primer artículo: Fundamentos y funcionamiento previsto del Reglamento de IA de la UE (1.1.) (1.2.) (1.3.) (1.4.) (1.5.) (1.6.) (1.7.)

El uso de la inteligencia artificial (IA) en la Unión Europea (UE) estará regulado por la Ley de Inteligencia Artificial, la primera ley integral sobre Inteligencia Artificial (IA) en el mundo. En la nota aquí reseñada se proporciona información sobre sus fundamentos y funcionamiento previsto.

Fundamentos y objetivos

Como parte de su estrategia digital, la UE quiere regular la IA para garantizar mejores condiciones de desarrollo y uso de esta tecnología innovadora. La IA es un conjunto de tecnologías de rápida evolución que puede generar un amplio abanico de beneficios económicos y sociales en todos los sectores y actividades sociales. Mediante la mejora de la predicción, la optimización de las operaciones y de la asignación de recursos, así como la personalización de servicios, la IA puede facilitar la consecución de resultados positivos desde el punto de vista social y medioambiental, así como proporcionar ventajas competitivas esenciales a las empresas y la economía europea. No obstante, los mismos elementos y técnicas que potencian los beneficios socioeconómicos de la IA también pueden dar lugar a nuevos riesgos o consecuencias negativas para personas concretas o para la sociedad en su conjunto.

La IA debe ser un instrumento para las personas y una fuerza positiva en la sociedad, y su fin último debe ser incrementar el bienestar humano. En consecuencia, las normas relativas a la IA deben estar centradas en las personas, a fin de que la población tenga la seguridad de que la tecnología se usa de un modo seguro, en consonancia con la ley y respetando los derechos fundamentales.

En este contexto, se propone un marco reglamentario sobre IA con los siguientes objetivos específicos: (a) garantizar que los sistemas de IA introducidos y usados en el mercado de la UE sean seguros y respeten la legislación vigente en materia de derechos fundamentales y valores de la Unión, (b) garantizar la seguridad jurídica para facilitar la inversión e innovación en IA, (c) mejorar la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y los requisitos de seguridad aplicables a los sistemas de IA, y (d) facilitar el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de las aplicaciones de IA y evitar la fragmentación del mercado.

Para alcanzar dichos objetivos, la propuesta presenta un enfoque normativo horizontal, equilibrado y proporcionado, que se limita a establecer los requisitos mínimos necesarios para subsanar los riesgos y problemas vinculados con la IA, sin obstaculizar ni impedir indebidamente el desarrollo tecnológico y sin aumentar de un modo desproporcionado el coste de introducir soluciones de IA en el mercado.

Qué no puede faltar -según el Parlamento- en la legislación sobre IA

La prioridad del Parlamento es garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Para evitar resultados perjudiciales, los sistemas de IA deben ser supervisados por personas, en lugar de “por la automatización”. El Parlamento también quiere establecer una definición uniforme y tecnológicamente neutra de la IA que pueda aplicarse a futuros sistemas de IA.

Normas diferentes para niveles diferentes de riesgo

La nueva normativa establece obligaciones para proveedores y usuarios en función del nivel de riesgo de la IA.

– Riesgo inaceptable

Los sistemas de IA de riesgo inaceptable son los que se consideran una amenaza para las personas y serán prohibidos. Incluyen: (a) manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos; por ejemplo, juguetes que fomentan comportamientos peligrosos en los niños, (b) puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales, (c) sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial. Existen algunas excepciones a esta calificación. Por ejemplo, los sistemas de identificación biométrica a distancia “a posteriori”, en los que la identificación se produce tras un retraso significativo, se permitirán para perseguir delitos graves y sólo cuando haya previa aprobación judicial.

– Alto riesgo

Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y se dividirán en dos categorías:

1.- Los sistemas de IA que se utilicen en productos sujetos a la legislación de la UE sobre seguridad de los productos. Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores.

2.- Los sistemas de IA pertenecientes a ocho ámbitos específicos que deberán registrarse en una base de datos de la UE: (a) identificación biométrica y categorización de personas físicas, (b) gestión y explotación de infraestructuras críticas, (c) educación y formación profesional, (d) empleo, gestión de trabajadores y acceso al autoempleo, (e) acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas, (f) aplicación de la ley, (g) gestión de la migración, el asilo y el control de fronteras, (h) asistencia en la interpretación jurídica y aplicación de la ley. Todos los sistemas de IA de alto riesgo serán evaluados antes de su comercialización y a lo largo de su ciclo de vida. IA generativa: La IA generativa, como ChatGPT, deberá cumplir requisitos de transparencia: (a) revelar que el contenido ha sido generado por IA, (b) diseñar el modelo para evitar que genere contenidos ilegales, (c) publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento.

– Riesgo limitado

Los sistemas de IA de riesgo limitado deben cumplir unos requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con conocimiento de causa. Tras interactuar con las aplicaciones, el usuario puede decidir si desea seguir utilizándolas. Los usuarios deben ser conscientes de cuándo están interactuando con la IA. Esto incluye los sistemas de IA que generan o manipulan contenidos de imagen, audio o vídeo (por ejemplo, deepfakes).

Próximos pasos

El 14 de junio de 2023, los eurodiputados manifestaron su favorable disposición negociadora sobre la ley de IA. Ahora comenzarán las conversaciones sobre la forma final de la ley en el Consejo, junto a los países de la UE. El objetivo es alcanzar un acuerdo a finales de 2023.

2.- Segundo artículo: Un balance de virtudes y desafíos del Reglamento de IA de la UE (2)

El innovador proyecto de ley adoptado con una abrumadora mayoría por el Parlamento Europeo ofrece una visión del futuro de la gobernanza de la inteligencia artificial (IA). La Ley de IA (AIA) tiene como objetivo salvaguardar los derechos fundamentales y garantizar el desarrollo ético de la IA en Europa y más allá. Es el marco más ambicioso diseñado, hasta la fecha, para guiar el desarrollo y uso de la IA. Si bien la forma final de AIA surgirá de las conversaciones con el Consejo Europeo y la Comisión, la decisión del Parlamento Europeo ofrece una oportunidad para un adecuado aprestamiento de la comunidad de IA.

La AIA es aclamada como “la primera ley integral del mundo que regula la IA en todas las aplicaciones y contextos”. Pero también presenta desafíos debidos a su extensión, obligaciones vinculadas con intrincadas categorías de riesgo, y dependencia de estándares técnicos aún en desarrollo. Los críticos argumentan que su densidad, exigencias y costos de cumplimiento pueden sofocar la innovación, particularmente entre las nuevas empresas, mientras que los defensores sostienen que las reglas que promueven una IA confiable impulsarán una mayor innovación.

Se prevé que la AIA tendrá amplios efectos en las comunidades dedicadas a la investigación aplicada de IA, tanto en Europa como en todo el mundo. Para los investigadores de IA que trabajan en ciencias de la vida, el empleo o la educación, la familiaridad con los requisitos de la AIA será crucial para ingresar al mercado de la Unión Europea (UE). Los “sistemas de alto riesgo”, tal como los define la AIA, requieren el cumplimiento de rigurosas obligaciones previas a la comercialización, que van desde la gestión de riesgos hasta diversas medidas de control y requisitos de transparencia. Los proveedores de modelos generativos deberán cumplir obligaciones específicas.

La AIA incluye medidas para promover el desarrollo de IA social y ambiental. Los mecanismos habilitadores incluyen la financiación de la investigación, pero también el acceso prioritario a los entornos regulatorios de IA, que ofrecen “bancos de prueba” para la experimentación de IA.

La AIA también afecta a quienes trabajan con sistemas de IA de alto riesgo en hospitales e instituciones financieras dentro de la UE. Los implementadores de dichos sistemas son responsables del uso de datos relevantes e imparciales. Por ejemplo, un equipo que implemente una aplicación de IA en medicina personalizada debe asegurar que los datos de entrenamiento estén libres de sesgos raciales, sociales o religiosos. También existen requisitos relativos a las prácticas operativas de los investigadores que utilizan sistemas de IA de alto riesgo, así como exigencias de supervisión humana y mantenimiento de registros.

3.- Tercer artículo: La ONU propugna la regulación de la IA (3)

El Secretario General de las Naciones Unidas declaró el 6/05/2023 que la Inteligencia Artificial (IA) debe beneficiar a todos, incluida la tercera parte de la humanidad que aún está desconectada de internet, e insistió en la necesidad de llegar urgentemente a un consenso sobre las normas que deben guiar su uso.

António Guterres intervino en la cumbre “Inteligencia Artificial al Servicio del Bien”, organizada en Ginebra por la Unión Internacional de Telecomunicaciones (UIT), la cual explora las formas en que la IA puede utilizarse para ayudar al mundo a alcanzar los Objetivos de Desarrollo Sostenible (ODS).

La secretaria general de la UIT hizo un llamamiento a la cooperación mundial para “garantizar que la IA alcance todo su potencial, al tiempo que se previenen y mitigan los daños”. “En el ecuador del plazo que la humanidad se ha dado para alcanzar los ODS, el mundo va por mal camino, y el uso de la IA para acelerar el progreso es ahora nuestra responsabilidad” añadió Doreen Bogdan-Martin. En un escenario ideal deberíamos aprovechar la IA para encontrar curas para enfermedades como el cáncer y el Alzheimer, aumentar la producción de energía limpia y ayudar a los agricultores a aumentar el rendimiento de los cultivos, explicó la responsable de la UIT. Pero también es posible un futuro distópico, en el que la IA destruya puestos de trabajo y permita una difusión incontrolable de la desinformación, o en el que sólo los países ricos cosechen los beneficios de la tecnología, afirmó Bogdan-Martin. Concluyó destacando que la Cumbre sobre IA se celebra en un momento “histórico” en el que es crucial impulsar su gobernanza y garantizar su despliegue inclusivo y seguro. “El futuro de la IA aún está por escribir“, puntualizó.