N.79 – EE.UU.: Proteger al público

En una “declaración de derechos” presentada recientemente por la Casa Blanca (EE.UU.), con relación a la Inteligencia Artificial (IA) -“The Blueprint for an AI (IA) Bill of Rights”- se señala: “Los estadounidenses merecen estar protegidos contra los algoritmos de inteligencia artificial que sean discriminatorios o que violen su privacidad”. El documento, de 73 páginas, establece 5 principios básicos que la industria tecnológica debe seguir y que los funcionarios públicos deben contemplar para regular la IA. Pero no dice nada sobre cómo deberían implementarse esos principios, cómo se instrumentarán en una legislación específica (como contempla la Unión Europea) y cómo se harán cumplir. Marc Rotenberg, un defensor de la ética y la justicia en materia de IA, califica al documento como “un primer paso importante” hacia una política integral de EE.UU. sobre el uso de esta tecnología crecientemente utilizada en la atención médica, la educación y otros sectores sociales relevantes.

La declaración señala: “Los sistemas automatizados han generado beneficios extraordinarios… Impulsadas por el poder de la innovación estadounidense, estas herramientas tienen el potencial de redefinir cada parte de nuestra sociedad y mejorar la vida de todos. Pero este importante progreso no debe darse a costa de los derechos civiles o los valores democráticos, principios estadounidenses fundamentales”.

El marco es una guía para una sociedad que protege a todas las personas de estas amenazas y utiliza tecnologías de manera que refuerzan los valores primordiales de la sociedad. Está acompañado por el manual “De los principios a la práctica”, que incluye pasos detallados para aplicar esos principios en el proceso de diseño tecnológico.

Para promover esta visión, la Oficina de Política Científica y Tecnológica de la Casa Blanca proporciona 5 principios que deben guiar el diseño, implementación y uso de sistemas automatizados para proteger al público en la era de la inteligencia artificial (IA). A continuación procuramos reseñar esos 5 principios.

1.- Sistemas seguros y efectivos: El público debe estar protegido contra sistemas automatizados inseguros o ineficaces. Los sistemas deben desarrollarse consultando a diversas comunidades, partes interesadas y expertos para identificar preocupaciones, riesgos e impactos potenciales. Los sistemas deben someterse a pruebas previas para identificar y mitigar riesgos, así como a un monitoreo continuo que demuestre que son seguros y efectivos aun más allá del uso previsto, y que cubren los estándares específicos del dominio. Los sistemas automatizados deben estar diseñados para proteger a la comunidad –de manera proactiva- de daños derivados de usos o impactos no deseados pero previsibles. Se debe realizar una evaluación e informe independientes sobre la seguridad y efectividad de cada sistema, y los resultados deben hacerse públicos.

2.- Protección contra la discriminación algorítmica: La “discriminación algorítmica” ocurre cuando los sistemas automatizados desfavorecen injustificadamente a las personas por su raza, color, etnia, sexo (incluido embarazo, parto, afecciones médicas relacionadas, identidad de género, estado intersexual y orientación sexual), religión, edad, origen, discapacidad, información genética o cualquier otra clasificación protegida por la ley. Tal discriminación puede violar protecciones legales. Los diseñadores, desarrolladores e implementadores de sistemas deben adoptar medidas proactivas y continuas para proteger a personas y comunidades de la discriminación algorítmica, así como diseñar y usar sistemas de manera equitativa, asegurando la accesibilidad para personas con discapacidades. Se deben realizar evaluaciones e informes  independientes y en lenguaje sencillo acerca del cumplimiento de las protecciones contra la “discriminación algorítmica”.

3.- Privacidad de datos: El público debe estar protegido contra prácticas abusivas de datos a través de protecciones integradas y debe tener autoridad sobre el uso de sus datos personales. Debe estar protegido contra violaciones de la privacidad a través de opciones de diseño que garanticen que la recopilación de datos se ajuste a expectativas razonables y que solo se recopilen los datos estrictamente necesarios para el contexto específico. Los diseñadores, desarrolladores e implementadores de sistemas automatizados deben solicitar permiso a las personas y respetar sus decisiones con respecto a la recopilación, el uso, el acceso, la transferencia y la eliminación de sus datos. Cualquier solicitud de consentimiento debe ser breve, en lenguaje sencillo y preservar el control, por parte de la persona, sobre la recopilación de datos y el contexto específico de uso. Las personas deben tener acceso a informes que confirmen que se han respetado sus decisiones sobre datos.

4.- De los principios a la práctica: privacidad de datos (aviso y explicación): Los diseñadores, desarrolladores e implementadores de sistemas automatizados deben proporcionar documentación en lenguaje sencillo y accesible sobre el funcionamiento general del sistema, identidad de la persona u organización responsable del sistema y explicaciones (accesibles, claras, útiles y oportunas) de resultados.

5.- Alternativas humanas, consideración y respaldo: El público debe tener acceso oportuno a consideración y respaldo por parte de un operador humano en caso de que un sistema automatizado falle, produzca un error o si desea apelar o impugnar impactos personales. Dicha consideración y respaldo humano debe ser accesible, equitativa, efectiva, y no imponer una carga irrazonable al público. La evaluación de estos procesos y de su oportunidad, accesibilidad, resultados y eficacia deben hacerse públicos. Deben tenerse en cuenta los derechos y libertades civiles, incluida la libertad de expresión, voto y protección de libertades en lo público y privado. Debe garantizarse la igualdad de oportunidades en el acceso a servicios críticos, como atención médica, servicios financieros, seguridad, servicios sociales, información sobre bienes, servicios y beneficios públicos.

Por último se señala que los 5 principios y las prácticas asociadas del Plan para una Declaración de Derechos de la IA conforman un conjunto intencionalmente superpuesto de medidas de protección contra potenciales daños.