N.72 – Preocupa que las tecnologías

El Instituto Federal Suizo de Protección Nuclear, Biológica y Química —Laboratorio Spiez— convoca anualmente a la serie de conferencias de “convergencia” organizada por el gobierno suizo para: (a) identificar desarrollos tecnológicos en química y biología con implicaciones relevantes en materia de seguridad, y (b) considerar cómo esas implicaciones pueden gestionarse en el ámbito internacional.

Los autores del artículo aquí reseñado son integrantes de la empresa Collaborations Pharmaceuticals, Inc., dedicada a construir modelos de inteligencia artificial (IA), particularmente de aprendizaje automático (AA), para contribuir al diseño de nuevas moléculas para el descubrimiento de fármacos. Dicha firma fue invitada a participar en las conferencias de “convergencia” con una presentación sobre cómo las tecnologías de IA para el descubrimiento de fármacos podrían ser “mal utilizadas”, y optó por explorar cómo la IA podría usarse para diseñar moléculas tóxicas. Dicho ejercicio se convirtió finalmente en una prueba de concepto referida al eventual uso de la IA para desarrollar armas bioquímicas. El modelo desplegado generó más de 40.000 moléculas letales en solo seis horas de procesamiento. Según los expertos, lo más aterrador del experimento fue verificar lo fácil que resultó usar IA y AA para diseñar poderosas armas bioquímicas.

Se señala que la comunidad científica no había exhibido previamente preocupación –de manera pública- acerca de ese eventual “uso dual” de la IA para el diseño de nuevas moléculas. La discusión sobre los impactos sociales de la IA se había centrado principalmente en aspectos como la seguridad computacional, la privacidad, la discriminación y el posible uso delictivo, pero no en cuestiones de seguridad nacional e internacional (como es el caso de las armas bioquímicas). Quienes se dedican al descubrimiento de fármacos no suelen considerar el eventual mal uso de la tecnología ni tienen interés ni capacitad para considerarlo. Pero es evidente el riesgo de apropiación y “mal uso” de esas herramientas por parte de actores ilegítimos para provocar daños potencialmente desastrosos. Concluye señalando que los responsables del descubrimiento de fármacos deberían prevenir y evitar el uso indebido de las tecnologías de IA, así como garantizar que las herramientas y los modelos que desarrollan se utilicen solo para mejorar la salud humana.

En el artículo se formulan recomendaciones para reducir las posibles amenazas de “uso dual” de la IA en el descubrimiento de fármacos: (a) Las conferencias científicas deberían fomentar activamente un diálogo entre expertos de la industria, la academia y los formuladores de políticas sobre las posibles implicaciones de las herramientas computacionales y los desafíos potenciales, (b) Una creciente visibilidad ayudaría a crear conciencia sobre el eventual ”uso dual” de las tecnologías de vanguardia y promovería una ciencia más responsable, (c) acordar un código de conducta, proteger la tecnología y evitar el posible acceso y uso indebido, (d) uso de una API (Application Programming Interface) pública para modelos, con código y datos disponibles a pedido, para mejorar la seguridad y el control sobre cómo se utilizan los modelos publicados, (e) Una línea directa a las autoridades para el caso de sospechar que alguien está trabajando en el desarrollo de moléculas tóxicas para usos no terapéuticos, y (f) Las universidades deberían redoblar sus esfuerzos hacia la formación ética de los estudiantes, y en particular de los estudiantes de computación, para que sean conscientes -desde una etapa temprana de sus carreras- del potencial mal uso de la IA.