N.51 – Inteligencia Artificial en Medicina

Perspectivas, ilusiones y decepciones (1)

La inteligencia artificial (IA) ha sido proclamada como solución para diversos problemas de la humanidad; desde garantizar la ciberseguridad o reducir el consumo de energía hasta fortalecer la preservación de la vida silvestre. En materia de salud se manifiesta un particular entusiasmo por posibles aplicaciones de IA en medicina de precisión y en el análisis de imágenes. En una reciente encuesta a expertos en salud, el 90% de los encuestados expresaron su creencia de que la IA mejorará las experiencias de los pacientes en diagnóstico, tratamiento y rehabilitación, así como en la gestión de registros de salud.

Pero, sin perjuicio de tales pronósticos, gran parte de las promesas de la IA permanecen aún como mero potencial. El libro “Rebooting AI: Building Artificial Intelligence We Can Trust”, tras un detallado análisis de lo que puede lograrse hoy con IA, concluye señalando que dotar de “inteligencia” a las máquinas requerirá un conjunto de transformaciones innovadoras en el mundo real.

En abril de 2020, JAMA entrevistó a Gary Marcus (coautor del citado libro y CEO de Robust AI) con relación a los actuales límites de la IA, así como a sus posibles aplicaciones en medicina. A continuación se delinea una reseña del contenido sustancial de la entrevista.

La actual IA padece diversas limitaciones. Lo que un sistema de IA puede hacer realmente hoy es analizar series con abundantes datos estadísticos. No es tan eficaz para estructurar datos escasos, como los referidos a fenómenos inusuales. Una de las aplicaciones más interesantes es la comprensión del lenguaje natural: lograr que una máquina entienda lo que expresa una persona. Las actuales aplicaciones son realmente limitadas. Algunos “bots” de chat “entienden” algo de lo que se está hablando, pero no toman en cuenta el entorno ni lo que sucede durante el trascurso de una conversación. Tales sistemas pueden tener un desempeño aceptable cuando disponen de una buena estructura de datos sobre la materia específica, pero el desempeño se degrada cuando se entra en la dinámica y la apertura del mundo real.

El mayor problema es que no se sabe aún cómo construir sistemas de IA que puedan extraer buenas inferencias de datos limitados. Si bien se ha mejorado notablemente en la acumulación de datos y en sistemas de inferencia, no se dispone –hasta el momento- de buenas técnicas de IA para ejecutar inferencias sustentadas en datos incompletos, dado que ello requeriría una comprensión causal de cómo funciona el mundo real.

Si bien la IA mejora a medida que se recopilan más datos y se desarrollan nuevas técnicas, ha habido un cúmulo de promesas excesivas. Por ejemplo, hubo quienes creyeron que el ”aprendizaje profundo” (“deep leraning”) iba a resolver la problemática de la interpretación radiológica, pero en realidad la IA sólo presta apoyo en unos pocos componentes del flujo del trabajo de un radiólogo. Algo similar ocurre con los registros de salud electrónicos, debido a la dificultad de los sistemas para interpretar y procesar datos no estructurados. La IA puede apoyar la gestión de registros electrónicos, pero no está resolviendo los problemas centrales de la registración clínica.

Respecto de las perspectivas para los médicos, como cabe esperar que (en el corto plazo) sus trabajos cambien en alguna medida, les convendrá aprender a usar un nuevo conjunto de herramientas -dentro de sus especialidades- para no quedar rezagados. Pero no cabe esperar que las herramientas de IA reemplacen a algún médico en su trabajo. La IA puede ser útil en el nivel de triaje, y en aplicaciones telefónicas para ayudar a determinar qué tan desafiante y urgente es un caso. A largo plazo cabe esperar una medicina distinta, con sistemas que puedan leer registros médicos y literatura científica para descubrir qué es lo mejor para cada paciente

Dentro de su visión algo escéptica con relación a las actuales posibilidades de la IA, el entrevistado señala la pertinencia de servirse de las herramientas de IA sabiendo que éstas no van a proporcionar soluciones milagrosas. Mientras tanto, los especialistas se ocuparán de determinar cómo llevar la IA al nivel en que realmente mejore sustancialmente la medicina.

Límites computacionales del aprendizaje profundo (2)

Investigadores del Massachusetts Institute of Technology (MIT), MIT Computer Science and AI Lab, MIT Initiative on the Digital Economy, MIT-IBM Watson AI Lab, Underwood International College, Yonsei University (Seoul, Korea), UnB FGA, Universidad de Brasilia (Brasil), determinaron que el “aprendizaje profundo” está hoy lindando los límites de potencia y capacidad computacional, por lo que su desarrollo continuo requerirá aumentar sustancialmente su eficiencia computacional.

Los investigadores analizaron 1.058 trabajos de investigación recuperados del repositorio de arXiv, así como de otras fuentes de referencia, para comprender cómo el desempeño del “aprendizaje profundo” depende del poder computacional en los dominios de clasificación de imágenes, detección de objetos y eventos, reconocimiento de configuraciones y entidades, reconocimiento de voz, respuesta a preguntas, comprensión del leguaje natural y traducción automática. Con base modelos sustentados en dos métricas distintas de los requisitos computacionales (en térrninos de potencia y capacidad), los investigadores concluyen señalando que, si los avances en “aprendizaje profundo” continúan reiterando los actuales lineamientos, los requisitos computacionales se tornarán muy pronto prohibitivos desde el punto de vista técnico, económico y ambiental. Pero también señalan permanentes mejoras en los algoritmos-, tales como aceleradores de hardware, matriz de puertas lógicas programable en campo (“Field-Programmable Gate Array”, FPGA) y circuito Integrado para aplicaciones específicas (“Application-Specific Integrated Circuit”, ASIC). El tiempo dirá si las técnicas y sistemas de “aprendizaje profundo” lograrán mayor eficiencia computacional o si deberán ser reemplazados por completo.

Empresas de IA promisorias (3)

Si bien la IA comienza a ser útil en distintos sectores, los usuarios suelen experimentar cierta dificultad para identificar los productos más pertinentes para sus necesidades, dado que el mercado está plagado de promoción pomposa, jerga opaca y tecnología esotérica.

Con el propósito de ayudar a los potenciales usuarios, Forbes se asoció con las empresas de capital de riesgo Sequoia Capital y Meritech Capital para lanzar su segundo informe AI 50 anual, una lista de empresas privadas con sede en EE.UU. que utilizan IA de manera significativa en sus productos; ya sea “aprendizaje automático” (sistemas que aprenden a mejorar las tareas con base en datos), “procesamiento del lenguaje natural” (sistemas que “entienden” el lenguaje humano escrito o hablado), o “visión y reconocimiento de configuraciones y eventos” (sistemas que visualizan e interpretan imágenes o escenarios). No fueron elegibles empresas que fueron incubadas, ampliamente financiadas o adquiridas por grandes empresas tecnológicas, manufactureras o industriales.

Dentro de las referidas especificaciones, la lista se elaboró mediante un proceso de presentación abierto a cualquier empresa de IA de EE.UU., solicitando a éstas que proporcionaran detalles sobre su tecnología, su modelo de negocio, sus clientes, su financiamiento, así como la valoración y el historial de ingresos (con opción de confidencialidad). Forbes recibió unas 400 postulaciones y los asociados de capital riesgo aplicaron un algoritmo para identificar a las 100 con las mayores puntuaciones cuantitativas. Posteriormente un panel de ocho “jueces” expertos en IA identificó a las 50 empresas con mayor relevancia e impacto en las soluciones ofrecidas.

Entre las tendencias notables de este año se destacan: (a) el crecimiento de las aplicaciones de “inteligencia aumentada”, dirigidas a ayudar a los humanos a hacer mejor su trabajo, en detrimento de las de “automatización total” que procuran reemplazar al operador humano, (b) las startups de tecnologías de autoconducción de vehículos autónomos continúan interesando notablemente a los capitalistas de riesgo, y (c) el creciente interés en aplicaciones de IA para descubrir drogas o diagnosticar enfermedades.

En términos de valoración, al menos 10 de las AI 50 están valoradas en U$S 100 millones o menos, mientras que 13 son unicornios valoradas en U$S 1.000 millones o más. Silicon Valley sigue siendo el centro de las empresas de IA, con 34 de 50 seleccionadas procedentes de la bahía de San Francisco.

En el artículo están ordenadas alfabéticamente las empresas galardonadas, con varias de ellas orientadas al sector salud.

Aspectos clínicos, legales y éticos de sistemas conversacionales de IA en la  atención de pacientes (4)

Los agentes conversacionales (AC) son programas de IA que entablan diálogo con los usuarios interpretando sus preguntas o inquietudes y respondiéndolas mediante mensajes de texto, imagen o formato de voz. Son cada vez más comunes en los espacios de atención médica y generalmente imitan la conversación humana aplicando procesamiento del lenguaje natural y aprendizaje automático..

Para implementar AC cabe plantear diversas consideraciones (que se detallan en la fuente) referidas a cuestiones como: (a) Seguridad del paciente, (b) Alcance de la aplicación, (c) Confiabilidad y transparencia, (d) Decisiones de contenido, (e) Uso de datos, privacidad e integración, (f) Equidad y sesgos en la atención, (g) Participación de terceros:, (h) Ciberseguridad, (i) Cuestiones legales y licencias, (j) Cuestiones de investigación y desarrollo, (k) Gestión, prueba y evaluación, y (l) Apoyo a la innovación.

Se concluye señalando que si bien el uso de AC puede mejorar los resultados de salud y reducir los costos, los investigadores y desarrolladores, junto con pacientes y médicos, deben evaluar rigurosamente los programas, tanto para determinar sus posibles beneficios como para establecer adecuadas condiciones de transparencia, supervisión y seguridad.