Vol. 25 - Num. 98
Colaboraciones especiales
aPediatra de Atención Primaria. Unidad de Gestión Clínica Puente Genil. Área de Gestión Sanitaria Córdoba Sur. Córdoba. España.
Correspondencia: R Jiménez. Correo electrónico: rafael.jimenez.ales.sspa@juntadeandalucia.es
Cómo citar este artículo: Jiménez Alés R. Inteligencia artificial. Desafíos y preocupaciones . Rev Pediatr Aten Primaria. 2023;25:205-10.
Publicado en Internet: 19-05-2023 - Número de visitas: 6776
Resumen
La inteligencia artificial (IA) es una rama de la informática que se enfoca en la creación de sistemas capaces de realizar tareas que normalmente requerirían inteligencia humana. En el ámbito de la Pediatría, la IA puede jugar un papel importante en el diagnóstico, seguimiento y tratamiento de la patología aguda y crónica en niños. La IA puede ayudar a los pediatras a diagnosticar síndromes raros con los que, por definición, no están familiarizados y que, además, requieren del conocimiento de numerosos detalles. También puede utilizarse para el seguimiento del crecimiento y desarrollo, y para el seguimiento de pacientes crónicos. La IA también puede ser útil en la cirugía pediátrica robótica, en la que hay que intervenir sobre órganos de pequeño tamaño.
La IA requiere un gran volumen de datos para su entrenamiento y, en el ámbito de la Pediatría, puede ser difícil obtener suficientes datos debido a la falta de pacientes pediátricos y a la especial sensibilidad de los datos sobre salud.
La principal preocupación es su posible uso dual y su posible vulnerabilidad a manipulaciones malintencionadas.
Palabras clave
● Aprendizaje automático ● Aprendizaje profundo ● Inteligencia artificial ● Medicina digital ● Redes neuronales ● RobotsTengo preparada mi respuesta cuando alguien me pregunta si creo que mis Tres Leyes de la Robótica se utilizarán realmente para gobernar el comportamiento de los robots… Mi respuesta es: 'Sí. Las Tres Leyes son la única forma en que los seres humanos racionales pueden tratar con robots, o con cualquier otra cosa'.
Pero cuando digo eso siempre recuerdo (tristemente) que los seres humanos no siempre son racionales.
Isaac Asimov
La inteligencia artificial (IA) es una rama de la informática que se enfoca en la creación de sistemas capaces de realizar tareas que normalmente requerirían de la inteligencia humana (Fig. 1). Engloba lo que se conoce como aprendizaje automático (AA), que sería una técnica dentro de la IA que permite a los sistemas 'aprender' a partir de datos, sin ser programados explícitamente para realizar una tarea en particular. Un ejemplo sería el navegador del automóvil que “aprende” de la ruta que el conductor suele preferir. Los errores que aparecen en el algoritmo deben ser depurados por un programador humano. El AA engloba a su vez el aprendizaje profundo (AP), que depende del desarrollo de las denominadas redes neuronales1. Estas consisten en conjuntos de algoritmos en sucesivas capas que intentan emular lo que hace el cerebro humano (Fig. 2). Para modificar estos algoritmos, no se necesitaría intervención del programador humano2.
El primer trabajo reconocido sobre IA data de 19433, dos años después de que Isaac Asimov, en un relato corto sobre robots, enunciase las denominadas “tres leyes de la robótica” (Tabla 1)4,5. En la actualidad existe una gran preocupación entre científicos y gobiernos sobre el uso al que se puede destinar, que pudiera ser dual6,7. Esto es, el mismo algoritmo que se emplea para identificar moléculas con un efecto deseable, puede ser usado para identificar otras moléculas con un efecto deletéreo8. La Comisión Europea, preocupada porque la opacidad de muchos algoritmos puede crear incertidumbre y obstaculizar la aplicación efectiva de la legislación vigente en materia de seguridad y derechos fundamentales, se ha propuesto legislar en materia de IA9-11.
Tabla 1. Las tres leyes de la robótica y su trasposición a la inteligencia artificial (IA)5 | ||
---|---|---|
Primera ley | Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño | Una IA debe procurar minimizar el daño a un ser humano por acción u omisión. Los datos en los que se basa deben ser representativos de la humanidad en su conjunto. Debe contemplar los mismos principios éticos que la asistencia por seres humanos |
Segunda ley | Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley | Una IA debe estar programada y regulada por seres humanos. Estos deben conocer qué datos y algoritmos han llevado a una decisión concreta. Esa decisión no debe entrar en conflicto con la primera ley |
Tercera ley | Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley | Una IA debe disponer de sistemas de seguridad que eviten manipulaciones que puedan acarrear conflictos con la primera o la segunda ley |
En la Medicina, la IA se utiliza para mejorar la eficiencia de los procesos, como el descubrimiento de nuevos fármacos12 y el diagnóstico de enfermedades. También puede usarse como asistente a la hora de cumplimentar los registros de la historia clínica o elaborar informes13.
En el ámbito de la Pediatría, la IA puede tener un papel fundamental para el diagnóstico, seguimiento y tratamiento de la patología aguda y crónica en niños, así como en la supervisión del crecimiento y desarrollo en el niño sano.
La IA puede ayudar a los pediatras a diagnosticar enfermedades con mayor precisión, especialmente aquellos síndromes raros que requieren del conocimiento de numerosos detalles, como podría ser en el campo de la dismorfología14 o en el diagnóstico diferencial complejo de patología poco frecuente15,16. Para ello, la IA debe ser previamente entrenada con datos de pacientes diagnosticados por expertos, lo que le permite identificar casos que podrían no ser evidentes para el profesional con poca experiencia en esa patología. El entrenamiento debe realizarse con una población muy amplia en cuanto a edad y procedencia. Cuando el entrenamiento se lleva a cabo con datos de poblaciones concretas, la fiabilidad del diagnóstico puede disminuir, lo que puede ser un problema cuando se atiende a poblaciones multiétnicas17.
La evaluación automatizada de la edad ósea se ha popularizado recientemente. La última versión del software BoneXpert proporciona una concordancia clínicamente suficiente con la evaluación manual de la edad ósea en niños de ambos sexos18, lo que ha llevado a algunos radiólogos a dejar de supervisarla19. Esto podría resultar de interés para el pediatra de Atención Primaria, que no cuenta con el apoyo del radiólogo, a la hora de valorar dicho parámetro.
Un ejemplo lo tenemos en la plataforma ENDORSE, que es un innovador ecosistema de software, basado en IA, que consta de aplicaciones móviles para padres y profesionales de la salud, rastreadores de actividad y juegos móviles para niños. Esta plataforma digital de control de peso ha conseguido mejorar algunos parámetros metabólicos y prácticas de orientación alimentaria20, lo que podría suponer una gran ayuda a la hora de afrontar esta patología tan prevalente y tan frustrante en la mayoría de las ocasiones.
En la actualidad, existen dos sistemas de cirugía asistida robóticamente aprobados en la Unión Europea para su uso y desarrollo en Pediatría. El sistema robótico Da Vinci, de Intuitive Surgical, que es el de más amplia implantación en nuestro país, y el sistema robótico Senhance, de Asensus Surgical. Estos sistemas aportan enormes ventajas al intervenir sobre órganos pequeños, eliminando el temblor del cirujano y proporcionando una visualización óptima21, lo que facilita, además, el aprendizaje.
La IA requiere un gran volumen de datos para su entrenamiento y en el ámbito de la Pediatría puede ser difícil obtener suficientes datos debido a la falta de pacientes pediátricos y a la especial sensibilidad de los datos sobre salud. Los datos pediátricos pueden ser más heterogéneos y variables que los datos de adultos, debido al crecimiento y maduración, lo que dificulta enormemente la implementación de algoritmos de aprendizaje automático22.
Otro desafío es la necesidad de validación clínica de las aplicaciones de IA en Pediatría, pues han de mostrarse seguras y efectivas, lo que requiere de ensayos clínicos específicos en población infantil, abarcando todas las edades. Algunas de ellas, como hemos visto, requieren además su validación en grupos étnicos específicos17.
Existe la lógica preocupación (o la esperanza en algunos gestores sanitarios) de que la IA pueda reemplazar a los pediatras, en lugar de complementar su trabajo, aunque la atención a la salud infantil requiere de habilidades y conocimientos que aún no pueden ser replicados por ninguna IA.
Pero la mayor preocupación en el campo de la Medicina es que sea empleada en perjuicio del paciente, dada la dualidad de sus resultados. Así, podría detectar clientes potenciales para ofrecerles una cobertura de seguro o ser empleada para negar dicha cobertura a otras. Del mismo modo, podría detectar pacientes a los que ofrecer una determinada técnica costosa, mientras a otros se les negaría, lo cual sería poco ético.
A fin de que siempre se preserven los derechos fundamentales de las personas, es de extrema importancia la transparencia de los algoritmos, de modo que se pueda auditar cualquier decisión tomada por una IA y esta resulte similar a la que tomaría un experto o un comité de expertos. No basta con asegurar que, tras procesar todos los datos que aparecen en las historias clínicas digitalizadas, la IA es certera. Pensemos en una IA que priorizase la lista de trasplantes, las indicaciones de ingreso en cuidados intensivos o el establecimiento de una limitación del esfuerzo terapéutico, y que tuviese en cuenta el dato “objetivo” de que los estratos sociales menos favorecidos tienen peores resultados (debido a su carga previa de malos hábitos de vida, mala dieta, vivienda deficiente o sus limitaciones para acceder a tratamientos y a seguimientos programados). Lo mismo se podría decir de determinadas etnias o incluso “códigos postales”23, que pueden estar infrarrepresentados en los datos en los que la IA basa sus decisiones24. Pensemos también en el entorno de la Atención Primaria y en la persecución de unos objetivos de cobertura de determinado programa, para el que un robot selecciona teléfonos y hace llamadas de captación, basándose en la posibilidad de que las llamadas sean contestadas y que el paciente acuda al programa. Sería muy probable que el robot seleccionase a hiperfrecuentadores y no llamase a las personas que no suelen acudir al centro sanitario, discriminando de esta forma a los que quizá tienen una asistencia sanitaria privada, pero también a aquellos que tienen mayores problemas de accesibilidad.
Es fácil perderse en la inteligencia de datos y en las relaciones espurias entre variables, haciendo que, al identificar indicadores clínicos, estemos identificando, en el fondo, indicadores sociales. Será, por tanto, esencial asegurar que ningún sistema basado en IA toma decisiones finalistas y que ningún médico confía ciegamente en las orientaciones que ofrezca la IA, siendo deseable valorar los aspectos éticos que pudieran entrañar esas orientaciones6,25,26.
Como todo sistema informático, la IA puede ser jaqueada para inutilizarla o bien para dar lugar a resultados manipulados, como podría ser el cambio de posición en una lista de candidatos a trasplante, o para obtener datos sensibles a partir de ella.
La inteligencia artificial tiene el potencial de mejorar significativamente la asistencia sanitaria que se presta a la infancia y adolescencia, una vez se superen los desafíos que plantea su implementación efectiva, aunque, hoy por hoy, el pediatra de Atención Primaria es un profesional insustituible en el sistema sanitario. Cualquier sistema de IA que se implante debe ser usado, como cualquier otra herramienta, con pericia y con un sano escepticismo que permita detectar sus errores.
AA: aprendizaje automático · AP: aprendizaje profundo · IA: inteligencia artificial.
El autor declara no presentar conflictos de intereses en relación con la preparación y publicación de este artículo.
Comentarios
JEBlanco comentó el día 07/08/2023 a las 21:12:
Excelente artículo. Dos propuestas que creo que pueden enriquecer lo tratado. Por un lado, la iniciativa FACE2GENE ( https://www.face2gene.com) desarrollada por FDNA, es un conjunto de aplicaciones de fenotipado que facilita evaluaciones genéticas completas y precisas, excelente herramienta en la ayuda diagnóstica para patología sindrómica . Y por otro lado, una cita bibliográfica que puede entiquecer el análisis: el Informe sobre la relación clínico-digital emitido por el Comité de Bioética de Castilla - La Mancha, con apartado especifico relacionado con la inteligencia artificial (https://sanidad.castillalamancha.es/sites/sescam.castillalamancha.es/files/documentos/paginas/archivos/informe_sobre_la_relacion_clinico-digital_del_cb_de_clm.pdf)