Inteligencia artificial. Desafíos y preocupaciones

Tengo preparada mi respuesta cuando alguien me pregunta si creo que mis Tres Leyes de la Robótica se utilizarán realmente para gobernar el comportamiento de los robots… Mi respuesta es: 'Sí. Las Tres Leyes son la única forma en que los seres humanos racionales pueden tratar con robots, o con cualquier otra cosa'.

Pero cuando digo eso siempre recuerdo (tristemente) que los seres humanos no siempre son racionales.

Isaac Asimov

La inteligencia artificial (IA) es una rama de la informática que se enfoca en la creación de sistemas capaces de realizar tareas que normalmente requerirían de la inteligencia humana (Fig. 1). Engloba lo que se conoce como aprendizaje automático (AA), que sería una técnica dentro de la IA que permite a los sistemas 'aprender' a partir de datos, sin ser programados explícitamente para realizar una tarea en particular. Un ejemplo sería el navegador del automóvil que “aprende” de la ruta que el conductor suele preferir. Los errores que aparecen en el algoritmo deben ser depurados por un programador humano. El AA engloba a su vez el aprendizaje profundo (AP), que depende del desarrollo de las denominadas redes neuronales¹. Estas consisten en conjuntos de algoritmos en sucesivas capas que intentan emular lo que hace el cerebro humano (Fig. 2). Para modificar estos algoritmos, no se necesitaría intervención del programador humano².

Figura 1. Inteligencia artificial, aprendizaje automático y aprendizaje profundo

Figura 2. Modelo de red neuronal de dos capas

El primer trabajo reconocido sobre IA data de 1943³, dos años después de que Isaac Asimov, en un relato corto sobre robots, enunciase las denominadas “tres leyes de la robótica” (Tabla 1)^4,5. En la actualidad existe una gran preocupación entre científicos y gobiernos sobre el uso al que se puede destinar, que pudiera ser dual^6,7. Esto es, el mismo algoritmo que se emplea para identificar moléculas con un efecto deseable, puede ser usado para identificar otras moléculas con un efecto deletéreo⁸. La Comisión Europea, preocupada porque la opacidad de muchos algoritmos puede crear incertidumbre y obstaculizar la aplicación efectiva de la legislación vigente en materia de seguridad y derechos fundamentales, se ha propuesto legislar en materia de IA^9-11.

Tabla 1. Las tres leyes de la robótica y su trasposición a la inteligencia artificial (IA)5
Primera ley	Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño	Una IA debe procurar minimizar el daño a un ser humano por acción u omisión. Los datos en los que se basa deben ser representativos de la humanidad en su conjunto. Debe contemplar los mismos principios éticos que la asistencia por seres humanos
Segunda ley	Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley	Una IA debe estar programada y regulada por seres humanos. Estos deben conocer qué datos y algoritmos han llevado a una decisión concreta. Esa decisión no debe entrar en conflicto con la primera ley
Tercera ley	Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley	Una IA debe disponer de sistemas de seguridad que eviten manipulaciones que puedan acarrear conflictos con la primera o la segunda ley

En la Medicina, la IA se utiliza para mejorar la eficiencia de los procesos, como el descubrimiento de nuevos fármacos¹² y el diagnóstico de enfermedades. También puede usarse como asistente a la hora de cumplimentar los registros de la historia clínica o elaborar informes¹³.

En el ámbito de la Pediatría, la IA puede tener un papel fundamental para el diagnóstico, seguimiento y tratamiento de la patología aguda y crónica en niños, así como en la supervisión del crecimiento y desarrollo en el niño sano.

APLICACIONES DE LA INTELIGENCIA ARTIFICIAL EN PEDIATRÍA

Diagnóstico de enfermedades

La IA puede ayudar a los pediatras a diagnosticar enfermedades con mayor precisión, especialmente aquellos síndromes raros que requieren del conocimiento de numerosos detalles, como podría ser en el campo de la dismorfología¹⁴ o en el diagnóstico diferencial complejo de patología poco frecuente^15,16. Para ello, la IA debe ser previamente entrenada con datos de pacientes diagnosticados por expertos, lo que le permite identificar casos que podrían no ser evidentes para el profesional con poca experiencia en esa patología. El entrenamiento debe realizarse con una población muy amplia en cuanto a edad y procedencia. Cuando el entrenamiento se lleva a cabo con datos de poblaciones concretas, la fiabilidad del diagnóstico puede disminuir, lo que puede ser un problema cuando se atiende a poblaciones multiétnicas¹⁷.

Seguimiento del crecimiento y desarrollo

La evaluación automatizada de la edad ósea se ha popularizado recientemente. La última versión del software BoneXpert proporciona una concordancia clínicamente suficiente con la evaluación manual de la edad ósea en niños de ambos sexos¹⁸, lo que ha llevado a algunos radiólogos a dejar de supervisarla¹⁹. Esto podría resultar de interés para el pediatra de Atención Primaria, que no cuenta con el apoyo del radiólogo, a la hora de valorar dicho parámetro.

Seguimiento de pacientes

Un ejemplo lo tenemos en la plataforma ENDORSE, que es un innovador ecosistema de software, basado en IA, que consta de aplicaciones móviles para padres y profesionales de la salud, rastreadores de actividad y juegos móviles para niños. Esta plataforma digital de control de peso ha conseguido mejorar algunos parámetros metabólicos y prácticas de orientación alimentaria²⁰, lo que podría suponer una gran ayuda a la hora de afrontar esta patología tan prevalente y tan frustrante en la mayoría de las ocasiones.

Cirugía robótica

En la actualidad, existen dos sistemas de cirugía asistida robóticamente aprobados en la Unión Europea para su uso y desarrollo en Pediatría. El sistema robótico Da Vinci, de Intuitive Surgical, que es el de más amplia implantación en nuestro país, y el sistema robótico Senhance, de Asensus Surgical. Estos sistemas aportan enormes ventajas al intervenir sobre órganos pequeños, eliminando el temblor del cirujano y proporcionando una visualización óptima²¹, lo que facilita, además, el aprendizaje.

DESAFÍOS

La IA requiere un gran volumen de datos para su entrenamiento y en el ámbito de la Pediatría puede ser difícil obtener suficientes datos debido a la falta de pacientes pediátricos y a la especial sensibilidad de los datos sobre salud. Los datos pediátricos pueden ser más heterogéneos y variables que los datos de adultos, debido al crecimiento y maduración, lo que dificulta enormemente la implementación de algoritmos de aprendizaje automático²².

Otro desafío es la necesidad de validación clínica de las aplicaciones de IA en Pediatría, pues han de mostrarse seguras y efectivas, lo que requiere de ensayos clínicos específicos en población infantil, abarcando todas las edades. Algunas de ellas, como hemos visto, requieren además su validación en grupos étnicos específicos¹⁷.

PREOCUPACIONES

Existe la lógica preocupación (o la esperanza en algunos gestores sanitarios) de que la IA pueda reemplazar a los pediatras, en lugar de complementar su trabajo, aunque la atención a la salud infantil requiere de habilidades y conocimientos que aún no pueden ser replicados por ninguna IA.

Pero la mayor preocupación en el campo de la Medicina es que sea empleada en perjuicio del paciente, dada la dualidad de sus resultados. Así, podría detectar clientes potenciales para ofrecerles una cobertura de seguro o ser empleada para negar dicha cobertura a otras. Del mismo modo, podría detectar pacientes a los que ofrecer una determinada técnica costosa, mientras a otros se les negaría, lo cual sería poco ético.

A fin de que siempre se preserven los derechos fundamentales de las personas, es de extrema importancia la transparencia de los algoritmos, de modo que se pueda auditar cualquier decisión tomada por una IA y esta resulte similar a la que tomaría un experto o un comité de expertos. No basta con asegurar que, tras procesar todos los datos que aparecen en las historias clínicas digitalizadas, la IA es certera. Pensemos en una IA que priorizase la lista de trasplantes, las indicaciones de ingreso en cuidados intensivos o el establecimiento de una limitación del esfuerzo terapéutico, y que tuviese en cuenta el dato “objetivo” de que los estratos sociales menos favorecidos tienen peores resultados (debido a su carga previa de malos hábitos de vida, mala dieta, vivienda deficiente o sus limitaciones para acceder a tratamientos y a seguimientos programados). Lo mismo se podría decir de determinadas etnias o incluso “códigos postales”²³, que pueden estar infrarrepresentados en los datos en los que la IA basa sus decisiones²⁴. Pensemos también en el entorno de la Atención Primaria y en la persecución de unos objetivos de cobertura de determinado programa, para el que un robot selecciona teléfonos y hace llamadas de captación, basándose en la posibilidad de que las llamadas sean contestadas y que el paciente acuda al programa. Sería muy probable que el robot seleccionase a hiperfrecuentadores y no llamase a las personas que no suelen acudir al centro sanitario, discriminando de esta forma a los que quizá tienen una asistencia sanitaria privada, pero también a aquellos que tienen mayores problemas de accesibilidad.

Es fácil perderse en la inteligencia de datos y en las relaciones espurias entre variables, haciendo que, al identificar indicadores clínicos, estemos identificando, en el fondo, indicadores sociales. Será, por tanto, esencial asegurar que ningún sistema basado en IA toma decisiones finalistas y que ningún médico confía ciegamente en las orientaciones que ofrezca la IA, siendo deseable valorar los aspectos éticos que pudieran entrañar esas orientaciones^6,25,26.

Como todo sistema informático, la IA puede ser jaqueada para inutilizarla o bien para dar lugar a resultados manipulados, como podría ser el cambio de posición en una lista de candidatos a trasplante, o para obtener datos sensibles a partir de ella.

CONCLUSIONES

La inteligencia artificial tiene el potencial de mejorar significativamente la asistencia sanitaria que se presta a la infancia y adolescencia, una vez se superen los desafíos que plantea su implementación efectiva, aunque, hoy por hoy, el pediatra de Atención Primaria es un profesional insustituible en el sistema sanitario. Cualquier sistema de IA que se implante debe ser usado, como cualquier otra herramienta, con pericia y con un sano escepticismo que permita detectar sus errores.

ABREVIATURAS

AA: aprendizaje automático · AP: aprendizaje profundo · IA: inteligencia artificial.

CONFLICTOS DE INTERESES

El autor declara no presentar conflictos de intereses en relación con la preparación y publicación de este artículo.

BIBLIOGRAFÍA

1. Ashton JJ, Young A, Johnson MJ, Beattie RM. Using machine learning to impact on long-term clinical care: Principles, challenges, and practicalities. Pediatr Res. 2022;93:324-33.
2. Schuman A. AI in pediatrics: Past, present, and future. Contemporary Pediatr J. 2019;36(7):38-45.
3. McCulloch WS, Pitts W. A logical calculus of the ideas immanent in nervous activity. Bull Math Biophys. 1943;5:115-33.
4. Círculo Vicioso (cuento). En: Wikipedia; 2021 [en línea] [consultado el 26/04/2023]. Disponible en https://es.wikipedia.org/wiki/Círculo_vicioso_(cuento)#
5. Tres leyes de la robótica. En: Wikipedia; 2023 [en línea] [consultado el 26/04/2023]. Disponible en https://es.wikipedia.org/wiki/Tres_leyes_de_la_robótica
6. Schiffer Z, Newton C. Microsoft Just Laid off One of Its Responsible AI Teams 2023. En: Platformer [en línea] [consultado el 26/04/2023]. Disponible en www.platformer.news/p/microsoft-just-laid-off-one-of-its
7. Farrés H. La Empresa Tecnológica Que Despidió al 30% de sus empleados porque la inteligencia artificial dijo que eran improductivos. En: La Vanguardia; 2021 [en línea] [consultado el 26/04/2023]. Disponible en www.lavanguardia.com/tecnologia/20210808/7651651/empresa-tecnologica-xsolla-despedir-empleados-improductivos-segun-inteligencia-artificial.html
8. Urbina F, Lentzos F, Invernizzi C, Ekins S. A teachable moment for dual-use. Nat Mach Intell. 2022;4:607.
9. Comisión Europea. Nuevas normas sobre la inteligencia artificial: preguntas y respuestas. En: Comisión Europea; 2021 [en línea] [consultado el 26/04/2023]. Disponible en https://ec.europa.eu/commission/presscorner/detail/es/QANDA_21_1683
10. Comisión Europea. Libro Blanco sobre la inteligencia artificial: Un Enfoque Europeo orientado a la excelencia y la confianza. Bruselas: Oficina de Publicaciones de la Unión Europea; 2020 [en línea] [consultado el 26/04/2023]. Disponible en https://eur-lex.europa.eu/legal-content/ES/TXT/?qid=1603192201335&uri=CELEX:52020DC0065
11. Comisión Europea. Propuesta de reglamento del parlamento europeo y del consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la unión. Bruselas: Oficina de Publicaciones de la Unión Europea; 2021. [en línea] [consultado el 26/04/2023]. Disponible en https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=COM:2021:206:FIN
12. Wang X, Cheng Y, Yang Y, Yu Y, Li F, Peng S. Multitask joint strategies of self-supervised representation learning on Biomedical Networks for Drug Discovery. Nat Mach Intell. 2023;5:445-56.
13. Li R, Kumar A, Chen JH. How chatbots and large language model artificial intelligence systems will reshape modern medicine. JAMA Intern Med. 2023, 28.
14. Hennocq Q, Bongibault T, Bizière M, Delassus O, Douillet M, Cormier Daire V, et al. An automatic facial landmarking for children with rare diseases. Am J Med Genet A. 2023;191:1210-21.
15. Tsai CM, Lin CHR, Kuo HC, Cheng FJ, Yu HR, Hung TC, et al. Use of machine learning to differentiate children with Kawasaki disease from other febrile children in a pediatric emergency department. JAMA Netw Open. 2023;6:e237489.
16. Lam JY, Shimizu C, Tremoulet AH, Bainto E, Roberts SC, Sivilay N, et al. A machine-learning algorithm for diagnosis of multisystem inflammatory syndrome in children and kawasaki disease in the USA: A retrospective model development and validation study. Lancet Digit Health. 2022;4:e717-e726.
17. Echeverry Quiceno LM, Candelo E, Gómez E, Solís P, Ramírez D, Ortiz D, et al. Population-specific facial traits and diagnosis accuracy of genetic and rare diseases in an admixed Colombian population. Sci Rep. 2023;13:6869.
18. Maratova K, Zemkova D, Sedlak P, Pavlikova M, Amaratunga SA, Krasnicanova H, et al. A comprehensive validation study of the latest version of BoneXpert on a large cohort of Caucasian children and adolescents. Front Endocrinol (Lousanne). 2023;14:1130580.
19. Thodberg HH, Thodberg B, Ahlkvist J, Offiah AC. Autonomous Artificial Intelligence in Pediatric Radiology: The use and perception of BoneXpert for Bone Age assessment. Pediatr Radiol. 2022;52:1338-46.
20. Pervanidou P, Chatzidaki E, Nicolaides NC, Voutetakis A, Polychronaki N, Chioti V, et al. The Impact of the ENDORSE Digital Weight Management Program on the metabolic profile of children and adolescents with overweight and obesity and on Food Parenting Practices. Nutrients. 2023;15:1777.
21. Krebs TF, Schnorr I, Heye P, Häcker F-M. Robotically assisted surgery in children - a perspective. Children (Basel). 2022;9:839.
22. Ramgopal S, Sanchez-Pinto LN, Horvat CM, Carroll MS, Luo Y, Florin TA. Artificial Intelligence-based clinical decision support in Pediatrics. Pediatr Res. 2022;93:334-41.
23. Cofiño Fernández R. Tu código postal es más importante para tu salud que tu código genético. Aten Primaria. 2013;45:127-8.
24. Celi LA, Cellini J, Charpignon Ml, Dee EC, Dernoncourt F, Eber R, et al. Sources of bias in artificial intelligence that perpetuate healthcare disparities - a global review. PLOS Digit Health. 2022;1:e0000022.
25. Srikumar M, Finlay R, Abuhamad G, Ashurst C, Campbell R, Campbell Ratcliffe E, et al. Advancing Ethics Review Practices in AI Research. Nat Mach Intell. 2022;4:1061-4.
26. Rashi T, Yom-Tov E. Ethics of Medical Archival Internet Research Data. J Med Internet Res. 2023;25:e43754.

Comentarios

JEBlanco comentó el día 07/08/2023 a las 21:12:

Excelente artículo. Dos propuestas que creo que pueden enriquecer lo tratado. Por un lado, la iniciativa FACE2GENE ( https://www.face2gene.com) desarrollada por FDNA, es un conjunto de aplicaciones de fenotipado que facilita evaluaciones genéticas completas y precisas, excelente herramienta en la ayuda diagnóstica para patología sindrómica . Y por otro lado, una cita bibliográfica que puede entiquecer el análisis: el Informe sobre la relación clínico-digital emitido por el Comité de Bioética de Castilla - La Mancha, con apartado especifico relacionado con la inteligencia artificial (https://sanidad.castillalamancha.es/sites/sescam.castillalamancha.es/files/documentos/paginas/archivos/informe_sobre_la_relacion_clinico-digital_del_cb_de_clm.pdf)