Implicaciones bioéticas del uso de la inteligencia artificial en salud: revisión integradora de la literaturaResumen
La presencia de la inteligencia artificial en lo cotidiano es evidente, y en el campo de la salud esta tecnología se ha convertido en una herramienta importante en el diagnóstico de enfermedades, en la toma de decisiones, en la atención clínica, en el desarrollo de la investigación en salud, etc. Este estudio analizó las investigaciones recientes sobre las implicaciones bioéticas de la aplicación de la inteligencia artificial en el campo de la salud. Se trata de una revisión integradora de la literatura, con recopilación de datos en las bases de datos Scientific Electronic Library Online, Biblioteca Virtual en Salud y National Center for Biotechnology Information de la National Library of Medicine. Los resultados destacan que, aunque la inteligencia artificial es vista y utilizada como una herramienta para ayudar la salud, los profesionales todavía tienen recelo a los aspectos éticos y bioéticos y las responsabilidades legales del uso de esta tecnología.
Inteligencia artificial; Bioética; Tecnología
Resumo
A presença da inteligência artificial no cotidiano é patente, não sendo diferente no campo da saúde, em que ela vem se tornando ferramenta importante no auxílio do diagnóstico de doenças, na tomada de decisões, nos cuidados clínicos, no desenvolvimento de pesquisas em saúde, entre outros. O estudo analisou as recentes pesquisas publicadas sobre as implicações bioéticas da aplicação da inteligência artificial na área da saúde. Trata-se de estudo de revisão integrativa de literatura, com levantamento de dados nas bases Scientific Electronic Library Online, Biblioteca Virtual em Saúde e National Center for Biotechnolohy Information da National Library of Medicine. Entre os resultados, os estudos apontam que, embora a inteligência artificial seja vista e utilizada como instrumento de auxílio à saúde, ainda há apreensão por parte dos profissionais no que tange aos aspectos éticos e bioéticos e às responsabilidades legais quanto a seu uso.
Inteligência artificial; Bioética; Tecnologia
Abstract
The presence of artificial intelligence in everyday life is evident, and it is no different in the field of health, where it has become an important tool in helping to diagnose illnesses, decision making, provide clinical care and develop health research, among other things. This study analyzed recent published research on the bioethical implications of the application of artificial intelligence in healthcare. This is an integrative literature review, with data collected from the Scientific Electronic Library Online, the Virtual Health Library and the National Center for Biotechnological Information of the National Library of Medicine. The results show that although artificial intelligence is seen and used as an aid to health, professionals remain apprehensive regarding the ethical and bioethical aspects and legal responsibilities regarding its use.
Artificial intelligence; Bioethics; Technology
La presencia de la inteligencia artificial (IA) en la vida cotidiana es evidente, y no es diferente en el ámbito de la salud, donde se ha convertido en una herramienta importante en la ayuda al diagnóstico de enfermedades, en la toma de decisiones, en los cuidados clínicos, en el desarrollo de la investigación en salud, etc. La IA se refiere en general a la realización por parte de programas informáticos de tareas comúnmente asociadas a seres inteligentes con base en algoritmos 1.
La Organización Mundial de la Salud (OMS) 1 reconoce que la inteligencia artificial tiene innumerables beneficios no solo para la sociedad, sino también para los profesionales de la salud, ya que propicia mayor agilidad en el diagnóstico asertivo de problemas de salud y fortalece tratamientos seguros, reduciendo incluso la sobrecarga de los profesionales y de los sistemas de salud, lo que repercute en el desarrollo de políticas públicas orientadas a las reales necesidades de la población. Sin embargo, a pesar de todos los beneficios de la IA, cabe resaltar los aspectos bioéticos que implica el uso de esta herramienta tecnológica y las consecuencias a mediano y largo plazo de su uso en la prestación de cuidados y en la relación médico-paciente, ya que aún es una tecnología nueva y no existen leyes ni directrices que la regulen directamente, por lo que su aplicabilidad aún requiere debates y mejoramientos.
La guía titulada Ethics and governance of artificial intelligence for health, publicado en el 2021, afirma que el uso de la IA en la salud debe anclarse en preceptos éticos que garanticen y aseguren una mayor transparencia tanto para los profesionales como para los usuarios 1. A lo largo del documento se enumeran los principios éticos básicos para el uso de la inteligencia artificial como herramienta para la salud, con el fin de orientar a los profesionales, desarrolladores y usuarios, a saber: no maleficencia; beneficencia; justicia o equidad y autonomía 1.
Según la OMS, el uso de IA permitirá que las personas en países de bajos ingresos donde hay poco acceso a los servicios de salud puedan obtenerlos. Sin embargo, es necesario invertir más allá de la tecnología en educación y informar a la población sobre el uso de esta herramienta, así como sobre el mantenimiento y la preservación de sus derechos 1.
En vista de lo anterior, este artículo buscó analizar investigaciones publicadas recientemente sobre las implicaciones bioéticas de la aplicación de la inteligencia artificial en el área de la salud, mediante una revisión integradora de la literatura, basada en la siguiente pregunta rectora: ¿Cuáles son las principales implicaciones bioéticas relativas a la inteligencia artificial aplicada a la salud?
Método
Se trata de una revisión integradora de la literatura, que es una metodología capaz de agregar conocimientos con base en estudios acerca de un tema específico, con el fin de proporcionar una amplia gama de conocimientos científicos 2. Según Mendes, Silveira y Galvão 3, la construcción de la revisión integradora se constituye de seis etapas, a saber: 1) identificación del objeto y pregunta rectora; 2) elección de los criterios de inclusión y exclusión de la investigación; 3) establecimiento de la información que se va a extraer; 4) análisis de los estudios seleccionados; 5) interpretación de los resultados; y 6) presentación de la revisión/síntesis del conocimiento.
Como forma de aporte para el estudio y, en consonancia con las etapas 1 y 2 mencionadas anteriormente, se realizó en el período de mayo/junio del 2024 una recopilación de artículos publicados en los últimos cinco años, es decir, entre 2019-2024, en las bases de datos Scientific Electronic Library Online (SciELO), Biblioteca Virtual de Salud (BVS) y National Center for Biotechnolohy Information da National Library of Medicine (PubMed), usando los descriptores “bioética”, “inteligencia artificial” y “tecnología”, asociados con el operador booleano “and”. Se incluyeron los artículos que tuvieran como descriptores “bioética”, “inteligencia artificial” y “tecnología” y cuya versión completa estuviera disponible para descargar. Se excluyeron los artículos duplicados y cuyo texto no estuviera disponible en su totalidad.
Una vez concluida la etapa de recopilación de las publicaciones, se procedió a la revisión de los títulos y resúmenes para selecionar aquellos que cumplieran con los criterios de inclusión establecidos para la investigación, seguida de una lectura cuidadosa y sistemática de los artículos incluidos.
Resultados
Se realizó una amplia búsqueda en las bases de datos electrónicas PubMed, SciElo y BVS, con la ayuda de la herramienta metodológica Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA). Un total de 188 artículos presentó los descriptores adecuados y, finalmente, se seleccionaron 13 artículos para la presente revisión con base en los criterios de inclusión y exclusión, además de la eliminación de artículos duplicados (Figura 1).
Se realizó un análisis minucioso de los manuscritos seleccionados, y las variables relevantes extraídas para esta revisión se presentan en la Cuadro 1. Los años de publicación van del 2019 al 2024; en cuanto al idioma de publicación, se identificaron dos artículos en portugués, tres en español y ocho en inglés.
Estos estudios analizan las ventajas y preocupaciones bioéticas del uso de la IA en el ámbito de la salud, destacando los desafíos de la disponibilidad y el acceso a dichas herramientas por parte de las poblaciones más vulnerables y las cuestiones del consentimiento y la autonomía del individuo, la privacidad y la confidencialidad de los datos, la responsabilidad institucional y profesional, así como el temor a que reemplacen el papel físico e intelectual de los profesionales de la salud.
Discusión
Es innegable la contribución de los avances tecnológicos como la inteligencia artificial a la sociedad. Por lo tanto, se plantean discusiones, con progresivo énfasis en el escenario mundial, acerca de los impactos complejos de estos recursos en nuestra vida cotidiana, como resultado de la dificultad para comprender sus conceptos y características técnicas y la amplitud de su campo de actuación. Así pues, se hace necesario un abordaje detallado de las implicaciones ético-legales de este tema 4.
Ante este panorama, cabe destacar que las áreas de la salud no escapan a la aplicabilidad de la IA, la cual ya se encuentra condicionada, como se puede observar en las plataformas de atención telemática, en su vasto uso en el diagnóstico de exámenes de laboratorio y de bioimágenes, así como en los procesos de toma de decisiones, lo que conlleva posibles mejoras en la asistencia técnica y clínica 4-6.
Por ello, considerando el nuevo contexto de cuidados en salud que estamos viviendo y lo que nos reserva las evoluciones futuras, los estudios aquí enumerados nos invitan a reflexionar sobre las implicaciones bioéticas de dichos cambios. En primer lugar, se destaca el impacto del uso de la IA en la experiencia de la relación profesional-paciente, y es fundamental comprender las limitaciones de estos sistemas y certificar los elementos de la inteligencia humana 6,7.
Los autores resaltan la importancia de la conexión cara a cara y cuestionan el hecho de que las máquinas aprenden solo del lenguaje, sin incorporarse al mundo físico, sin experimentar la conexión del vocabulario con los objetos, propiedades y sentimientos. Por lo tanto, no comprenden las palabras de la misma manera que las personas, y son incapaces de percibir emociones, así como de interactuar en un contexto cultural y expresar empatía 6-8.
Se trata de aspectos irremplazables en los procesos de toma de decisiones, como lo describe la neurobiología de las emociones, que destaca que, al excluirlos, se anula el papel de los valores morales, éticos, políticos y plurales de las narrativas y cosmovisiones. Además, existe el riesgo de perder el pensamiento crítico con relación al uso de las tecnologías, lo que nos convertiría en meros operadores impasibles, una extensión muda del mecanismo programable de la máquina que operamos 7.
Otras preocupaciones recurrentes se relacionan con la confidencialidad y la privacidad de los datos obtenidos y almacenados, así como con la responsabilidad profesional y con el proceso de consentimiento informado en el uso de la IA. Cabe señalar que el derecho a la confidencialidad de los datos sensibles del paciente está previsto en la Declaración Universal sobre Bioética y Derechos Humanos de 2009. Sin embargo, con el uso de la IA, los ciberataques y las filtraciones de dicha información para beneficio privado se convierten en un riesgo real, como el uso de dichos datos por parte de las compañías de seguros de salud 5,6.
De esta manera, pasa a ser responsabilidad de las instituciones y profesionales proteger la información médica recopilada. Corresponde al Estado establecer principios y regular normas que aseguren que se respete la privacidad e integridad de los pacientes, de modo que solo se acceda a sus datos con su consentimiento. Esto ya sucede en los Estados Unidos, donde la recopilación, el almacenamiento y la difusión de información personal de salud están regulados por la Ley de Portabilidad y Responsabilidad del Seguro de Salud (HIPAA), que define qué información personal debe someterse a etapas de anonimización y desidentificación 9-11.
Los textos también abordan el temor de que los instrumentos de IA asuman la función actual de los seres humanos, pero es esencial resaltar que los primeros no son suficientemente capaces de reemplazar a los segundos, y deben exclusivamente ejercer apoyo a las conductas de los profesionales de la salud. Así, con el objetivo de evitar tales repercusiones futuras, los seres humanos deben desempeñar sus actividades con la responsabilidad y confianza que desean los pacientes, características y comportamientos irremplazables 12.
Sin embargo, los profesionales de la salud son propensos a errores cuando utilizan esta tecnología de forma acrítica o cuando, a la hora de tomar decisiones, solo tienen en cuenta los valores de quienes programan la máquina, introduciendo el llamado “paternalismo de máquina”, dejando a un lado sus propios valores, juicios y autonomía, así como los del paciente. Por lo tanto, los profesionales tienen la obligación de involucrar a las personas en el diálogo, aclarando de forma transparente las ventajas y desventajas del uso de la IA 10,12-14.
Dadas las enormes transformaciones en la actuación de los profesionales de la salud con la llegada de la IA, se hace imprescindible que esta temática se trabaje desde la etapa de formación, es decir, que se incorpore en los currículos para abordar la amplia aplicabilidad de la IA en el campo de la salud y, concomitantemente, establecer un paralelo con los principios fundamentales de la bioética. También se sugiere que algunas herramientas, como ChatGPT, son útiles en la educación ética, una vez que ayudan a aclarar términos y teorías 15,16.
Finalmente, con respecto a la fundamentación de las discusiones aquí establecidas, se resalta el énfasis dado al enfoque principialista de la bioética, que propone los principios de justicia, no maleficencia y autonomía, que son importantes en la elección y uso de las herramientas de IA en el contexto de la salud. Además, el principialismo contribuye significativamente en este escenario, ya que nos permite comprender que ningún principio o norma puede aplicarse correctamente sin sabiduría práctica y virtud 17.
Consideraciones finales
Si bien el uso de la IA en la salud como herramienta tecnológica que contribuye a los diagnósticos y tratamientos tiene indiscutibles beneficios para los profesionales, los usuarios y el sistema sanitario en su conjunto, aún carece de información respecto a la protección de los datos recopilados y a los aspectos bioéticos. También es necesario discutir el papel de los profesionales de la salud y del Estado en el mantenimiento y en la garantía del secreto y la confidencialidad de los usuarios.
Los resultados de esta investigación indican que, a pesar de los beneficios del uso de la IA en la salud, esta no reemplaza la evaluación cuidadosa del profesional de salud, que debe tener presente que la IA es una herramienta de apoyo, y que es a él, profesional, a quien corresponde tener la última palabra en la gestión de los casos, minimizando así los posibles errores que un uso sistemático de la IA, sin ningún análisis basado en saberes, podría provocar.
Referencias bibliográficas
-
1 World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance [Internet]. Geneva: WHO; 2021 [acesso 14 out 2024]. p. 5. Tradução livre. Disponível: https://www.who.int/publications/i/item/9789240029200
» https://www.who.int/publications/i/item/9789240029200 -
2 Souza MT, Silva MD, Carvalho R. Integrative review: what is it? How to do it? Einstein (São Paulo) [Internet]. 2010 [acesso 14 out 2024];8(1):102-6. DOI: 10.1590/S1679-45082010RW1134
» https://doi.org/10.1590/S1679-45082010RW1134 -
3 Mendes KDS, Silveira RCCP, Galvão CM. Revisão integrativa: método de pesquisa para a incorporação de evidências na saúde e na enfermagem. Texto & contexto enferm [Internet]. 2008 [acesso 14 out 2024];17(4):758-64. DOI: 10.1590/S0104-07072008000400018
» https://doi.org/10.1590/S0104-07072008000400018 -
4 Frez Pulgar GA. Bioética e integración de la inteligencia artificial en la medicina: reflexiones desde el cine sobre la condición humana y la responsabilidad hacia las generaciones futuras. Aesthethika [Internet]. 2023 [acesso 14 out 2024];19(2):41-7. Disponível: https://tinyurl.com/ycy96pd3
» https://tinyurl.com/ycy96pd3 -
5 Actis AA. Consideraciones bioéticas en relación con el uso de la inteligencia artificial en mastología. DOAJ [Internet]. 2021 [acesso 14 out 2024];37(4):e37413. Disponível: https://tinyurl.com/39awws7y
» https://tinyurl.com/39awws7y -
6 Duarte ES, Moura FS, Oliveira LP, Garcia LF. Aspectos bioéticos da utilização de sistemas de inteligência artificial no campo da saúde: um estudo exploratório. Rev bioét derecho [Internet]. 2023 [acesso 14 out 2024];57:263-85. DOI: 10.1344/rbd2023.57.35146
» https://doi.org/10.1344/rbd2023.57.35146 -
7 Bustamante BJP. ¿Operarios impasibles? Desafíos de la educación y la experiencia médico paciente en relación con la inteligencia artificial. Aesthethika [Internet]. 2023 [acesso 14 out 2024];19(2):49-56. Disponível: https://tinyurl.com/44kbsxkj
» https://tinyurl.com/44kbsxkj -
8 Tai MCT. The impact of artificial intelligence on human society and bioethics. Tzu Chi Med J [Internet]. 2020 [acesso 14 out 2024];32(4):339-43. DOI: 10.4103/tcmj.tcmj_71_20
» https://doi.org/10.4103/tcmj.tcmj_71_20 -
9 Nunes HC, Guimarães RMC, Dadalto L. Desafios bioéticos do uso da inteligência artificial em hospitais. Rev. bioét. (Impr.) [Internet]. 2022 [acesso 14 out 2024];30(1):82-93. DOI: 10.1590/1983-80422022301509PT
» https://doi.org/10.1590/1983-80422022301509PT -
10 Oliva A, Grassi S, Vetrugno G, Rossi R, Morte GD, Pinchi V, Caputo M. Management of medico-legal risks in digital health era: a scoping review. Front Med [Internet]. 2022 [acesso 14 out 2024];8:821756. DOI: 10.3389/fmed.2021.821756
» https://doi.org/10.3389/fmed.2021.821756 -
11 Cohen G, Evgeniou T, Gerke S, Minssen T. The european artificial intelligence strategy: implications and challenges for digital health [Internet]. Lancet Digit Health. 2020 [acesso 14 out 2024];2(7):e376-e379. DOI: 10.1016/S2589-7500(20)30112-6
» https://doi.org/10.1016/S2589-7500(20)30112-6 -
12 Savulescu J, Giubilini A, Vandersluis R, Mishra A. Ethics of artificial intelligence in medicine. Singapore Med J [Internet]. 2024 [acesso 14 out 2024];65(3):150-8. DOI: 10.4103/singaporemedj.SMJ-2023-279
» https://doi.org/10.4103/singaporemedj.SMJ-2023-279 -
13 Nebeker C, Torous J, Bartlett ERJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 14 out 2024];17(1):137. DOI: 10.1186/s12916-019-1377-7
» https://doi.org/10.1186/s12916-019-1377-7 -
14 Prakash S, Balaji JN, Joshi A, Surapaneni KM. Ethical conundrums in the application of artificial intelligence (AI) in healthcare - a scoping review of reviews. J Pers Med [Internet]. 2022 [acesso 14 out 2024];12(11):1914. DOI: 10.3390/jpm12111914
» https://doi.org/10.3390/jpm12111914 -
15 Livanis E, Voultsos P, Vadikolias K, Pantazakos P, Tsaroucha A. Understanding the ethical issues of brain-computer interfaces (BCIs): a blessing or the beginning of a dystopian future? Cureus [Internet]. 2024 [acesso 14 out 2024];16(4):e58243. DOI: 10.7759/cureus.58243
» https://doi.org/10.7759/cureus.58243 -
16 Kapsali MZ, Livanis E, Tsalikidis C, Oikonomou P, Voultsos P, Tsaroucha A. Ethical concerns about ChatGPT in healthcare: a useful tool or the tombstone of original and reflective thinking? Cureus [Internet]. 2024 [acesso 14 out 2024];16(2):54759. DOI: 10.7759/cureus.54759
» https://doi.org/10.7759/cureus.54759 - 17 Rocha DM. Bioética e o principialismo: um estudo a partir de Wittgenstein [dissertação]. Florianópolis: UFSC; 2008.
Editado por
-
Editora responsable
– Dilza Teresinha Ambrós Ribeiro
