Implicações bioéticas da utilização da inteligência artificial na área da saúde: revisão integrativa da literaturaResumo
A presença da inteligência artificial no cotidiano é patente, não sendo diferente no campo da saúde, em que ela vem se tornando ferramenta importante no auxílio do diagnóstico de doenças, na tomada de decisões, nos cuidados clínicos, no desenvolvimento de pesquisas em saúde, entre outros. O estudo analisou as recentes pesquisas publicadas sobre as implicações bioéticas da aplicação da inteligência artificial na área da saúde. Trata-se de estudo de revisão integrativa de literatura, com levantamento de dados nas bases Scientific Electronic Library Online, Biblioteca Virtual em Saúde e National Center for Biotechnolohy Information da National Library of Medicine. Entre os resultados, os estudos apontam que, embora a inteligência artificial seja vista e utilizada como instrumento de auxílio à saúde, ainda há apreensão por parte dos profissionais no que tange aos aspectos éticos e bioéticos e às responsabilidades legais quanto a seu uso.
Inteligência artificial; Bioética; Tecnologia
Abstract
The presence of artificial intelligence in everyday life is evident, and it is no different in the field of health, where it has become an important tool in helping to diagnose illnesses, decision making, provide clinical care and develop health research, among other things. This study analyzed recent published research on the bioethical implications of the application of artificial intelligence in healthcare. This is an integrative literature review, with data collected from the Scientific Electronic Library Online, the Virtual Health Library and the National Center for Biotechnological Information of the National Library of Medicine. The results show that although artificial intelligence is seen and used as an aid to health, professionals remain apprehensive regarding the ethical and bioethical aspects and legal responsibilities regarding its use.
Artificial intelligence; Bioethics; Technology
Resumen
La presencia de la inteligencia artificial en lo cotidiano es evidente, y en el campo de la salud esta tecnología se ha convertido en una herramienta importante en el diagnóstico de enfermedades, en la toma de decisiones, en la atención clínica, en el desarrollo de la investigación en salud, etc. Este estudio analizó las investigaciones recientes sobre las implicaciones bioéticas de la aplicación de la inteligencia artificial en el campo de la salud. Se trata de una revisión integradora de la literatura, con recopilación de datos en las bases de datos Scientific Electronic Library Online, Biblioteca Virtual en Salud y National Center for Biotechnology Information de la National Library of Medicine. Los resultados destacan que, aunque la inteligencia artificial es vista y utilizada como una herramienta para ayudar la salud, los profesionales todavía tienen recelo a los aspectos éticos y bioéticos y las responsabilidades legales del uso de esta tecnología.
Inteligencia artificial; Bioética; Tecnología
A presença da inteligência artificial (IA) no cotidiano é patente, não sendo diferente no campo da saúde, em que ela vem se tornando ferramenta importante no auxílio do diagnóstico de doenças, na tomada de decisões, nos cuidados clínicos, no desenvolvimento de pesquisas em saúde etc. A IA geralmente se refere ao desempenho por programas de computador de tarefas comumente associadas a seres inteligentes tendo como base algoritmos 1.
A Organização Mundial da Saúde (OMS) 1 reconhece que a inteligência artificial possui inúmeros benefícios não só para a sociedade como também para os profissionais de saúde, uma vez que propicia maior agilidade no diagnóstico assertivo de agravos a saúde e fortalece tratamentos seguros, diminuindo inclusive a sobrecarga profissional e dos sistemas de saúde, o que reverbera no desenvolvimento de políticas públicas voltadas para as reais necessidades da população. No entanto, apesar de todos os benefícios que envolvem a IA, há de se salientar os aspectos bioéticos envolvidos no uso dessa ferramenta tecnológica e as consequências a médio e longo prazo de sua utilização na prestação do cuidado e na relação médico-paciente, visto que ainda é uma tecnologia nova e que não existem leis e diretrizes que a regulamentem de maneira direta, de modo que sua aplicabilidade ainda demanda debates e aprimoramentos.
O guia intitulado Ethics and governance of artificial intelligence for health, publicado no ano de 2021, declara que o uso da IA na saúde deve estar ancorado em preceitos éticos que garantam e assegurem maior transparência tanto para profissionais quanto para usuários 1. Ao longo do documento, são elencados os princípios éticos básicos para o uso da inteligência artificial enquanto ferramenta para a saúde, com vistas a orientar profissionais, desenvolvedores e usuários, a saber: não maleficência; beneficência; justiça ou equidade; e autonomia 1.
Ainda de acordo com a OMS, o uso da IA possibilitará às pessoas em países de baixa renda nos quais há pouco acesso a serviços de saúde que os obtenham. Entretanto, para além da tecnologia, é preciso investir em educação e esclarecer a população quanto ao uso dessa ferramenta, bem como à manutenção e preservação de seus direitos 1.
Diante do exposto, este artigo buscou analisar as recentes pesquisas publicadas sobre as implicações bioéticas da aplicação da inteligência artificial na área da saúde, por meio de revisão integrativa da literatura, a partir da seguinte questão norteadora: quais são as principais implicações bioéticas relativas à inteligência artificial aplicada à saúde?
Método
Trata-se de revisão integrativa de literatura, que é uma metodologia capaz de agregar conhecimentos com base em estudos acerca de uma temática específica, a fim de proporcionar uma vasta gama de conhecimentos científicos 2. De acordo com Mendes, Silveira e Galvão 3, a construção da revisão integrativa perpassa seis etapas, a saber: 1) identificação do objeto e questão norteadora; 2) escolha dos critérios de inclusão e exclusão da pesquisa; 3) estabelecimento das informações a serem extraídas; 4) análise dos estudos escolhidos; 5) interpretação dos resultados; e 6) apresentação da revisão/síntese do conhecimento.
Como forma de subsídio para o estudo e em consonância com as etapas 1 e 2 citadas anteriormente, foi realizado no período de maio/junho de 2024 o levantamento de artigos publicados nos últimos cinco anos, ou seja, entre 2019 e 2024, nos bancos de dados Scientific Electronic Library Online (SciELO), Biblioteca Virtual de Saúde (BVS) e National Center for Biotechnolohy Information da National Library of Medicine (PubMed), utilizando os descritores “bioética, “inteligência artificial” e “tecnologia”, associados com o operador booleano “and”. Foram adotados como critérios de inclusão: artigos que possuíssem como descritores “bioética”, “inteligência artificial” e “tecnologia” e que estivessem disponíveis na íntegra para download. Foram excluídos artigos repetidos e cujo texto não estivesse disponível na íntrega.
Após a conclusão da etapa de levantamento das publicações, foi executada a verificação dos títulos e resumos para triagem com base nos critérios de inclusão estabelecidos para a pesquisa, seguida da leitura criteriosa e sistemática dos artigos incluídos.
Resultados
Uma extensa busca foi realizada nas bases de dados eletrônicas PubMed, SciElo e BVS, com auxílio da ferramenta metodológica Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA). Ela resultou em 188 artigos que apresentavam os descritores apropriados e, finalmente, 13 artigos foram selecionados para a presente revisão com base nos critérios de inclusão e exclusão, além da remoção de artigos duplicados (Figura 1).
Os manuscritos selecionados foram minuciosamente analisados, e as variáveis relevantes extraídas para esta revisão são apresentadas no Quadro 1. Os anos de publicação variam entre 2019 e 2024; quanto ao idioma de publicação, foram identificados dois artigos em português, três em espanhol e oito em língua inglesa.
Tais estudos discutem as vantagens e preocupações bioéticas da utilização das IA no âmbito da saúde, com destaque para os desafios de disponibilidade e acesso a tais ferramentas por parte das populações mais vulneráveis e para questões de consentimento e autonomia do indivíduo, privacidade e confidencialidade dos dados, responsabilidade institucional e profissional, bem como do receio de que elas substituam o papel físico e intelectual dos profissionais da saúde.
Discussão
São inegáveis as contribuições dos avanços tecnológicos para a sociedade, a exemplo da inteligência artificial. Assim, pautam-se, com progressiva ênfase no atual cenário mundial, discussões acerca dos complexos impactos desses recursos em nosso cotidiano, em decorrência da dificuldade de compreensão de seus conceitos e características técnicas e da amplitude de seu campo de atuação. Assim, torna-se necessária uma detalhada abordagem das implicações éticos-legais envolvidas em tal tema 4.
Ante esse panorama, salienta-se que as áreas da saúde não escapam à aplicabilidade da IA, que já está condicionada, como pode ser observado nas plataformas de atendimento telemático, em sua vasta utilização no diagnóstico de exames laboratoriais e de bioimagens, bem como nos processos de tomada de decisão, trazendo consigo possíveis melhorias na assistência técnica e clínica 4-6.
Então, considerando o novo contexto de cuidado em saúde que estamos vivenciando e o que nos reservam as evoluções futuras, os estudos aqui elencados nos convidam a refletir sobre as implicações bioéticas de tais mudanças. Primeiramente, destaca-se o impacto do uso da IA na experiência da relação profissional-paciente, sendo imprescindível o entendimento das limitações desses sistemas e a certificação dos elementos da inteligência humana 6,7.
Os autores ressaltam a importância da conexão face a face e questionam o fato de que as máquinas aprendem apenas com a linguagem, sem se incorporar ao mundo físico, sem experimentar a conexão do vocabulário com os objetos, propriedades e sentimentos. Desse modo, não compreendem as palavras da mesma forma que as pessoas, sendo incapazes de perceber emoções, como também de interagir em um contexto cultural e expressar empatia 6-8.
Esses são aspectos insubstituíveis nos processos de tomada de decisão, como descreve a neurobiologia das emoções, que destaca que, ao excluí-los, anula-se o papel dos valores morais, éticos, políticos e plurais das narrativas e visões de mundo. Ademais, corre-se o risco de perder o pensamento crítico em relação ao uso das tecnologias, o que nos tornaria meros operadores impassíveis, uma extensão muda do mecanismo programável da máquina que operamos 7.
Outras preocupações recorrentes dizem respeito à confidencialidade e à privacidade dos dados obtidos e armazenados, bem como à responsabilidade profissional e ao processo de consentimento informado na utilização da IA. Vale salientar que o direito ao sigilo de dados sensíveis ao paciente está previsto na Declaração Universal sobre Bioética e Direitos Humanos de 2009. Contudo, com o uso das IA, os ciberataques e os vazamentos de tais informações para benefício privado passam a ser um risco real, a exemplo do uso desses dados por seguradoras de saúde 5,6.
Dessa maneira, passa a ser responsabilidade das instituições e dos profissionais a proteção das informações médicas coletadas. Cabe ao Estado estabelecer princípios e regulamentar normas que assegurem aos pacientes o respeito a sua privacidade e integridade, para que seus dados só sejam acessados mediante consentimento. Isso já acontece nos Estados Unidos, onde a coleta, o armazenamento e a divulgação de informações pessoais de saúde são regulados pela Lei de Portabilidade e Responsabilidade de Seguros de Saúde (HIPAA), a qual define quais informações pessoais devem passar por etapas de anonimização e desidentificação 9-11.
Os textos também abordam o receio de que os instrumentos da IA ocupem a atual função dos humanos, porém é fundamental destacar que os primeiros não são suficientemente capazes de substituir os segundos, devendo exclusivamente exercer auxílio às condutas dos profissionais da saúde. Assim, com o intuito de evitar tais repercussões futuras, os humanos devem desempenhar suas atividades com a responsabilidade e a confiança desejadas pelos pacientes, características e comportamentos insubstituíveis 12.
No entanto, os trabalhadores da saúde tornam-se passíveis de erros quando utilizam de forma acrítica essa tecnologia ou quando, nas tomadas de decisão, consideram apenas os valores daqueles que programam a máquina, introduzindo o chamado “paternalismo de máquina”, deixando de lado os próprios valores, julgamentos e autonomia, bem como os do paciente. Desse modo, os profissionais têm a obrigação de envolver os indivíduos no diálogo, esclarecendo com transparência as vantagens e desvantagens do emprego das IA 10,12-14.
Haja vista as tamanhas transformações na atuação dos profissionais da saúde com a chegada da IA, passa a ser primordial que essa temática seja trabalhada desde a etapa formativa, isto é, que seja incorporada aos currículos de modo a abordar a extensa aplicabilidade da IA no campo da saúde e, concomitantemente, estabelecer um paralelo com os princípios fundamentais da bioética. Sugere-se, ainda, que algumas ferramentas, como o ChatGPT, são úteis na educação ética, pois ajudam a esclarecer termos e teorias 15,16.
Por fim, em relação à fundamentação das discussões aqui estabelecidas, destaca-se a ênfase dada à abordagem principialista da bioética, a qual propõe os princípios de justiça, não maleficência e autonomia, que se fazem importantes na escolha e emprego das ferramentas de IA no contexto da saúde. Além disso, o principialismo contribui significativamente nesse cenário, na medida em que permite compreender que nenhum princípio ou regra pode ser aplicado corretamente sem sabedoria prática e virtude 17.
Considerações finais
Embora o uso da IA na saúde como ferramenta tecnológica que contribui para diagnósticos e tratamentos tenha benefícios indiscutíveis para profissionais, para usuários e para o sistema de saúde como um todo, ainda faltam informações no que tange à proteção dos dados coletados e aos aspectos bioéticos. Também é preciso discutir o papel do profissional de saúde e do Estado na manutenção e na garantia do sigilo e da confidencialidade dos usuários.
Os resultados desta pesquisa apontam que, apesar dos benefícios da utilização da IA na saúde, ela não substitui a avaliação criteriosa do profissional de saúde, que deve ter em mente que a IA é um instrumento de auxílio, cabendo a ele, profissional, a palavra final na condução dos casos, minimizando, assim, possíveis erros que um uso sistemático da IA, sem qualquer análise fundamentada em saberes, provocaria.
Referências
-
1 World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance [Internet]. Geneva: WHO; 2021 [acesso 14 out 2024]. p. 5. Tradução livre. Disponível: https://www.who.int/publications/i/item/9789240029200
» https://www.who.int/publications/i/item/9789240029200 -
2 Souza MT, Silva MD, Carvalho R. Integrative review: what is it? How to do it? Einstein (São Paulo) [Internet]. 2010 [acesso 14 out 2024];8(1):102-6. DOI: 10.1590/S1679-45082010RW1134
» https://doi.org/10.1590/S1679-45082010RW1134 -
3 Mendes KDS, Silveira RCCP, Galvão CM. Revisão integrativa: método de pesquisa para a incorporação de evidências na saúde e na enfermagem. Texto & contexto enferm [Internet]. 2008 [acesso 14 out 2024];17(4):758-64. DOI: 10.1590/S0104-07072008000400018
» https://doi.org/10.1590/S0104-07072008000400018 -
4 Frez Pulgar GA. Bioética e integración de la inteligencia artificial en la medicina: reflexiones desde el cine sobre la condición humana y la responsabilidad hacia las generaciones futuras. Aesthethika [Internet]. 2023 [acesso 14 out 2024];19(2):41-7. Disponível: https://tinyurl.com/ycy96pd3
» https://tinyurl.com/ycy96pd3 -
5 Actis AA. Consideraciones bioéticas en relación con el uso de la inteligencia artificial en mastología. DOAJ [Internet]. 2021 [acesso 14 out 2024];37(4):e37413. Disponível: https://tinyurl.com/39awws7y
» https://tinyurl.com/39awws7y -
6 Duarte ES, Moura FS, Oliveira LP, Garcia LF. Aspectos bioéticos da utilização de sistemas de inteligência artificial no campo da saúde: um estudo exploratório. Rev bioét derecho [Internet]. 2023 [acesso 14 out 2024];57:263-85. DOI: 10.1344/rbd2023.57.35146
» https://doi.org/10.1344/rbd2023.57.35146 -
7 Bustamante BJP. ¿Operarios impasibles? Desafíos de la educación y la experiencia médico paciente en relación con la inteligencia artificial. Aesthethika [Internet]. 2023 [acesso 14 out 2024];19(2):49-56. Disponível: https://tinyurl.com/44kbsxkj
» https://tinyurl.com/44kbsxkj -
8 Tai MCT. The impact of artificial intelligence on human society and bioethics. Tzu Chi Med J [Internet]. 2020 [acesso 14 out 2024];32(4):339-43. DOI: 10.4103/tcmj.tcmj_71_20
» https://doi.org/10.4103/tcmj.tcmj_71_20 -
9 Nunes HC, Guimarães RMC, Dadalto L. Desafios bioéticos do uso da inteligência artificial em hospitais. Rev. bioét. (Impr.) [Internet]. 2022 [acesso 14 out 2024];30(1):82-93. DOI: 10.1590/1983-80422022301509PT
» https://doi.org/10.1590/1983-80422022301509PT -
10 Oliva A, Grassi S, Vetrugno G, Rossi R, Morte GD, Pinchi V, Caputo M. Management of medico-legal risks in digital health era: a scoping review. Front Med [Internet]. 2022 [acesso 14 out 2024];8:821756. DOI: 10.3389/fmed.2021.821756
» https://doi.org/10.3389/fmed.2021.821756 -
11 Cohen G, Evgeniou T, Gerke S, Minssen T. The european artificial intelligence strategy: implications and challenges for digital health [Internet]. Lancet Digit Health. 2020 [acesso 14 out 2024];2(7):e376-e379. DOI: 10.1016/S2589-7500(20)30112-6
» https://doi.org/10.1016/S2589-7500(20)30112-6 -
12 Savulescu J, Giubilini A, Vandersluis R, Mishra A. Ethics of artificial intelligence in medicine. Singapore Med J [Internet]. 2024 [acesso 14 out 2024];65(3):150-8. DOI: 10.4103/singaporemedj.SMJ-2023-279
» https://doi.org/10.4103/singaporemedj.SMJ-2023-279 -
13 Nebeker C, Torous J, Bartlett ERJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 14 out 2024];17(1):137. DOI: 10.1186/s12916-019-1377-7
» https://doi.org/10.1186/s12916-019-1377-7 -
14 Prakash S, Balaji JN, Joshi A, Surapaneni KM. Ethical conundrums in the application of artificial intelligence (AI) in healthcare - a scoping review of reviews. J Pers Med [Internet]. 2022 [acesso 14 out 2024];12(11):1914. DOI: 10.3390/jpm12111914
» https://doi.org/10.3390/jpm12111914 -
15 Livanis E, Voultsos P, Vadikolias K, Pantazakos P, Tsaroucha A. Understanding the ethical issues of brain-computer interfaces (BCIs): a blessing or the beginning of a dystopian future? Cureus [Internet]. 2024 [acesso 14 out 2024];16(4):e58243. DOI: 10.7759/cureus.58243
» https://doi.org/10.7759/cureus.58243 -
16 Kapsali MZ, Livanis E, Tsalikidis C, Oikonomou P, Voultsos P, Tsaroucha A. Ethical concerns about ChatGPT in healthcare: a useful tool or the tombstone of original and reflective thinking? Cureus [Internet]. 2024 [acesso 14 out 2024];16(2):54759. DOI: 10.7759/cureus.54759
» https://doi.org/10.7759/cureus.54759 - 17 Rocha DM. Bioética e o principialismo: um estudo a partir de Wittgenstein [dissertação]. Florianópolis: UFSC; 2008.
Editado por
-
Editora responsável
– Dilza Teresinha Ambrós Ribeiro
