Inteligência artificial: uma ponte para o futuro da medicina

Resumo

A inteligência artificial tornou-se ferramenta essencial em diversos domínios da medicina, possibilitando novos padrões de inovação, como medicina de precisão, neurociências, genômica e proteômica, entre outros. Este artigo busca sintetizar os principais desafios éticos suscitados pela aplicação da inteligência artificial na medicina, a fim de promover uma implementação responsável dessas novas tecnologias digitais, sempre a serviço das pessoas e da humanidade. Além disso, propõe-se um conjunto de recomendações para o desenvolvimento de uma inteligência artificial confiável no contexto médico. Do ponto de vista metodológico, realizou-se análise aprofundada dos principais instrumentos éticos e jurídicos internacionais voltados à regulação da inteligência artificial. Conclui-se que a exigência de uma governança ética eficaz torna imprescindível garantir a preservação da agência humana na aplicação dos sistemas de inteligência artificial, bem como assegurar total transparência nos processos de pesquisa e desenvolvimento dessas tecnologias.

Palavras-chave
Inteligência artificial; Ética médica; Regulação da inteligência artificial; Transparência na pesquisa; Bioética; Tecnologia e saúde

Abstract

Artificial intelligence has become an essential tool across various fields of medicine, enabling new patterns of innovation such as precision medicine, neurosciences, genomics, and proteomics. This article aims to synthesize the main ethical challenges arising from the application of artificial intelligence in medicine, in order to promote responsible implementation of these digital technologies, always serving people and humanity. Additionally, it proposes a set of recommendations for developing trustworthy artificial intelligence in the medical context. Methodologically, an in-depth analysis was conducted of the main international ethical and legal instruments regulating artificial intelligence. It is concluded that effective ethical governance is essential to preserve human agency in the application of artificial intelligence systems and to ensure full transparency in research and development processes.

Keywords
Artificial intelligence; Medical ethics; Regulation of artificial intelligence; Transparency in research; Bioethics; Technology and health

Resumen

La inteligencia artificial se ha convertido en una herramienta esencial en diversos campos de la medicina, posibilitando nuevos patrones de innovación, como medicina de precisión, neurociencias, genómica y proteómica. Este artículo busca sintetizar los principales desafíos éticos surgidos de la aplicación de la inteligencia artificial en la medicina, con el objetivo de promover una implementación responsable de estas tecnologías digitales, siempre al servicio de las personas y la humanidad. Además, se proponen un conjunto de recomendaciones para el desarrollo de una inteligencia artificial confiable en el contexto médico. Metodológicamente, se realizó un análisis exhaustivo de los principales instrumentos éticos y jurídicos internacionales orientados a la regulación de la inteligencia artificial. Se concluye que una gobernanza ética eficaz es fundamental para preservar la agencia humana en la aplicación de los sistemas de inteligencia artificial y garantizar total transparencia en los procesos de investigación y desarrollo.

Palabras clave
Inteligencia artificial; Ética médica; Regulación de la inteligencia artificial; Transparencia en la investigación; Bioética; Tecnología y salud

A inteligência artificial (IA) está a mudar drasticamente a vida das pessoas em todo o planeta, influenciando aspectos fundamentais de nossa vida social em áreas como economia, sistema financeiro, artes criativas, educação e até mesmo saúde pública ou prestação de cuidados de saúde. Também a investigação científica e o desenvolvimento tecnológico são já hoje controlados em grande escala por IA, permitindo novos padrões de inovação, como a proteômica, o que implica sérios desafios éticos ¹.

Inúmeras instituições internacionais – como Organização Mundial da Saúde (OMS) ², Comissão Europeia ³, Parlamento Europeu ⁴, Office of Science and Technology Policy (Estados Unidos) ⁵, Nuffield Council on Bioethics ⁶ e Conselho Nacional de Ética para as Ciências da Vida de Portugal ⁷ – manifestaram importantes reservas na aplicação da IA, sugerindo a necessidade de uma supervisão eficaz em seu desenvolvimento e controle humano em sua aplicação. Também o Conselho Federal de Medicina (CFM) tem demonstrado especiais preocupações em relação ao assunto, tendo criado um grupo de trabalho para tanto.

Este artigo pretende efetuar uma síntese dos principais desafios éticos suscitados pela IA na medicina de modo a possibilitar uma implementação responsável das novas tecnologias digitais sempre a serviço da humanidade. Também busca promover um conjunto de recomendações para uma IA de confiança na medicina. Para isso e do ponto de vista metodológico, os autores efetuaram uma análise detalhada dos principais instrumentos éticos e jurídicos internacionais sobre regulação de IA.

Inteligência artificial na investigação e na medicina

O desenvolvimento da inteligência artificial – definida como um sistema desenhado pelo ser humano que, diante de um objetivo complexo, atua nas dimensões física e digital, percebendo seu ambiente pela aquisição de dados, interpretando-os de forma estruturada ou não, raciocinando no conhecimento ou processando a informação deles derivada e decidindo o melhor curso de atuação para atingir esse objetivo ⁸ – inscreve-se em uma ampla transição digital que atravessa nossa sociedade. Esse fenômeno se caracteriza por uma rápida expansão de diferentes tecnologias de informação e comunicação (TIC), um desenvolvimento sem procedentes da computação quântica, a implementação da robótica nos mais diferentes domínios de atividade, ou a geração de meta dados, big data e lake data, sem efetivo controle e supervisão.

Os sistemas da IA têm caraterísticas distintivas que implicam uma mudança de paradigma, não se tratando apenas de nova ferramenta digital. De fato, a IA tem capacidade de aprendizagem e de autoaprendizagem, de forma automática (machine learning), profunda (deep learning) ou pela associação entre diferentes conceitos. Outra marca distintiva da IA é o networking, ou seja, a capacidade de trabalhar em rede interativa: a atividade de robôs autônomos, por exemplo, é independente, mas também interligada. O próprio conceito de “robô social” refere-se não apenas à interação com seres humanos, mas à conectividade entre diferentes sistemas de IA.

Por outro lado, robôs autônomos movem-se no espaço físico humano. Assim, a IA não se restringe espacialmente a um computador, mas pode mover-se e até contatar qualquer pessoa pela utilização proficiente da linguagem humana. Esse é um enorme desafio para a humanidade, dado que a capacidade de dominar a linguagem pode originar a captura de aspectos essenciais da cultura e da civilização humanas, mesmo antes da singularidade ser alcançada ⁹. A singularidade é entendida como uma fase em que a inteligência artificial, intencionalmente ou não, adquire a capacidade de controlar o desenvolvimento coletivo da humanidade sem que nossa espécie consiga entender os mecanismos de atividade e de funcionamento dos sistemas de IA ¹⁰. Portanto, compreender como a IA está a evoluir é fundamental ¹¹.

Mais especulativa é a possibilidade de a IA desenvolver senciência ¹² (capacidade de ter experiências subjetivas) ou mesmo personalidade cibernética ¹³. Baseada em software que atua no mundo virtual (assistentes de voz, software para análise de imagem, motores de busca, sistemas de reconhecimento facial etc.), ou incorporada em dispositivos de hardware (robôs sociais, veículos autônomos, drones etc.), a IA parece não ter limites tecnológicos a seu desenvolvimento. Ou seja, tem o potencial de revolucionar o modo como se ensina, aprende, investiga e aplica o conhecimento científico.

No ensino e na pesquisa, a IA generativa – que tem o ChatGPT, o DeepSeek, o Claude, o Gemini e o DALL-E como bons exemplos – tem originado inovação científica e pedagógica disruptiva pela agilidade com que se produz e pela rapidez com que se concretiza. Se devidamente utilizada, com integridade e profissionalismo, pode estimular os estudantes a adquirir competências técnicas com mais facilidade ¹⁴.

A IA generativa permite a implementação de um modelo de active learning mais personalizado e atrativo em todos os domínios científicos, contribuindo de modo rápido para o desenvolvimento de conteúdos pedagógicos úteis de apoio a estudantes (resumos, flashcards, questões sobre conteúdos etc.) e a docentes (preparação de materiais para utilização em planos de aula, relatórios, diapositivos, questões para discussão e perguntas de exame). Pode ser também importante ajuda à enunciação de questões científicas que impulsionam reflexão e investigação sobre determinado tema, ou mesmo possibilitar recurso a material bibliográfico fornecido pelos docentes em vez da simples consulta à internet. É ferramenta excelente para tradução de textos e redação de trabalhos, possibilitando ainda o desenvolvimento de novas aplicações, com potencial inesgotável ¹⁵.

No entanto, a IA generativa coloca sérias reservas que devem ser equacionadas, nomeadamente no plano da integridade científica e acadêmica. Como ela recorre a bases primárias de dados que fluem livremente na internet (podendo alguns dados serem exponenciados de forma segmentada e, portanto, os resultados serem enviesados), é possível questionar se se trata de plágio utilizar um texto generativo previamente publicado que recorre à criação intelectual de terceiros. Essa é uma circunstância que coloca naturais reservas no plano ético e que tem implicações no usufruto de direitos de autor, ou na geração de patentes comerciais, sobretudo na medicina. Consequentemente, é necessário novo quadro legal e regulamentar para enquadrar a utilização da IA generativa na academia, nos centros de investigação e na translação para as empresas, tendo em atenção os seguintes aspectos éticos:

1. Proteção dos dados e da privacidade individual.

2. Direitos de autor.

3. Prevenção de plágio.

4. Obtenção de referências credíveis.

5. Garantia de verificabilidade, fiabilidade e veracidade da informação.

6. Combate à desinformação.

7. Controle do fluxo de informação.

8. Garantia de utilizadores digitalmente incluídos.

Por outro lado, a criatividade científica, fundamental para uma evolução consistente da medicina, pode ficar limitada com o recurso sistemático a inteligência artificial, pois o viés introduzido pelas bases primárias de dados que alimentam a IA e a IA generativa limitam a criatividade intelectual que é apanágio do espírito científico. Sendo já na atualidade difícil a um cientista pensar “fora da caixa”, pelos sistemáticos constrangimentos administrativos suscitados pelas políticas científicas institucionais, mais complexo será no futuro sair do algoritmo de convergência entre IA e evidência científica sistematizada pelas meta-análises. Acresce-se o fato de que o acaso na ciência (serendipity) – responsável por incríveis benefícios científicos na medicina (descoberta da penicilina, da heparina ou dos raios X) – ficará seguramente residual.

O enorme potencial da inteligência artificial comporta riscos, o que exige extrema cautela em sua utilização. Um dos principais riscos é a falta de explicabilidade da IA, ou seja, a incapacidade de perceber como se processa a IA e como se alcançam determinados resultados. A falta de reprodutibilidade (a capacidade de outra investigação exibir o mesmo comportamento nas mesmas condições, com o mesmo método, existindo evidência científica correspondente) e de replicabilidade (a capacidade de uma investigação independente alcançar conclusões similares, ainda que não idênticas, quando existem diferenças na amostra, procedimentos de investigação e métodos de análise de dados) deve ser cuidadosamente apreciada, de modo que a confiança em relação à ciência médica ¹⁶ e suas aplicações não seja questionada ¹⁷.

Por diversos motivos, existe uma crise de confiança na ciência médica da qual a crise da reprodutibilidade é apenas uma das facetas ¹⁸. Outros fatores, como a perigosa diminuição dos níveis de liberdade no planejamento, realização e análise dos estudos científicos ¹⁹, a progressiva mercantilização da ciência, a exigência de critérios, por parte do peer review, que objetivamente limitam a criatividade intelectual, podem ser exponenciados no futuro pela IA, sendo essencial ter soluções criativas para lidar eticamente com tais fenômenos.

Na medicina, a IA representa um considerável desafio ético-social. Pode ser de extrema utilidade na promoção de novas modalidades de diagnóstico e tratamento, além da prevenção de doenças potencialmente fatais. Adicionalmente, pode fornecer aos médicos uma análise mais precisa e detalhada, ajudando no diagnóstico e tratamento de muitas doenças ²⁰. Na radiologia, por exemplo, a IA é de extrema utilidade, auxiliando na detecção de imagens suspeitas e no melhoramento de imagens, ou mesmo na triagem ²¹. A radiologia é uma das áreas em que a IA se fará sentir no curto prazo, antevendo-se uma acessibilidade acrescida a esse tipo de serviço, sobretudo se conjugada com telemedicina e outras formas de e-saúde ²². Porém, essa agilidade na interpretação da imagem pode vir a generalizar sua utilização e interpretação por profissionais de saúde não especializados na área, o que implica menor capacidade para analisar criticamente os resultados e para detectar falhas por parte da IA.

Todas as áreas da medicina serão impactadas pela IA, tal como dermatologia ²³, rastreio e tratamento da neoplasia da mama ²⁴, ciências cardiovasculares ²⁵, produção de antibióticos ²⁶ e até mesmo nutrição clínica. Nessa área, a IA pode auxiliar na análise de dados complexos, na sugestão de intervenções nutricionais personalizadas, na avaliação de necessidades nutritivas, na prevenção de doenças ou na monitoração da ingestão dietética, direcionando os doentes a escolhas alimentares mais saudáveis ²⁷.

Nos cuidados paliativos, a IA tem o enorme potencial de apoiar clínicos na tomada decisão e de identificar doentes em risco elevado de mortalidade ou de tratamento inapropriado. Ademais, as ferramentas de IA podem facilitar alguns aspectos centrais dos cuidados paliativos, como direcionar a entrevista clínica com o objetivo de promover o planejamento avançado de cuidados ou o ajustamento do plano de tratamento às necessidades e escolhas dos pacientes ²⁸. Em cuidados continuados, a IA pode ajudar cuidadores no apoio a idosos ou ser útil para monitorar doentes em tempo real, por vezes a longa distância, a exemplo da telemedicina. Na medicina, a evolução tem sido surpreendente, ainda que a falta de explicabilidade, traduzindo-se no conhecido problema “caixa negra” (o utilizador não conseguir descortinar o problema do aparelho ou o modo como funciona), seja um problema complexo.

A transformação progressiva para o “médico digital” – contexto no qual o médico pode assumir a função de copiloto da IA na prática clínica – exige uma redefinição do quadro de responsabilidades e uma nova forma de responsabilização profissional e organizativa. Recorde-se, porém, que as modernas aplicações de IA na medicina clínica, por meio da transcrição da consulta médica ²⁹, já têm a capacidade de efetuar diagnóstico diferencial, de efetuar sugestões de meios complementares de diagnóstico e de produzir recomendações de tratamento. Essa função de “scribe and coach” encerra em si própria a possibilidade de desvirtuar a relação médico-doente, afetando aspectos essenciais dessa relação, como a intuição médica baseada na experiência ou a empatia e compaixão tão necessárias na relação entre pessoas. Por outro lado, pode questionar-se se a orientação terapêutica decorrente dos prompts e respectivas respostas seria recomendada de acordo com as leges artis, e quais mecanismos eficazes existem para prevenir danos e intercorrências indesejáveis.

Deve-se aprofundar sempre a natureza ética da relação com o doente, sendo este o melhor capital que a medicina tem a oferecer em uma sociedade profundamente tecnológica ³⁰. Importa assegurar que a relação clínica com o doente não seja desvirtuada por um afastamento entre profissionais de saúde e doentes, sendo necessário elaborar medidas para aprofundar a relação de confiança na prática clínica e na pesquisa em seres humanos.

Em síntese, na interface entre medicina, biomedicina, ciência e investigação, a IA coloca sérios desafios que podem transformar-se em importantes oportunidades de desenvolvimento coletivo. Terá um extraordinário impacto na gestão da saúde, tanto na gestão operacional como na regulação transnacional do acesso à saúde, por exemplo, por meio da generalização da health wallet, ou carteira digital de dados de saúde, uma tecnologia que congregará não apenas os dados coligidos no registro de saúde eletrônico, mas todos os outros dados de saúde armazenados, a título exemplificativo:

1. Sistemas digitais do setor privado e social.

2. Telemedicina e outras formas de e-saúde.

3. Aplicações móveis de saúde.

4. Soluções de atendimento virtual.

5. Aplicações de monitoração remota.

Dispositivos eletrônicos desenhados para utilização no corpo humano (relógios inteligentes, joias inteligentes, óculos digitais, auscultadores com bluetooth, rastreadores de fitness etc.).

Em qualquer caso, essa espantosa evolução verificada nos últimos anos coloca significativas reservas éticas que devem ser aprofundadas e esclarecidas.

Inteligência artificial, ética e regulação

A implementação da inteligência artificial, sobretudo da IA geral (artificial general intelligence), traz questões éticas fundamentais, tanto para a sociedade como para a medicina, a ciência e a pesquisa. Essas questões encontram-se em constante evolução, visto que emergentes aplicações de IA suscitam por si novos problemas antes não previstos. Ainda assim, a implementação da IA deve ter em especial atenção o respeito por valores éticos nucleares como autonomia humana, não discriminação, proteção de dados e da privacidade individual e justiça, bem como pelos direitos das populações vulneráveis, como crianças, idosos e pessoas com deficiência. Também implica promover inclusão digital e combater a desinformação que a exclusão digital pode proporcionar, com inegável impacto no mercado laboral, incluindo a medicina e as restantes profissões da saúde.

É importante assegurar constantes supervisão e controle humanos durante o desenvolvimento e a utilização da IA, mas apenas esse esforço não é suficiente. É necessário garantir que empresas que efetuam investigação com e em inteligência artificial promovam a transparência dos procedimentos e incorporem sempre uma perspectiva ética no desenho desses sistemas. Só assim a IA será verdadeiramente confiável e contribuirá para um desenvolvimento humano sustentável. De acordo com o Independent High-Level Expert Group on Artificial Intelligence ³¹, é fundamental garantir no desenvolvimento e aplicação de IA sete critérios éticos essenciais:

1. Agência e supervisão humanas.

2. Robustez técnica e segurança.

3. Privacidade e boa governação de dados.

4. Transparência.

5. Diversidade, não discriminação e justiça.

6. Bem-estar social e ambiental.

7. Accountability (responsabilização).

Outra importante questão levantada pelo uso da IA é a evolução do quadro de valores sociais, considerando que este pode ser moldado pelo viés da própria tecnologia. Trata-se de questão nuclear a longo prazo, pois as fontes primárias que alimentam a IA generativa são fortemente influenciadas por princípios como a doutrina dos direitos humanos, o respeito à dignidade humana, a proteção da identidade individual, a igualdade e a não discriminação, bem como a preservação do meio ambiente e da biodiversidade – valores fundantes das democracias pluralistas e pilares da moderna ética médica. No entanto, nada impede que, em um futuro mais ou menos próximo, novas ideologias alimentem a IA generativa, formando correntes de opinião menos comprometidas com esses valores e seus referenciais éticos, e mais voltadas ao controle dos cidadãos. Ademais, é possível que IA seja utilizada para alterar correntes de pensamento previamente consagradas ³². Atualmente, a IA parece apoiar-se em um núcleo sólido de princípios éticos ³³, o que é especialmente relevante em áreas sensíveis do ponto de vista humano, como a medicina.

Por outro lado, a liberdade de expressão pode ficar seriamente condicionada, favorecendo a disseminação em massa de desinformação e misinformação, com impacto significativo no setor da saúde. Um exemplo recente foi a difusão de informações falsas durante campanhas de vacinação universal, que resultou em consequências para a saúde pública. Todos os esforços devem ser direcionados para criar uma sociedade civil vibrante, esclarecida e bem informada sobre fatos científicos validados por agências de reconhecida credibilidade, o que implica incrementar os níveis gerais de literacia, sobretudo no que diz respeito a como interagir com diferentes redes sociais e com a própria IA ³⁴. Novas formas de cooperação social, como a “inteligência coletiva” aplicada ao processo de tomada de decisão pública, também podem ser consideradas ³⁵.

A OMS reconhece que a IA tem o enorme potencial de ampliar o acesso a cuidados de saúde ³⁶. Com a expansão do uso de sistemas digitais, esperam-se significativos ganhos de equidade no acesso a serviços de qualidade apropriada, considerando-se que a saúde é um direito universal ³⁷. A solidariedade, pilar da vida social e da construção do Estado de bem-estar social, deve ser preservada, garantindo que a IA não coloque esses direitos em risco nem contribua para a criação de novas formas de exclusão social ou de restrição do acesso a sistemas de saúde. Deve-se assegurar justiça, igualdade e não discriminação, em nível nacional e internacional. Em outras palavras, os benefícios previstos devem ser partilhados pelo conjunto da sociedade, e não apenas por grupos específicos. A adoção da IA deve respeitar um princípio humanitário comum, sendo desejável que contribua para maior justiça global e para a redução das desigualdades entre o Norte e o Sul.

A partilha dos resultados de investigações com e sobre IA contribuirá não apenas para o aumento da produtividade em escala global, mas também para a promoção de maior justiça social. Isso porque as tecnologias digitais e a IA, se adequadamente implementadas, podem desempenhar papel decisivo no alcance da igualdade como objetivo universal ³⁸, incentivando a criação e o fortalecimento de comunidades inclusivas, seguras, resilientes e ambientalmente sustentáveis ³⁹. É fundamental promover igualdade de gênero, garantindo que mulheres e homens tenham as mesmas condições para exercer plenamente seus direitos humanos, bem como para contribuir e usufruir dos benefícios do desenvolvimento econômico, social, cultural e político. O Fórum Econômico Mundial, nesse sentido, destaca a necessidade de investir em pesquisas centradas na mulher, incluindo a coleta de dados científicos sobre o gênero feminino, a ampliação do acesso de mulheres a serviços de saúde de boa qualidade e o fomento à liderança feminina ⁴⁰.

A IA e a IA generativa impõem relevantes desafios éticos à medicina e a outras ciências da vida, exigindo especial atenção no setor da saúde. Diante disso, apresentam-se a seguir algumas recomendações para uma implementação ética e responsável da IA:

Promoção do respeito pela liberdade individual e prevenção de danos aos seres humanos: um dos valores centrais das sociedade civilizadas é o exercício da liberdade individual e da cidadania responsável ⁴¹. Na medicina, o exercício da liberdade ética individual transformou a relação médico-doente e levou, por exemplo, à implementação generalizada do consentimento informado e das diretivas antecipadas de vontade, como o testamento vital ⁴². A IA pode e deve contribuir para o exercício da liberdade e da autodeterminação da pessoa, o que implica garantir adequada literacia digital para a população em geral e para os pacientes em particular, dado que muitas ferramentas atualmente utilizadas – como o registro eletrônico de saúde processado por IA, ou o recurso à IA generativa para interpretar o consentimento informado ⁴³ – exigem substancial inclusão digital. Para alcançar esses objetivos, importa envolver os stakeholders durante todo o ciclo de vida dos sistemas de IA, bem como redefinir o sistema de responsabilidade civil, incluindo a previsão de seguro específico para a atividade. É fundamental que a implementação de sistemas de IA – desde a concepção e pesquisa até a implementação e operacionalização – esteja sempre sob controle humano. Devem ser criados mecanismos robustos de governança e supervisão da IA, como o Regulamento de Inteligência Artificial da União Europeia ⁴⁴. Exige-se especial atenção ao chamado “risco existencial” (X-Risk) para a humanidade e para a civilização ⁴⁵, decorrente do desenvolvimento de personalidade cibernética ou de singularidade tecnológica ⁴⁶.

Proteção da privacidade individual, salvaguarda de dados pessoais e promoção de boa governação de dados e metadados: a privacidade individual é um dos direitos mais protegidos, pois a intimidade da vida privada integra a esfera mais identitária e exclusiva da pessoa humana. Diretamente relacionado a esse direito encontra-se a proteção de dados pessoais, outro símbolo marcante do Estado democrático de direito ⁴⁷. No campo da saúde, a proteção da privacidade e dos dados pessoais tem especial relevância, por se tratar de matéria essencial ao livre desenvolvimento da personalidade. Na ciência e na pesquisa, percebe-se a enorme apetência por dados pessoais de saúde, por natureza sensíveis e privados; por isso, a IA e tecnologias conexas – como a computação quântica – devem ser desenvolvidas sob o paradigma do respeito a esses valores ⁴⁸. Pesquisadores, ainda que bem-intencionados, não devem permitir que o ethos da ciência se sobreponha aos direitos individuais, sob pena de se ampliar o alcance do inovador direito a esquecimento, ou seja, a possibilidade de um doente solicitar a remoção de seus dados pessoais dos sistemas digitais ⁴⁹. O uso de dados sintéticos gerados por IA pode ser uma solução para contornar a limitação da anonimização e da pseudonimização (desidentificação) em garantir proteção total de dados pessoais sensíveis ⁵⁰, o que impõe a adoção de uma estratégia global de cibersegurança e de proteção de dados ⁵¹.

Garantia de integridade científica e prevenção de conflitos de interesses: a ciência, especialmente a medicina, já ultrapassou todas as barreiras tecnológicas, colocando-se, no entanto, a questão de seus limites éticos e sociais. A integridade científica e a ética na pesquisa biomédica aplicam-se a todas as fases do desenvolvimento científico, desde a concepção do projeto até sua utilização comercial. A utilização de IA generativa, como o ChatGPT ⁵², exige a redefinição das regras de consulta a estudos previamente publicados, deixando clara a autoria original; também demanda repensar os critérios de originalidade, as medidas de combate a plágio, as regras editoriais e de supervisão de revistas científicas, além de reforçar mecanismos que garantam a replicabilidade e a reprodutibilidade da pesquisa como prova de seu valor científico ⁵³. Devem ser implementados mecanismos modernos de verificação de conflitos de interesse dos pesquisadores, assegurando que o ethos científico não seja desvituado pelas novas tecnologias. Também é fundamental que sistemas de IA sejam projetados para respeitar esses valores e princípios científicos universais ⁵⁴, evitando a turbocharging misinformation e o viés algorítmico ⁵⁵, e que se avalie a criação de um código de conduta específico para o uso de IA ⁵⁶.

Proteção de grupos vulneráveis, como crianças, idosos, pessoas com deficiência, migrantes e doentes em geral: é um princípio civilizatório que a IA contribua para a inclusão, e não para a exclusão. A concepção contemporânea de um modelo de bem-estar social que assegure iguais oportunidades a todos, independentemente da “loteria da vida”, deve encontrar na IA um parceiro ideal para a plena concretização desse objetivo. Para isso, é necessária a reestruturação das cadeias de valor em torno das novas tecnologias digitais, de modo a promover melhorias na qualidade de vida e no bem-estar social. Embora os sistemas de IA ofereçam inegáveis benefícios, eles também apresentam riscos que podem afetar de forma negativa – e de difícil previsão, identificação ou mensuração – populações mais vulneráveis. Na saúde mental, por exemplo, estima-se que a realidade virtual possa ter impacto especialmente relevante, produzindo resultados concretos para os pacientes ⁵⁷. Por isso, é urgente implementar uma estratégia de literacia em IA ⁵⁸ que contemple as novas tecnologias de saúde digital, conduzida de forma participativa e positiva, para que todos possam dela se beneficiar, especialmente no acesso à saúde e aos avanços da ciência ⁵⁹.

Garantia de impacto positivo da IA na saúde global e na promoção da One Health: tanto no acesso a sistemas de saúde quanto em situações de emergência de saúde pública, a IA é considerada ferramenta indispensável para a gestão da saúde individual e coletiva. Uma nova onda de medicina personalizada e de precisão encontra na IA o recurso ideal para sua rápida implementação. Já em saúde pública, a IA demonstrou elevada eficácia, na China e no Canadá, no rastreamento de contatos, identificando todas as pessoas expostas a gotículas respiratórias ou secreções de casos de covid-19. Esse rastreamento permitiu estratificar riscos de exposição e implementar medidas como isolamento profilático e vigilância epidemiológica, prevenindo assim a disseminação da doença infecciosa. Respostas desse tipo assumem ainda maior importância em escala global, no contexto da saúde global, em que se faz necessária uma estratégia supranacional e coordenada. Para garantir um rastreamento epidemiológico eficiente, com benefícios concretos para a saúde global das populações, é fundamental padronizar procedimentos e sistemas de classificação. A codificação é essencial para possibilitar a comparação de estratégias e resultados, como exemplifica a Classificação Internacional de Intervenções em Saúde ⁶⁰. Dessa forma, promove-se a One Health – conceito que reconhece a profunda interconexão entre saúde humana, saúde animal e o meio ambiente que nos rodeia ⁶¹.

Reconhecer a inteligência artificial de confiança como o 18º Objetivo de Desenvolvimento Sustentável (ODS): dado o impacto transversal e interconectado da IA em todos os domínios de atividade, os 17 ODS atualmente vigentes serão, de alguma forma, influenciados por essa tecnologia ⁶². A Agenda 2030 contempla diversas dimensões de desenvolvimento sustentável, com o propósito de promover paz, justiça e a criação de instituições eficazes. Nesse contexto, estabelecer limites claros para a aplicação da IA surge como medida inevitável, especialmente relevante nas áreas da medicina e das ciências da vida e da saúde.

Considerações finais

Para que a IA seja considerada confiável na medicina, na saúde, na pesquisa e na sociedade em geral, alguns passos parecem inevitáveis. Em primeiro lugar, é essencial desenvolver e utilizar sistemas de IA respeitando a liberdade e a autodeterminação da pessoa humana, prevenindo potenciais danos e garantindo justiça em sua utilização, sobretudo por meio de efetivo controle humano. Deve-se dar atenção especial aos grupos mais vulneráveis, como crianças, idosos e pessoas com deficiência, bem como àqueles em risco de exclusão social em razão de mudanças nas relações de trabalho promovidas pela IA ou do chamado “dividendo geracional”, decorrente da aquisição natural de competências digitais pelas gerações mais jovens em comparação às anteriores.

Por outro lado, para garantir pleno desenvolvimento humano e crescimento econômico sustentável e especializado, é necessário estimular a inovação e a aquisição de competências digitais, incluindo o aprofundamento da explicabilidade da IA. Isso requer uma nova abordagem à formação acadêmica transgeracional e a promoção do ensino universal da IA nas escolas, de modo que jovens adquiram rapidamente competências transversais na área. As escolas médicas, por sua vez, devem adaptar-se a essa realidade e promover, desde já, a educação para uso responsável da IA no ensino da medicina.

Pode-se concluir que, sendo a IA uma tecnologia em rápida expansão internacional, garantir esses valores éticos exige redefinir os mecanismos de governança global, de modo a assegurar não uma proibição, mas uma regulação efetiva e abrangente. A necessidade de uma governança ética eficaz torna fundamental preservar a agência humana na aplicação de sistemas de IA (human in the loop), bem como assegurar total transparência e rigorosa accountability na pesquisa com e sobre inteligência artificial.

Referências

• ¹ Stahl BC. Artificial intelligence for a better future. An ecosystem perspective on the ethics of AI and emerging digital technologies [Internet]. Cham: Springer; 2021 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/ftu75btx
  » https://tinyurl.com/ftu75btx
• ² World Health Organization. Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models [Internet]. Geneva: WHO; 2024 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/z8cwb4nf
  » https://tinyurl.com/z8cwb4nf
• ³ European Commission. European health data space [Internet]. 2024 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/5n6nbbt2
  » https://tinyurl.com/5n6nbbt2
• ⁴ European Parliament. Artificial intelligence in healthcare [Internet]. 2022 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/5n97dsvk
  » https://tinyurl.com/5n97dsvk
• ⁵ Office of Science and Technology Policy. Blueprint for an AI Bill of Rights: making automated systems for the American people [Internet]. 2022 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/2cua5m8v
  » https://tinyurl.com/2cua5m8v
• ⁶ Nuffield Council on Bioethics. Artificial intelligence (AI) in healthcare and research. London: Nuffield Council on Bioethics; 2018.
• ⁷ Nunes R, Ricou M, Godinho I, Neves MP, coordenadores. Livro branco sobre inteligência artificial (IA): inquietações sociais, propostas éticas e orientações políticas [Internet]. Lisboa: Conselho Nacional de Ética para as Ciências da Vida; 2024 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/fzavv5ma
  » https://tinyurl.com/fzavv5ma
• ⁸ European Commission. A definition of AI: main capabilities and scientific disciplines. Brussels: European Commission; 2018.
• ⁹ Harari YN. Nexus: a brief history of information networks from the stone age to AI. New York: Random House; 2018.
• ¹⁰ Ananthaswamy A. How close is AI to human-level intelligence?. Nature [Internet]. 2024 [acesso 29 jul 2025];636(5):22-5. Disponível: https://tinyurl.com/3mwefdhu
  » https://tinyurl.com/3mwefdhu
• ¹¹ Jones N. How should we test AI for human level intelligence?: Open AI's o3 electrifies quest. Nature [Internet]. 2025 [acesso 29 jul 2025];637(8047):774-5. DOI: 10.1038/d41586-025-00110-6
  » https://doi.org/10.1038/d41586-025-00110-6
• ¹² Butlin P, Long R, Elmoznino E, Bengio Y, Birch J, Constant A, Deane G et al. Consciousness in artificial intelligence: insights from the science of consciousness (Preprint). Arxiv [Internet]. 2023 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/5n8hnjfy
  » https://tinyurl.com/5n8hnjfy
• ¹³ Lenharo M. What should we do if AI becomes conscious? These scientists say it's time for a plan. Nature [Internet]. 2024 [acesso 29 jul 2025];636:533-4. DOI: 10.1038/d41586-024-04023-8
  » https://doi.org/10.1038/d41586-024-04023-8
• ¹⁴ Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med [Internet]. 2023 [acesso 29 jul 2025];388(13):1233-9. DOI: 10.1056/NEJMsr2214184
  » https://doi.org/10.1056/NEJMsr2214184
• ¹⁵ Haug CJ, Drazen J. Artificial intelligence and machine learning in clinical medicine. N Engl J Med [Internet]. 2023 [acesso 29 jul 2025];388(13):1201-8. DOI: 10.1056/NEJMra2302038
  » https://doi.org/10.1056/NEJMra2302038
• ¹⁶ Ioannidis J. Why replication has more scientific value than original discovery. Behav Brain Sci [Internet]. 2018 [acesso 29 jul 2025];41:e137. DOI: 10.1017/S0140525X18000729
  » https://doi.org/10.1017/S0140525X18000729
• ¹⁷ National Academies of Sciences. Reproducibility and replicability in science. Washington: National Academies Press; 2019.
• ¹⁸ Baker M. Is there a reproducibility crisis?. Nature [Internet]. 2016 [acesso 29 jul 2025];533(7604):452-4. Disponível: https://tinyurl.com/2hc44u9n
  » https://tinyurl.com/2hc44u9n
• ¹⁹ Wicherts J, Veldkamp C, Augusteijn H, Bakker M, van Aert RCM, van Assen MALM. Degrees of freedom in planning, running, analyzing, and reporting psychological studies: a checklist to avoid p-Hacking. Front Psychol [Internet]. 2016 [acesso 29 jul 2025];7:1832. DOI: 10.3389/fpsyg.2016.01832
  » https://doi.org/10.3389/fpsyg.2016.01832
• ²⁰ Ahuja AS. The impact of artificial intelligence in medicine on the future role of the physician. PeerJ [Internet]. 2019 [acesso 29 jul 2025];7:e7702. DOI: 10.7717/peerj.7702
  » https://doi.org/10.7717/peerj.7702
• ²¹ Rajpurkar P, Lungren MP. The current and future state of AI interpretation of medical images. New Eng J Med [Internet]. 2023 [acesso 29 jul 2025];388(21):1981-90. DOI: 10.1056/NEJMra2301725
  » https://doi.org/10.1056/NEJMra2301725
• ²² Hosny A, Parmar C, Quackenbush J, Schwartz LH, Aerts HJ. Artificial intelligence in radiology. Nat Rev Cancer [Internet]. 2018 [acesso 29 jul 2025];18:500-10. Disponível: https://tinyurl.com/56sdzn6m
  » https://tinyurl.com/56sdzn6m
• ²³ Esteva A, Kuprel B, Novoa RA, Ko J, Swetter SM, Blau HM et al. Dermatologist-level classification of skin cancer with deep neural networks. Nature [Internet]. 2017 [acesso 29 jul 2025];542:115-8. DOI: 10.1038/nature21056
  » https://doi.org/10.1038/nature21056
• ²⁴ McKinney SM, Sieniek M, Godbole V, Godwin J, Antropova N, Ashrafian H et al. International evaluation of an AI system for breast cancer screening. Nature [Internet]. 2020 [acesso 29 jul 2025];577:89-94. Disponível: https://tinyurl.com/whe4pfbj
  » https://tinyurl.com/whe4pfbj
• ²⁵ Zargarzadeh A, Javanshir E, Ghaffari A, Mosharkesh E, Anari B. Artificial intelligence in cardiovascular medicine: an updated review of the literature. J Cardiovasc Thorac Res [Internet]. 2023 [acesso 29 jul 2025];15(4):204-9. DOI: 10.34172/jcvtr.2023.33031
  » https://doi.org/10.34172/jcvtr.2023.33031
• ²⁶ Marchant J. Powerful antibiotics discovered using AI. Nature [Internet]. 2020 [acesso 29 jul 2025]. DOI: 10.1038/d41586-020-00018-3
  » https://doi.org/10.1038/d41586-020-00018-3
• ²⁷ Bond A, Mccay K, Lal S. Artificial intelligence & clinical nutrition: what the future might have in store. Clin Nutr [Internet]. 2023 [acesso 29 jul 2025];57:542-9. DOI: 10.1016/j.clnesp.2023.07.082
  » https://doi.org/10.1016/j.clnesp.2023.07.082
• ²⁸ Peruselli C, De Panfilis L, Gobber G, Melo M, Tanzi S. Artificial intelligence and palliative care: opportunities and limitations. Recenti Prog Med [Internet]. 2020 [acesso 29 jul 2025];111(11):639-45. DOI: 10.1701/3474.34564
  » https://doi.org/10.1701/3474.34564
• ²⁹ Yadav GS, Longhurst CA. Will AI make the electronic health record more efficient for clinicians?. N Eng J Med AI [Internet]. 2025 [acesso 29 jul 2025];2(3). DOI: 10.1056/AIe2500020
  » https://doi.org/10.1056/AIe2500020
• ³⁰ Mittelstadt B. The impact of artificial intelligence on the doctor-patient relationship [Internet]. Strasbourg: Council of Europe; 2021 [acesso 29 jul 2025]. Disponível: https://bit.ly/4mcgv9Z
  » https://bit.ly/4mcgv9Z
• ³¹ European Commission. Ethics guidelines for trustworthy AI. Brussels: European Commission; 2019.
• ³² Mann PS, Earp BD, Møller N, Vynn S, Savulescu J. AUTOGEN: a personalized large language model for academic enhancement. Ethics and proof of principle. Am J Bioeth [Internet]. 2023 [acesso 29 jul 2025];23(10):28-41. DOI: 10.1080/15265161.2023.2233356
  » https://doi.org/10.1080/15265161.2023.2233356
• ³³ Nuñez M. Anthropic just analyzed 700.000 Claude conversations and found its AI has a moral code of its own. VentureBeat [Internet]. 2025 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/ykf5s9by
  » https://tinyurl.com/ykf5s9by
• ³⁴ Hub France IA. ChatGPT: usages, impacts et recommendations - note de synthèse [Internet]. Paris: Hub France IA; 2023 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/yvpnef7r
  » https://tinyurl.com/yvpnef7r
• ³⁵ Ryan M, Gambrell D, Noveck BS. Using collective intelligence to solve public problems [Internet]. New York: The Govlab; 2020 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/bdtsmjwt
  » https://tinyurl.com/bdtsmjwt
• ³⁶ World Health Organization. Global diffusion of eHealth: making universal health coverage achievable. Report of the third global survey on eHealth [Internet]. Geneva: WHO; 2016 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/mry9f6vb
  » https://tinyurl.com/mry9f6vb
• ³⁷ Nunes R. Healthcare as a universal human right: sustainability in global health. New York: Routledge; 2022.
• ³⁸ Venkatapuram S. Health justice. Cambridge: Polity Press; 2011.
• ³⁹ Ren S. How much water does AI consume? The public deserves to know [Internet]. OECD AI Policy Observatory; 2023 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/2rjyfpnh
  » https://tinyurl.com/2rjyfpnh
• ⁴⁰ World Economic Forum. Closing the women's health gap: a $1 trillion opportunity to improve lives and economies [Internet]. Geneva: WEF; 2024 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/52h3hkkc
  » https://tinyurl.com/52h3hkkc
• ⁴¹ Nunes R. Ensaios em bioética [Internet]. Brasília: CFM; 2017 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/2se5p2yp
  » https://tinyurl.com/2se5p2yp
• ⁴² Nunes R. Diretivas antecipadas de vontade [Internet]. Brasília: CFM; 2016 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/354nv2jm
  » https://tinyurl.com/354nv2jm
• ⁴³ Mirza FN, Tang OY, Connolly ID, Abdulrazeq HA, Lim RK, Roye GD et al. Using ChatGPT to facilitate truly informed medical consent. N Eng J Med AI [Internet]. 2024 [acesso 29 jul 2025];1(2). DOI: 10.1056/AIcs2300145
  » https://doi.org/10.1056/AIcs2300145
• ⁴⁴ European Union. Proposal for a regulation of the European parliament and of the council laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts [Internet]. Brussels: European Union; 2023. Disponível: https://tinyurl.com/yczhtmnj
  » https://tinyurl.com/yczhtmnj
• ⁴⁵ Jecker NS, Atuire CA, Bélisle-Pipon JC, Ravitsky V, Ho A. AI and the falling sky: interrogating X-Risk. J Med Ethics [Internet]. 2024 [acesso 29 jul 2025];50(12):811-7. DOI: 10.1136/jme-2023-109702
  » https://doi.org/10.1136/jme-2023-109702
• ⁴⁶ Penrose R, Severino E, Scardigli F, Testoni I, Vitiello G, D'Ariano G et al. Artificial intelligence versus natural intelligence. Cham: Springer; 2022.
• ⁴⁷ European Union. General data protection regulation. Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data [Internet]. Brussels: European Union; 2016 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/y93u93bh
  » https://tinyurl.com/y93u93bh
• ⁴⁸ European Commission. Study on health data, digital health and artificial intelligence in healthcare [Internet]. 2022 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/2rn8snf5
  » https://tinyurl.com/2rn8snf5
• ⁴⁹ Correia M, Rego G, Nunes R. Gender transition: is there a right to be forgotten? Health Care Anal [Internet]. 2021 [acesso 29 jul 2025];29(4):283-300. DOI: 10.1007/s10728-021-00433-1
  » https://doi.org/10.1007/s10728-021-00433-1
• ⁵⁰ Kokosi T, Harron K. Synthetic data in medical research. BMJ Med [Internet]. 2022 [acesso 29 jul 2025];26:1(1):e000167. DOI: 10.1136/bmjmed-2022-000167
  » https://doi.org/10.1136/bmjmed-2022-000167
• ⁵¹ World Health Organization. Global strategy on digital health 2020-2025 [Internet]. Geneva: WHO; 2021 [acesso 29 jul 2025]. Disponível: https://tinyurl.com/54z2rpew
  » https://tinyurl.com/54z2rpew
• ⁵² Kung TH, Cheatham M, Medenilla A, Sillos C, De Leon L, Elepaño C et al. Performance of ChatGPT on USMLE: potential for AI-assisted medical education using large language models. MedRxiv [Internet]. 2022 [acesso 29 jul 2025]. DOI: 10.1101/2022.12.19.22283643
  » https://doi.org/10.1101/2022.12.19.22283643
• ⁵³ Bianchini S, Müller M, Pelletier P. Artificial intelligence in science: an emerging general method of invention. Res Policy [Internet]. 2022 [acesso 29 jul 2025];51(10):104604. DOI: 10.1016/j.respol.2022.104604
  » https://doi.org/10.1016/j.respol.2022.104604
• ⁵⁴ Constantinescu M, Crisp R. Can robotic AI systems be virtuous and why does this matter?. Int J Soc Robot [Internet]. 2022 [acesso 29 jul 2025];14(6):1547-57. DOI: 10.1007/s12369-022-00887-w
  » https://doi.org/10.1007/s12369-022-00887-w
• ⁵⁵ Chen J. Who's training whom? N Eng J Med AI [Internet]. 2024 [acesso 29 jul 2025];1(5). DOI: 10.1056/AIp2400006
  » https://doi.org/10.1056/AIp2400006
• ⁵⁶ Daley K. Two arguments against humanfriendly AI. AI Ethics [Internet]. 2021 [acesso 29 jul 2025];1:435-44. DOI: 10.1007/s43681-021-00051-6
  » https://doi.org/10.1007/s43681-021-00051-6
• ⁵⁷ Freeman D, Reeve S, Robinson A, Ehlers A, Clark D, Spanlang B et al. Virtual reality in the assessment, understanding, and treatment of mental health disorders. Psychol Med [Internet]. 2017 [acesso 29 jul 2025];47(14):2393-400. DOI: 10.1017/S003329171700040X
  » https://doi.org/10.1017/S003329171700040X
• ⁵⁸ Organization for Economic Cooperation and Development. Empowering learners for the age of AI: an AI literacy framework for primary and secondary education. Paris: OECD; 2025.
• ⁵⁹ Ratwani RM, Classen D, Longhurst C. The compelling need for shared responsibility of AI oversight: lessons from Health IT Certification. JAMA [Internet]. 2024 [acesso 29 jul 2025];332(10):787-88. DOI: 10.1001/jama.2024.12630
  » https://doi.org/10.1001/jama.2024.12630
• ⁶⁰ Wu¨bbeler M, Geis S, Stojanovic J, Elliott L, Gutierrez-Ibarluzea I, Lenoir-Wijnkoop I. Coding public health interventions for health technology assessments: a pilot experience with WHO's International Classification of Health Interventions (ICHI). Front Public Health [Internet]. 2021 [acesso 29 jul 2025];9:620637. DOI: 10.3389/fpubh.2021.620637
  » https://doi.org/10.3389/fpubh.2021.620637
• ⁶¹ Vithanage M, Prasad MNV. One health: human, animal, and environment triad. Hoboken: John Wiley & Sons; 2023.
• ⁶² Nunes R, Nunes SB. Reliable artificial intelligence: the 18th sustainable development goal. J Ethics Legal Technol [Internet]. 2024 [acesso 29 jul 2025];6(2):5-20. DOI: 10.14658/pupj-JELT-2024-2-2
  » https://doi.org/10.14658/pupj-JELT-2024-2-2

• Disponibilidade de dados:
  Todos os dados utilizados ou gerados na pesquisa estão integralmente descritos e apresentados no corpo do artigo.
• O autor Rui Nunes exerce o cargo de editor científico honorário da Revista Bioética. O presente artigo integra a homenagem da revista aos 80 anos do Conselho Federal de Medicina.

Editado por

• Editora responsável:
  Dilza Teresinha Ambrós Ribeiro

Disponibilidade de dados

Todos os dados utilizados ou gerados na pesquisa estão integralmente descritos e apresentados no corpo do artigo.

Datas de Publicação

• Publicação nesta coleção
  10 Nov 2025
• Data do Fascículo
  2025

Histórico

• Recebido
  04 Ago 2025
• Revisado
  10 Ago 2025
• Aceito
  14 Ago 2025