IA, Saúde Global e Sociedade Algorítmica: o uso democrático e a regulação dos biodata

Resumo

As políticas globais de saúde no âmbito de uma sociedade algorítmica desenvolvem-se a partir de tensões entre direitos de cidadania e interesses do mercado. Numa cronologia da “saúde global”, o advento da inteligência artificial (IA) veio adicionar uma maior complexidade a essas políticas devido às suas potencialidades e riscos. Se, por um lado, o campo da saúde se encontra sob a dominação das políticas tecnodigitais do mercado, que indubitavelmente trouxeram melhorias ao setor através da evolução da IA, por outro lado, não se pode ignorar a posição abusiva das corporações empresariais que alimentam as suas redes algorítmicas por meio dos megafluxos de dados. Nesse contexto, analisam-se dois pontos principais. O primeiro assinala duas formas de utilização dos dados no setor da saúde que refletem um uso democrático e um uso não democrático dos mesmos. Enquanto o uso democrático enfatiza as potencialidades da IA no setor da saúde, o uso não democrático reflete as tensões/riscos que derivam do extrativismo dos dados aliados a lógicas financeiras e empresariais, com impacto na privacidade, na segurança e na transparência. O segundo, e procurando eliminar ou mitigar esses principais riscos, analisa o eixo da governação e regulação dos dados globais da saúde relativamente à IA.

Palavras-chave:
Inteligência Artificial; Saúde Global; Sociedade Algorítmica; Uso de Biodata.

Abstract

Global health policies within an algorithmic society are developed through tensions between citizenship rights and market interests. In a “global health” timeline, the development of artificial intelligence (AI) has added greater complexity to these policies due to its potentialities and risks. If, on the one hand, the health sector is under the domination of the market’s techno-digital policies, which have undoubtedly brought improvements to the industry through the evolution of AI, on the other hand, one cannot ignore the abusive position of business corporations that feed their algorithmic networks through the mega data flows. In this context, two main points are analysed. The first highlights two ways of using data in the health sector that reflect a democratic and a non-democratic use of the same. While the democratic use emphasizes the potential of AI in the health sector, the non-democratic use reflects the tensions/risks arising from data extraction combined with financial and business logics, with an impact on privacy and security, and transparency. The second, seeking to eliminate or mitigate these main risks, analyzes the axis of governance and regulation of global health data in relation to AI.

Keywords:
Artificial Intelligence; Global Health; Algorithmic Society; Use of Biodata.

Introdução

Em todos os tempos, os riscos ameaçaram a integridade física e social dos povos e a segurança dos indivíduos, mas nas sociedades globalizadas e interconectadas da modernidade tardia em crise (Reckwitz; Rosa, 2024) adquiriram outra natureza, resultante das formas produtivas da sociedade do risco que cria incertezas fabricadas (Beck, 2000; Giddens, 1991; Bauman, 2001). Ao expor os indivíduos a riscos visíveis e invisíveis, essa sociedade não somente gera uma “cultura do risco”, mas também uma cultura do medo (Boucheron; Corey, 2015) subjacente ao sentimento de insegurança ontológica. No campo da saúde, os paradoxos inerentes à sociedade do risco produzem, ao mesmo tempo, efeitos de totalização e efeitos de individualização. Quanto aos efeitos de totalização, vimos que, durante a pandemia da covid-19, o anarcoliberalismo (Foucault, 1979) chama o Estado a não abdicar do seu papel de ator privilegiado das biopolíticas; relativamente aos efeitos de individualização, estes foram observados quando os indivíduos, diante do déficit dos Estados e da ênfase dada à culpabilidade pessoal e coletiva, são responsabilizados por suas próprias escolhas em matéria de saúde. Nesse sentido, ambos efeitos intensificaram o dilema segurança vs. liberdade mostrando que as políticas globais de saúde não deixam de responsabilizar os indivíduos pela gestão dos riscos de suas próprias existências, o que provoca tensões entre direitos de cidadania e interesses do mercado.

Em razão dessas equações paradoxais, as últimas cinco décadas viram surgir efeitos perversos no campo da saúde, principalmente no que tange ao desmantelamento das instituições públicas de saúde, cujas funções estão sendo delegadas às instituições privadas (Lash, 2003, p. 13), revelando o declínio do Estado de bem-estar social, fruto das políticas neoliberais iniciadas nos anos 80 do século passado (Rosanvallon, 1991). Daí nasceu o fenômeno do “individualismo institucionalizado” (Beck; Beck-Gernsheim, 2003), por meio do qual os indivíduos renunciam aos dispositivos tradicionais de segurança pública, a seus direitos básicos, quer dizer, aos recursos oferecidos pela modernidade.

Esses recursos, contudo, foram sendo implementados desde a modernidade industrial do século XIX, quando as doenças infecciosas constituíram uma preocupação maior das políticas públicas. A partir de 1851, por exemplo, uma série de conferências internacionais foi realizada para estabelecer políticas sanitárias, iniciando-se assim uma organização internacional da saúde pública. No início do seculo XX, criou-se o Escritório Internacional de Higiene Pública (1907) e, após a Primeira Guerra Mundial, a Organização de Saúde da Liga das Nações, às quais seguiu-se a fundação, em 1948, da Organização Mundial da Saúde (OMS) (Guimier, 2022). Contudo, desde o início, a implementação de dispositivos protetores da saúde pública deparou-se com os interesses do mercado, como mostra o exemplo das medidas de quarentena propostas em períodos de disseminação de doenças infeciosas, consideradas muito custosas para o comércio (Kerouedan, 2013). No decorrer deste século, o sistema adquire um caráter multipolar ao integrar estruturas regionais (União Europeia e outras) e, igualmente, instituições financeiras e comerciais como o Banco Mundial, o Fundo Monetário Internacional e a Organização Mundial do Comércio, o que não deixou de provocar entraves (Guimier, 2022). Por outro lado, essa visão econômico-financeira da saúde em escala internacional deu lugar a uma conceção da saúde mais abrangente, associada à pobreza, que levou à implementação de políticas desenvolvimentistas destinadas aos países pobres, que se revelaram insuficientes. Nas duas últimas décadas do século XX, o impacto da globalização no campo da saúde levou a uma programação global deste setor, que buscavam avaliar os fatores determinantes globais e locais, os programas nacionais e a ação de atores multinacionais (Kickbusch, 2024).

Na década de 1990, um novo parâmetro embasa as políticas públicas de saúde: o parâmetro da segurança que vai aliar-se com o parâmetro financeiro. Foram privilegiados, então, fatores como as fragilidades institucionais dos países pobres, a mobilidade das populações, o crescimento das megalópoles, e as demais variáveis sociais que propiciam a propagação de doenças infecciosas. Nos Estados Unidos, por exemplo, a aplicação desses critérios - segurança econômica e segurança nacional - determina as políticas de saúde: em 1996, a administração Clinton publica uma norma orientada ao combate das doenças infecciosas, em razão de suas consequências econômicas; e o critério de segurança nacional aparece na área da saúde antes dos ataques terroristas de 2001, notadamente em um relatório do Institute of Medicine de 1997, que utiliza pela primeira vez a expressão global health para designar a ameaça da saúde aos interesses vitais dos Estados Unidos¹.

Na realidade, a noção de Saúde Global se refere a uma série de programas, de atores institucionais e operacionais, de parcerias globais que atuam pela melhoria da saúde no Sul Global, ou seja, nos países da Ásia, África e América Latina. Dá-se, nos anos 2000, o salto epistemológico do paradigma “saúde e desenvolvimento” para o paradigma “saúde global” que, contudo, não abandonou essa estratégia política. Mas, a complexidade das situações oriundas dos processos de globalização e de instabilidade política levou à consciência de que as estratégias de combate às doenças deveriam ser consideradas coletivamente. Criaram-se formas de cooperação geopolítica, ao nível dos países, atores internacionais e nacionais, o que promoveu a circulação das políticas de saúde em diferentes redes, inclusivamente redes comunitárias e de medicinas tradicionais (Kerouedan, 2013). No ano 2000, quase duas centenas de países estabeleceram os “Objetivos de Desenvolvimento do Milênio” (ODM), com a finalidade de, até 2015, globalizar níveis de progresso mínimo na redução da pobreza, das desigualdades sociais, da educação, da distribuição de água potável e acesso à saúde. No período de 2000 a 2007, alocou-se a esse setor um importante financiamento mundial advindo de parcerias público-privadas ligadas à indústria farmacêutica. Vê-se, então, que a conceção de saúde global não corresponde apenas a critérios populacionais e epidemiológicos, mas também aos interesses comerciais e às situações geopolíticas (Kerouedan, 2013). Essas interconexões deram lugar a uma governação global da saúde, que envolve, como referido, os Estados, as agências das Nações Unidas e a participação de organismos privados. A geopolítica global da saúde tem se transformado constantemente em razão dos equilíbrios e desequilíbrios políticos inerentes às recomposições do capitalismo².

Estamos diante da emergência de novas formas de globalização, entre as quais encontra-se aquela sobre a qual vamos refletir neste artigo: a globalização algorítmica. O campo da saúde global e o advento da inteligência artificial (IA) vieram acrescentar uma maior complexidade de oportunidades e riscos. A bioinformática e IA permitiram uma verdadeira revolução de oportunidades ao modificar os procedimentos da investigação científica, possibilitar a deteção precoce de patologias, melhorar os diagnósticos, assegurar maior qualidade dos cuidados, etc. Quanto aos riscos, referem-se não somente às dificuldades na relação paciente-médico, mas sobretudo quanto à forma como os dados são utilizados, acedidos e manipulados, remetendo para questões de segurança e transparência na área da saúde.

Se, por um lado, o campo da saúde se encontra sob a dominação das políticas tecnodigitais do mercado, que indubitavelmente trouxeram melhorias impulsionadas pela evolução da IA, por outro lado, não se pode ignorar a posição abusiva das empresas do setor que alimentam as suas redes algorítmicas por meio do megafluxo de dados. Logo, num contexto cada vez mais digital, cresce a preocupação com a proteção de dados. Para além dos dados pessoais relativos à saúde, os dados genéticos e os dados biométricos, que denominamos “biodata”, tornam-se informações de relevo, constituindo um risco acrescido para a esfera privada dos indivíduos. Por meio do extrativismo de dados, o mercado digital e o recurso à IA potenciam a utilização de informações únicas retiradas deste tipo de dados, questionando a regulação no ecossistema de ferramentas e serviços na saúde. Para além disso, numa era em que lógicas de transparência correspondem a uma política da visibilidade do regime de informação, a IA veio transformar a forma de dominação biopolitique do capitalismo industrial (Foucault, 1979) para uma dominação “biodata”, na qual não são mais os corpos e as energias que são exploradas, mas as informações e os dados. Na área da saúde, o equilíbrio entre transparência, privacidade e segurança torna-se muito difícil de alcançar, devido aos dados pessoais sensíveis que correm o risco de serem expostos. Assim, na evolução da sociedade risco, temos o advento de uma sociedade algorítmica que é sustentada por um repertório de tecnologias baseadas em dados, que acrescenta novas camadas à governação da sociedade, por meio de modos próprios de conhecimento e de criação (Peeters; Schuilenburg, 2021).

Desse modo, reconhecendo que o uso da IA na saúde engloba diversas questões éticas e de segurança (OCDE, 2024), o foco do presente artigo assenta sobre a utilização de dados com recurso à IA no setor da saúde. Em linha com o exposto acima, assinalam-se duas formas de utilização dos dados no setor da saúde que refletem um uso democrático e um uso não democrático dos mesmos. Enquanto o uso democrático enfatiza as potencialidades da IA no setor da saúde, o uso não democrático reflete as tensões/riscos para os “direitos fundamentais” que derivam do extrativismo dos dados aliado a lógicas financeiras e empresariais, com impacto negativo na privacidade, na segurança e na transparência. O segundo, e procurando eliminar ou mitigar os principais riscos, analisa o eixo da governação e regulação dos dados globais da saúde relativamente à IA. Assim, parte-se de uma visão global/transnacional com base nas diretrizes da Organização Mundial de Saúde (OMS), para depois analisar a regulamentação existente na União Europeia (UE).

1. Os dados de saúde na era da IA: do uso democrático ao uso não democrático

Numa nova paisagem de risco global, onde a ideia de que os algoritmos são uma solução para os maiores desafios do nosso tempo, nomeadamente na área da saúde, são geradas quantidades impressionantes de dados sobre as nossas ações diárias, com algoritmos a processar e a agir sobre esses dados para tomar decisões que geram, controlam e estimulam o comportamento na vida quotidiana (Peeters; Schuilenburg, 2021). Isso quer dizer que a utilização de algoritmos não só expande as possibilidades de controle e vigilância atuais, como também introduz um novo paradigma caracterizado por uma maior racionalidade da governação e uma mudança no funcionamento do poder, constituindo um roteiro para a ação tanto a nível individual como coletivo (Peeters; Schuilenburg, 2021, p. 5-6). Nesse sentido, pelo seu modo de ação, a IA acentua uma alteração qualitativa por meio do uso de algoritmos, que passou a ter um peso crescente sobre as formas de governação sociopolítica e econômica (Magalhães, 2023, p. 79). É essa nova característica que tem como resultado formas democráticas e não democráticas na utilização dos dados. Enquanto o uso democrático constitui progresso face ao bem comum e respeita os direitos fundamentais, o uso não democrático por meio da acumulação, da manipulação e do uso abusivo de dados individuais e coletivos faz com que “os riscos possam ser utilizados de forma orientada como instrumento de legitimação” (Beck, 2013, p. 45)³.

O uso democrático com impacto positivo da IA melhora o bem-estar das pessoas e da população, trazendo um maior envolvimento dos pacientes e adesão à medicação, contribuindo com a gestão de doenças, numa abordagem que reforça a individualização e personalização dos cuidados (WHO, 2023).

A utilização desta tecnologia, que inclui o machine learning, o processamento de linguagem natural (natural language processing) e a robótica, é aplicada a quase todos os campos da medicina, tendo um contributo potencial na investigação biomédica, na educação médica e na prestação de cuidados de saúde (Rigby, 2019). Entre os aspetos positivos, inclui-se a sua capacidade de integrar e aprender com grandes conjuntos de dados clínicos, permitindo à IA desempenhar funções no diagnóstico, na tomada de decisões clínicas e na medicina personalizada. A aplicação da IA na área da saúde continua a acelerar rapidamente, com potencialidades de utilização em todo o setor, incluindo a descoberta de medicamentos, consultas por clínica virtual, diagnóstico de doenças, prognóstico, gestão de medicamentos e monitorização de saúde (Bajwa et al., 2021). A IA ajuda a resolver alguns dos problemas mais prementes da saúde, como as curas para o cancro e outras doenças graves; melhor acesso, rapidez e precisão no diagnóstico; deteção de ameaças à saúde pública; prevenção de doenças crônicas; e fornece ferramentas para reforçar a força de trabalho da saúde (Anderson; Sutherland, 2024).

O auxílio por tecnologias de IA concretiza-se, principalmente, em máquinas que monitorizam as condições de saúde do paciente, em sistemas de diagnóstico, recomendações de tratamento, e em aplicações digitais de saúde, privilegiando um modelo mais centrado no paciente e nas suas características particulares através da medicina P4 (preditiva, preventiva, personalizada e participativa) (Freitas, 2023). As tecnologias de IA na saúde permitem analisar sintomas e exames, oferecer sugestões de hipóteses de diagnóstico e, por conseguinte, opções de tratamento. Contribui ainda para reduzir os “pontos cegos” do raciocínio clínico, oferecendo suporte adicional para que o médico explore todas as possibilidades com mais segurança (Lapa, 2024).

Pode, ainda, contribuir para uma melhor gestão na saúde, particularmente em tarefas administrativas que consomem grande parte do tempo dos médicos e enfermeiros. As inovações trazidas pela IA permitem que os profissionais de saúde dediquem mais tempo à interação com o paciente e menos tempo a atividades burocráticas (Lapa, 2024). De um modo geral, a IA pode ter um impacto positivo na prática clínica, na investigação biomédica, na saúde pública e na administração da saúde (Lekadir et al., 2022).

Contudo, a aplicação da IA é utilizada para a tomada de decisões que poderão afetar a saúde, assim como o bem-estar físico e emocional dos cidadãos. E, carece, na maioria dos casos, da utilização de dados pessoais, que contêm informações sensíveis sobre os pacientes (Cansado, 2024). Gerir este equilíbrio é particularmente desafiante na área da saúde, onde existem oportunidades significativas e riscos profundos, o que nos conduz à análise do uso não democrático da IA na saúde.

A questão fundamental assenta no modo de acumulação, manipulação e uso dos dados pessoais e coletivos, com base no fenômeno de “extrativismo algorítmico” (ou “extrativismo de dados”) (Crawford, 2021). Este conceito está intimamente ligado à ideia “generalizada de que apenas com acesso a dados se encontram padrões relevantes e se atinge a evolução do conhecimento” (CNEV, 2024, p. 26). Esta noção estabelece uma analogia entre a gestão da informação e a indústria mineira de extração de dados, onde os dados digitais são matéria-prima que pode ser extraída, comercializada, refinada e processada através de plataformas que permitem um novo regime de acumulação (Bueno; Schultz, 2021). Também por isso este processo tem sido igualmente designado de “colonialismo dos dados”, um processo global de extração em que, no novo tempo digital, o que é agora apropriado é a vida humana por meio da sua conversão em dados (Couldry; Mejias, 2019, p. xix). Isso significa que a apropriação de dados da vida humana funciona de modo conectado com arranjos sociais e infraestruturas tecnológicas, algumas que surgiram durante o capitalismo anterior e outras novas, que permitem que esses dados sejam transformados numa mercadoria. A aceleração vertiginosa da IA sustentada por megacorporações transnacionais, infraestruturas e plataformas gera uma ordem econômica baseada na experiência humana como matéria-prima gratuita para alimentar a produção de bens e serviços (Zuboff, 2019).

Nesse sentido, a inovação da IA está constantemente a reestruturar a arena econômica, política e institucional global, obrigando os Estados a adaptar as suas políticas aos novos objetivos e estratégias globais, sob pena de não serem suficientemente competitivos no mercado global. Este novo cenário “digital global” afeta grandemente a capacidade dos Estados em serem competitivos, conduzindo a uma competição desmedida, na qual os governos e as empresas perpetuam desigualdades, tanto a nível local como global (Tworek, 2022). É sob esta lógica extrativista que suporta o uso não democrático dos dados, que aqui optamos por analisar dois principais riscos quanto à aplicação da IA na área da saúde, os quais estão interligados entre si⁴.

O primeiro desafio reside nas questões de privacidade e segurança, relacionados com a partilha de dados pessoais sem consentimento totalmente informado, o reaproveitamento de dados sem o conhecimento do paciente, violações de dados que possam expor informações sensíveis ou pessoais, e o risco de danos - ou mesmo potencialmente fatais - de ataques cibernéticos a soluções de IA, tanto a nível individual, como hospitalar ou do sistema de saúde (Lekadir et al., 2022, p. I-II). A efetividade do consentimento de utilização dos dados torna-se fundamental, nomeadamente, para o próprio desenvolvimento dos sistemas de IA. Como os dados médicos poderão ser partilhados com terceiros, para o desenvolvimento de outros sistemas de IA, é essencial o consentimento informado e válido dos cidadãos para a coleta dos seus dados pessoais. O volume de informação, seja em quantidade como qualidade, exponencia o dano da quebra de privacidade (CNEV, 2024, p. 55). Para além disso, o fato de a maior parte das pessoas ter competências ao nível da utilização das tecnologias, mas pouco conhecimento sobre o seu funcionamento, camufla uma “confiança” sobre o processo que pode não corresponder à realidade, o que aumenta os riscos face aos cuidados sobre a disponibilização e a privacidade dos dados.

No entanto, acresce ainda o fato de a maioria dos sistemas de IA e dos dados recolhidos se encontrar associada a grandes corporações tecnológicas (Freitas, 2023). Essa situação cria um desequilíbrio entre as instituições públicas e privadas e suscita preocupações quanto à ocorrência de violações de privacidade e utilização indevida de dados pessoais, por essas corporações (Cansado, 2024, p. 8). Os dados recolhidos são cada vez mais cobiçados pela indústria do marketing, criando graves conflitos de interesses, por exemplo, entre as empresas privadas que produzem ou tratam os dados e que visam ao lucro, e o Estado, que é responsável pela sua utilização no melhor interesse dos indivíduos cujos dados foram recolhidos, e da sociedade em geral (CNEV, 2024, p. 49). Tal fato ilustra como a cibersegurança e a qualidade dos dados são de enorme relevância, uma vez que na prestação de cuidados de saúde com recurso a sistemas e aplicações de IA podem ocorrer diversas circunstâncias, tais como o acesso, a disponibilização e a transmissibilidade de dados de saúde que podem gerar preocupações de privacidade (CNEV, 2024, p. 48-50). Existe um desequilíbrio entre os que adquirem, acumulam, analisam e controlam os dados e os que fornecem os dados e têm pouco controlo sobre o seu uso.

O segundo, relacionado com a privacidade e a segurança, é a necessidade de transparência que se exige à utilização da IA, para assegurar a verificabilidade dos processos e dos resultados de forma confiável (CNEV, 2024, p. 27). A transparência é o princípio ético mais frequentemente encontrado nos códigos de diretrizes gerais para o uso da IA e é um princípio-chave para a IA na saúde, significando que os sistemas sejam inteligíveis e explicáveis para profissionais de saúde, pacientes, utilizadores e reguladores, de acordo com a capacidade de compreensão de cada grupo e mesmo de cada indivíduo (Dourado; Aith, 2022, p. 3). A transparência está, assim, intimamente ligada aos conceitos de rastreabilidade e explicabilidade, refletindo-se em dois níveis distintos: 1) transparência dos processos de desenvolvimento e utilização da IA (rastreabilidade); e 2) transparência das próprias decisões de IA (explicabilidade) (Lekadir et al., 2022, p. I-II). Quanto ao primeiro, a questão da transparência e da explicabilidade remete para a identificação de fontes de erros de IA e definir quem e/ou o quê é responsável por eles (Lekadir et al., 2022, p. I-II). Esta questão está relacionada diretamente com a “responsabilidade algorítmica” (accountability) como fator crucial de uma IA confiável e aplicável no domínio dos cuidados de saúde. No entanto, continuam a existir lacunas jurídicas nas atuais regulamentações nacionais e internacionais no que tange à responsabilização por erros ou falhas dos sistemas de IA, especialmente na IA médica. É difícil definir as funções e as responsabilidades devido à multiplicidade de intervenientes envolvidos no processo de IA médica, desde a concepção até a implementação (por exemplo, profissionais de saúde ou criadores de IA) (Lekadir et al., 2022, p. I-III). Deve-se realçar que a falta de explicabilidade dos sistemas de IA pode também apresentar-se como uma dificuldade para o próprio médico em entender, por exemplo, o diagnóstico da máquina (Cansado, 2024).

Quanto ao segundo nível, na transparência algorítmica é fundamental o direito à explicação (right to explanation) sobre decisões automatizadas, sendo um elemento fundamental na regulação de algoritmos (Dourado; Aith, 2022). A explicabilidade pode combater fenômenos como o designado por black-box (caixa negra), isto é, o fato de o processo não esclarecer como os dados do input se traduziram no resultado final. Esse fator é especialmente importante face ao combate dos preconceitos humanos sistêmicos que fazem frequentemente parte dos modelos de IA, incluindo preconceitos generalizados e enraizados com base no sexo e gênero, raça e etnia, idade, estatuto socioeconômico, localização geográfica e contextos urbanos ou rurais. As causas mais comuns de preconceitos de IA na esfera dos cuidados de saúde devem-se a conjuntos de dados tendenciosos e desequilibrados que podem basear-se em preconceitos estruturais e discriminação (discriminação sistêmica que está incorporada na forma como os dados são recolhidos ou na forma como os médicos tratam os seus doentes), e disparidades no acesso a equipamentos de qualidade e tecnologias digitais, bem como falta de diversidade e interdisciplinaridade nas equipes tecnológicas, científicas, clínicas e de elaboração de políticas (Lekadir et al., 2022, p. I-II).

Na área da saúde acresce, ainda, o fato de que os registos médicos não se encontrarem adaptados “às funções de análise específicas da IA, sendo os registos gerados apenas para a realização do tratamento e da faturação, conduzindo a um incremento mais significativo de preconceitos sistémicos” (Duffourc; Giovanniello apudCansado, 2024, p. 8). Todavia, é importante denotar que uma transparência excessiva pode também afetar a privacidade, no sentido que uma adequada e minuciosa explicação do processo pode implicar a exposição de dados pessoais sensíveis e confidenciais (CNEV, 2024, p. 27), principalmente numa era de controle através de “biodata”, como referido anteriormente.

2. Governação e regulação global da IA na saúde

Os riscos identificados no tópico anterior tornam-se ainda mais gravosos pela falta, ou insuficiência, de regulamentação, uma vez que não existem diretrizes (ou mesmo princípios) de IA universalmente aplicáveis, e muito menos que se apliquem ao setor da saúde em particular.

A OMS no relatório Regulatory considerations on artificial intelligence for health (2023) enfatiza a importância de estabelecer a segurança e a eficácia dos sistemas de IA, para que sejam disponibilizados de forma apropriada para quem precisa⁵. Com regulações mais claras, a OMS espera que a nova tecnologia contribua para melhorar o diagnóstico médico e complementar os conhecimentos e as competências dos profissionais de saúde.

Nesse sentido, a OMS defende a criação de estruturas legais e regulatórias robustas para proteger a privacidade, a segurança e a integridade dos pacientes. Em resposta às crescentes necessidades dos países de gerir com responsabilidade o rápido aumento das tecnologias de saúde baseadas em IA, a publicação descreve seis áreas para a regulação. São elas: documentação transparente do ciclo de vida dos produtos desde o desenvolvimento; gestão de riscos; validação externa de dados; qualidade de dados; proteção da privacidade; e colaboração entre todas as partes interessadas, incluindo pacientes e profissionais de saúde (WHO, 2023, p. xii-xiii). A OMS ressalta que os sistemas de IA são complexos e dependem não apenas do código com o qual são construídos, mas também dos dados com que são treinados, que vêm de configurações clínicas e interações do utilizador, por exemplo. A análise visa delinear os princípios-chave que os governos e as autoridades reguladoras devem seguir para desenvolver novas orientações ou adaptar as orientações existentes sobre IA a nível nacional ou regional⁶.

Mais recentemente, na procura de uma governança global para o futuro da IA na saúde, a OMS lançou o relatório sobre Ethics and governance of artificial intelligence for health - Guidance on large multi-modal models (2024). O relatório aborda a tecnologia de IA generativa, cujo desenvolvimento está a mudar a abordagem na área da saúde, sendo capaz de processar diversos tipos de solicitações, como texto, vídeos e imagens, para gerar resultados e imitar a comunicação humana. As novas orientações da OMS refletem a importância de direcionar e regulamentar o uso desses modelos (como o ChatGPT), para garantir benefícios éticos e eficazes na saúde global, apontando um conjunto de recomendações para os governos, as empresas de tecnologia e os prestadores de serviços de saúde. A agência recomenda aos governos que definam padrões para o desenvolvimento e a implantação de grandes modelos multimodais (LMMs na sigla em inglês) na assistência médica. A proposta sugere a criação de uma agência reguladora para avaliação e aprovação de LMMs, além da implementação de auditorias pós-lançamento e avaliações de impacto conduzidas por terceiros independentes. A OMS destaca, ainda, a importância de envolver utilizadores potenciais e partes interessadas, como médicos, pesquisadores e pacientes, desde os estágios iniciais do desenvolvimento de IA, num processo estruturado, inclusivo e transparente⁷.

2.1 Regulação europeia da IA na saúde: o RGPD e o AI Act

Na União Europeia (UE), a legislação existente face à proteção e à segurança dos dados entrou em vigor em 2018 com o Regulamento Geral sobre a Proteção de Dados (RGPD)⁸, o qual “protege os indivíduos sempre que os seus dados forem objeto de tratamento pelo setor privado e pela maior parte do setor público”⁹. O RGPD faz parte da reforma da proteção de dados da UE, juntamente com a Diretiva sobre a Proteção de Dados na Aplicação da Lei e o Regulamento (UE) 2018/1725 relativo ao tratamento de dados pessoais pelas instituições e pelos órgãos e organismos da UE (idem). O RGPD enuncia os direitos individuais, bem como regras aplicáveis às empresas. De forma breve, quanto aos direitos individuais, o RGPD veio facilitar o acesso dos cidadãos aos seus próprios dados, no sentido de fornecer informações sobre a forma como os dados são tratados e a garantia de que essas informações são disponibilizadas de forma clara e compreensível; veio facilitar a transmissão de dados pessoais entre os prestadores de serviços com a consignação de um novo direito à portabilidade dos dados; institui o “direito a ser esquecido”, no sentido de afirmar o direito ao apagamento dos dados sempre que não haja razões legítimas para a sua conservação; e veio também estabelecer o direito de saber quando os dados pessoais foram violados, sendo que as empresas e as organizações têm o dever de notificar a autoridade de controle da proteção de dados competente e, em casos de violações graves em matéria de dados, também as pessoas afetadas. Quanto às empresas, o RGPD cria condições de concorrência equitativas para todas as empresas que operam no mercado interno da UE.

Por sua vez, no setor da saúde, são analisados dados classificados como especiais pelo RGPD (artigo 9º, n. º1). Os pacientes, como titulares dos seus dados pessoais, têm o direito de saber de que modo, e em que medida, as informações recolhidas serão utilizadas (artigos 15º, 16º e 18º). Esses direitos são relevantes para garantir a efetividade do consentimento de utilização dos dados, que se torna necessário, nomeadamente, para o próprio desenvolvimento dos sistemas de IA (Cansado, 2024, p. 8). Embora não identifique explicitamente a IA, o artigo 22º do RGPD, n.º 1, prevê que “O titular dos dados tem o direito de não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar”. Segundo a análise de Cansado (2024, p. 9), aqui estará incluída a tomada de decisões exclusivamente com base em sistemas de IA. O mesmo se passa com a exigência de transparência algorítmica, que na área da saúde, e segundo o RGPD, consubstancia-se no direito do consentimento informado, quer para a realização do ato médico, quer para a recolha de dados pessoais (artigo 6º - a e 7º), e ainda na responsabilização, quando existam danos causados pelo sistema de IA (Cansado, 2024, p. 6).

A par com o RGPD, é importante assinalar a “Proposta de Regulamento do Parlamento Europeu e do Conselho relativo ao Espaço Europeu de Dados de Saúde”¹⁰, que foi aprovada pelo Parlamento Europeu, em abril de 2024 e tem como objetivo facilitar o acesso dos cidadãos aos seus dados de saúde eletrônicos em todos os países membros, promovendo, simultaneamente, a interoperabilidade entre os sistemas de saúde europeus. Tomando como base o RGPD, e colmatando “a aplicação e a interpretação desiguais do RGPD pelos Estados-Membros [que] criam incertezas jurídicas consideráveis, resultando em obstáculos à utilização secundária de dados de saúde eletrónicos”, estabelece o Espaço Europeu de Dados de Saúde (EEDS) assegurando que as pessoas singulares na UE tenham, na prática, um maior controle sobre os seus dados de saúde eletrônicos¹¹.

Deve-se realçar que, atualmente, os regulamentos aplicáveis às “ferramentas médicas” de IA na UE são o Regulamento de Dispositivos Médicos (MDR) 2017/745 e o Regulamento de Dispositivos Médicos para Diagnóstico In Vitro (IVDR) 2017/746, que foram aprovados em 2017. No entanto, como foram criados numa altura em que a IA estava ainda numa fase inicial do seu desenvolvimento, muitos aspetos específicos da IA não são considerados, tais como a aprendizagem contínua de modelos de IA ou a identificação de enviesamentos algorítmicos (Lekadir et al., 2022).

Daí que, relativamente à IA, e embora seja de abrangência geral, não tendo em conta as especificidades e riscos da IA no domínio dos cuidados de saúde (contrariamente aos regulamentos MDR e IVDR), o AI Act aprovado em junho de 2024 e que terá uma implementação faseada que se espera estar concluída em 2027, assume-se como um instrumento de grande relevância jurídica¹² para o enquadramento das utilizações da IA no campo da saúde.

O AI Act é o primeiro quadro jurídico abrangente em matéria de IA a nível mundial, tendo como objetivo principal o de promover uma IA de confiança dentro e fora da Europa, assegurando que os sistemas de IA respeitem os direitos fundamentais, a segurança e os princípios éticos. Para tal segue uma metodologia de análise de riscos da IA, em quatro níveis: 1) risco inaceitável; 2) risco elevado, 3) risco baixo; 4) e risco mínimo. O regulamento é complexo e robusto com imposições para cada um dos níveis de acordo com o risco identificado, pelo que aqui enunciamos de forma geral e muito breve, os seus principais princípios e normas:

Fazer face aos riscos especificamente criados pelas aplicações de IA; proibir práticas de IA que apresentem riscos inaceitáveis; determinar uma lista de pedidos de alto risco; estabelecer requisitos claros para os sistemas de IA para aplicações de risco elevado; definir obrigações específicas para os responsáveis pela implantação e os fornecedores de aplicações de IA de risco elevado; exigir uma avaliação da conformidade antes de um determinado sistema de IA ser colocado em serviço ou colocado no mercado; aplicar medidas coercivas após a colocação no mercado de um determinado sistema de IA; estabelecer uma estrutura de governação a nível europeu e nacional.¹³

Na área da saúde, pode identificar-se utilizações proibidas de sistemas de IA, nomeadamente as que constam no artigo 5º, n. º 1, alínea a), que refere à “colocação no mercado, à colocação em serviço ou à utilização de um sistema de IA que empregue técnicas subliminares que contornem a consciência de uma pessoa, ou técnicas manifestamente manipuladoras ou enganadoras, com o objetivo ou o efeito de distorcer substancialmente o comportamento de uma pessoa ou de um grupo de pessoas prejudicando de forma considerável a sua capacidade de tomar uma decisão informada e levando, assim, a que tomem uma decisão que, caso contrário, não tomariam (…)”.

Nos diagnósticos médicos que utilizem sistemas de IA, torna-se fundamental encontrar um ponto de equilíbrio entre um resultado informativo para o utilizador, e inclusive para o próprio médico, sem que este resultado seja tendencioso, e condicione a escolha dos mesmos, para garantir a efetividade do consentimento informado (Cansado, 2024, p. 11). No mesmo sentido, acresce, a alínea g, do artigo 5º, nº 1, relativo à proibição da utilização de “sistemas de categorização biométrica que classifiquem individualmente as pessoas singulares com base nos seus dados biométricos para deduzir ou inferir a sua raça, opiniões políticas, filiação sindical, convicções religiosas ou filosóficas, vida sexual ou orientação sexual”.

No que diz respeito aos sistemas de alto risco, e segundo o artigo 6º, nº 1, estes dividem-se em dois critérios:

a) O sistema de IA destina-se a ser utilizado como um componente de segurança de um produto ou o sistema de IA é, ele próprio, um produto abrangido pelos atos enumerados na lista da legislação de harmonização da União constante do anexo I; b) O produto cujo componente de segurança nos termos da alínea a) é o sistema de IA, ou o próprio sistema de IA enquanto produto, tem de ser sujeito a uma avaliação da conformidade por terceiros com vista à sua colocação no mercado ou colocação em serviço nos termos dos atos enumerados na lista da legislação de harmonização da União constante do anexo I.

Ora, levando em consideração a “alínea a”, os sistemas de IA com utilização no setor médico seriam, maioritariamente, considerados como sistemas de alto risco. Isso se comprova pelo fato de o Anexo I (pontos 11 e 12) prever especificamente os aparelhos médicos, e ainda os aparelhos para a realização de diagnósticos in vitro. No que diz respeito à “alínea b”, e de acordo com o Anexo III, n.º 1, aqui incluem-se:

a) Sistemas de identificação biométrica à distância (…); b) Sistemas de IA concebidos para serem utilizados para categorização biométrica, de acordo com atributos ou características sensíveis ou protegidos com base na inferência desses atributos ou características; c) Sistemas de IA concebidos para serem utilizados para o reconhecimento de emoções.

Como denota Cansado (2024, p. 11-12), é importante assinalar que uma das utilizações consideradas como de risco elevado consiste na utilização dos sistemas, por autoridades públicas, para avaliar a elegibilidade aos serviços de assistência, nomeadamente, no setor da saúde (Anexo III, n.º 5, a), bem como o sistema de triagem de pacientes nas urgências de hospitais (Anexo III, n.º 5, d). Destaque-se, ainda, a necessidade de supervisão humana para mitigar os riscos para a saúde, a segurança e os direitos fundamentais dos cidadãos, principalmente em sistemas de alto risco, como os sistemas de diagnóstico (artigo 14º, n.º 2). Tal justifica-se pelo fato de os sistemas de IA poderem estar sujeitos a enviesamentos, quer devido aos dados que foram inseridos, quer devido ao modo como o sistema foi programado, pelo que o AI Act no seu artigo 14º, nº 3, alínea a, exige que os produtores dos sistemas de IA incorporem medidas de supervisão humana no próprio sistema, ou que identifiquem essas medidas, previamente à colocação do produto no mercado (Cansado, 2024, p. 14-16).

A verdade é que o AI Act introduz requisitos de qualidade e segurança importantes para a IA utilizada no setor da saúde, especialmente no que diz respeito à governação de dados para dispositivos médicos de IA. No entanto, apresenta também algumas limitações, nomeadamente, pelo seu caráter horizontal e ausência de interpretação setorial (Kolfschooten; Oirschot, 2024). Entre elas, contam-se: 1) a falta de mecanismos de supervisão e responsabilização abrangentes para sistemas de IA de baixo risco relacionados com a saúde, o que pode resultar no amplo surgimento de sistemas de IA ineficazes, não comprovados e potencialmente prejudiciais; 2) o processo e a finalidade da avaliação do impacto nos direitos fundamentais são ambíguos, dado que exige a listagem dos potenciais impactos nos direitos, mas não contém nenhuma obrigação clara de avaliar a sua aceitabilidade ou não; 3) a ausência de avaliações claras e obrigatórias dos direitos fundamentais para os prestadores de cuidados de saúde privados pode resultar em disparidades na proteção dos direitos dos doentes entre prestadores e entre Estados-Membros; 4) se os sistemas de IA relacionados com a saúde forem utilizados para fins de segurança nacional (por exemplo, rastreio de ameaças biológicas), estão isentos de todas as regras; e 5) a isenção da investigação científica prevista no AI Act deixa potencialmente margem para escapar ao regime da IA utilizada na investigação médica e nos ensaios clínicos, o que pode constituir um risco para os doentes (Kolfschooten; Oirschot, 2024, p. 3-4).

Conclusão

Neste artigo, assumimos a sociedade algorítmica como um desenvolvimento da sociedade de risco num contexto das políticas de saúde global. Considera-se que a IA acrescenta camadas de complexidade ao setor da saúde, nomeadamente, quanto à forma como são utilizados os dados. No âmbito de uma sociedade algorítmica onde uma enorme quantidade de dados, usados através de algoritmos, gerem os comportamentos individuais e coletivos, com impacto sobre a governação política e econômica, é possível identificar como tal se traduz em formas democráticas e não democráticas da utilização dos dados no campo da saúde. Enquanto o uso democrático constitui progresso face ao bem comum e respeita os direitos fundamentais, o uso não democrático realça a forma como o “extrativismo algorítmico”, através da acumulação, manipulação e uso abusivo de dados individuais e coletivos, resulta em riscos acrescidos para os cidadãos.

Da nossa análise, e quanto aos usos não democráticos na área da saúde, salientamos, em primeiro, a questão da privacidade e segurança dos dados e, em segundo, a questão da transparência. O poder de empresas privadas que detêm e controlam os dados na área da saúde traduzem-se em novas formas de insegurança individual e coletiva que são simultaneamente potenciadas e camufladas através das tecnologias de IA.

Tal fato conduz à necessidade premente de regulação da IA na área da saúde. É de salientar, a nível global as principais diretrizes da OMS quanto ao uso da IA no setor da saúde, bem como, ao nível da UE a legislação vigente que procura eliminar ou mitigar os riscos mencionados. Ao nível da UE, e procurando solidificar a posição de “vanguarda normativa e legislativa” no que toca à regulamentação da IA, há uma forte preocupação quanto aos riscos da sua utilização. Ainda assim, podemos concluir que a regulação existente é em grande parte de caráter geral, e embora cumprindo as funções de proteção e segurança dos indivíduos e respectivos dados, falta ainda uma regulação setorial que corresponda aos desafios crescentes impostos pela utilização da IA na saúde.

Desse modo, concluímos com três ideias. A primeira é de que as tecnologias da IA têm um impacto político, econômico e social devido à sua matéria-prima (os dados), com reflexo na forma como esta é instrumentalizada pelo setor empresarial e financeiro. Este fator conduz-nos à segunda ideia, a que de que num cenário global, e especificamente na área da saúde, na qual os dados assumem particular relevância devido ao tipo de informação que comportam, torna-se urgente uma regulamentação robusta, eficaz e acessível. O que remete para a terceira ideia, um quadro regulatório da IA na saúde (e também ao nível geral), deve ser coproduzido de forma concertada e democrática, com a participação dos diversos atores, interpelando os diferentes efeitos diretos e colaterais da sua utilização e que, nesse sentido, reforce a humanidade nas decisões, e colmate os espaços de manipulação dos seus riscos.

• 1
  Tal foi, igualmente, o entendimento da Comissão Nacional dos Serviços de Inteligência (1999-2008), que, em seus relatórios, considerou a doença um “agente de ameaça não tradicional” para a segurança do país (Kerouedan, 2013).
• 2
  Desde 2017, a China lançou um plano de desenvolvimento nacional neste setor, cujo objetivo é o de gerar cerca de 60 mil milhões de dólares até 2025 (Callegarin; Callier, 2021). Mais recentemente, as economias emergentes no Brasil, na China e na Índia também intervieram na governação global da saúde, tema discutido nas cimeiras do G8, do G20 e das Nações Unidas.
• 3
  Numa análise da crise financeira de 2008, o autor afirma que é neste ponto que se estabelece uma relação entre a teoria da sociedade do risco e as reflexões de Carl Schmitt, dado que a sociedade de risco passa a ser uma “sociedade (latentemente) revolucionária, na qual deixou de ser possível distinguir claramente entre estado normal e estado de exceção” (Beck, 2013, p. 46).
• 4
  É de realçar que, de acordo com um estudo elaborado pelo Painel para o Futuro da Ciência e Tecnologia do Parlamento Europeu, existem sete principais riscos da IA na medicina e nos cuidados de saúde : 1) danos nos pacientes devido a erros de IA; 2) o uso indevido de ferramentas de IA médica; 3) preconceito da IA e a perpetuação das desigualdades existentes; 4) falta de transparência; 5) questões de privacidade e segurança; 6) lacunas na responsabilização; e 7) obstáculos na sua implementação (Lekadir et al., 2022). Todavia, para efeitos de argumento do presente artigo, centramos a análise sobre o uso dos dados, nomeadamente, com questões relacionadas com a privacidade e segurança, e a transparência.
• 5
  Em 2021, a OMS publicou também orientações abrangentes sobre a ética e a governação da IA para a saúde (WHO, 2021). A OMS consultou 20 importantes especialistas em IA, que identificaram tanto os potenciais benefícios como os potenciais riscos da utilização da IA nos cuidados de saúde e emitiram seis princípios alcançados por consenso para consideração nas políticas e práticas dos governos, criadores e fornecedores que utilizam a IA. Os princípios devem orientar o desenvolvimento e a implementação da IA nos cuidados de saúde por uma vasta gama de partes interessadas, incluindo governos, agências do setor público, investigadores, empresas e implementadores. Os princípios são: (1) proteger a autonomia; (2) promover o bem-estar humano, a segurança humana e o interesse público; (3) garantir a transparência, a “explicabilidade” e a inteligibilidade; (4) fomentar a responsabilidade; (5) garantir a inclusão e a equidade; e (6) promover uma IA que seja responsiva e sustentável.
• 6
  Cf: https://news.un.org/pt/story/2023/10/1822142
• 7
  Cf. https://news.un.org/pt/story/2024/01/1826467
• 8
  Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX:32016R0679
• 9
  Cf. https://eur-lex.europa.eu/PT/legal-content/summary/general-data-protection-regulation-gdpr.html
• 10
  Disponível em: https://eur-lex.europa.eu/resource.html?uri=cellar:dbfd8974-cb79-11ec-b6f4-01aa75ed71a1.0010.02/DOC_1&format=PDF
• 11
  Como referido, o EEDS baseia-se em legislação como o RGPD, bem como o Regulamento (UE) 2017/745 relativo aos dispositivos médicos (Regulamento Dispositivos Médicos) e o Regulamento (UE) 2017/746 relativo aos dispositivos médicos para diagnóstico in vitro (Regulamento Dispositivos de Diagnóstico In Vitro), a proposta de Regulamento Inteligência Artificial (AI Act), a proposta de Regulamento Governação de Dados e a proposta de Regulamento Dados, a Diretiva (UE) 2016/1148 relativa à segurança das redes e da informação (Diretiva SRI) e a Diretiva Cuidados de Saúde Transfronteiriços.
• 12
  Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=OJ:L_202401689
• 13
  Cf. https://digital-strategy.ec.europa.eu/pt/policies/regulatory-framework-ai

Declaração de Disponibilidade de Dados

Os dados de pesquisa estão disponíveis no corpo do documento.

Referências bibliográficas

• ANDERSON, B.; SUTHERLAND, E. Collective action for responsible AI in health. OECD Artificial Intelligence Papers, Paris, n. 10, 2024. DOI: https://doi.org/10.1787/f2050177-en
  » https://doi.org/10.1787/f2050177-en
• BAJWA, J. et al. Artificial intelligence in healthcare: transforming the practice of medicine. Future healthcare journal, v. 8, n. 2, p. e188-e194, 2021. DOI: https://doi.org/10.7861/fhj.2021-0095
  » https://doi.org/10.7861/fhj.2021-0095
• BAUMAN, Z. A modernidade líquida Rio de Janeiro: Zahae, 2001.
• BECK, U. A Europa Alemã - De Maquiavel a «Merkievel»: estratégias de poder na crise do Euro. Lisboa: Edições 70, 2013.
• BECK, U. La société du risque Sur la voie d’une autre modernité? Paris: Alto/Aubier, 2001.
• BECK, U.; BECK-GERNSHEIM, E. La individualización: El individualismo institucionalizado y sus consecuencias sociales y políticas. Barcelona: Paidós Ibérica, 2003.
• BOUCHERON, P.; COREY, R. L’exercice de la peur: usages politiques d’une émotion. Lyon: Presses universitaires de Lyon, 2015.
• BUENO, C.; SCHULTZ, M. Extractivismo de datos. Imaginación maquínica, 2021. Available from: http://imaginacionmaquinica.cl/extractivismo-de-dato Access in: 29 set. 2023.
  » http://imaginacionmaquinica.cl/extractivismo-de-dato
• CALLEGARIN, D.; CALLIER, P. Enjeux du déploiement de l’intelligence artificielle en santé. Actualités Pharmaceutiques, v. 60, n. 611, p. 21-24, 2021. DOI: https://doi.org/10.1016/j.actpha.2021.10.006
  » https://doi.org/10.1016/j.actpha.2021.10.006
• CANSADO, M. DA P. Inteligência artificial no setor da saúde: desafios jurídicos e regulação. GEE - Gabinete de Estratégia e Estudos do Ministério da Economia, 187. Lisboa: GEE, 2024. Available from: https://www.gee.gov.pt/RePEc/WorkingPapers/GEE_PAPERS_187.pdf Access in: 28 jan. 2025.
  » https://www.gee.gov.pt/RePEc/WorkingPapers/GEE_PAPERS_187.pdf
• CNEV - Conselho Nacional de Ética para as Ciências da Vida. Inteligência artificial (IA): inquietações sociais, propostas éticas e orientações políticas - Livro Branco. Lisboa: CNEV, 2024.
• COULDRY, N.; MEJIAS, U. The costs of connection: How data is colonizing human life and appropriating it for capitalism. Standford: Standford University Press, 2019.
• CRAWFORD, K. Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. London: Yale University Press, 2021.
• DOURADO, D.; AITH, F. A regulação da inteligência artificial na saúde no Brasil começa com a Lei Geral de Proteção de Dados Pessoais. Revista de Saúde Pública, São Paulo, v. 56, p. 80, 2022. DOI: https://doi.org/10.11606/s1518-8787.2022056004461
  » https://doi.org/10.11606/s1518-8787.2022056004461
• FOUCAULT, M. Naissance de la biopolitique Cours au Collège de France 1978-1979. Paris: Gallimard/Seuil, 1979.
• FREITAS, A. Data driven approaches in healthcare: Challenges and emerging trends. In: ANTUNES, H. S. et al.). Multidisciplinary perspectives on artificial intelligence and the law. Springer, 2023. p. 65-80.
• GIDDENS, A. As consequências da Modernidade São Paulo: UNESP, 1991.
• GUIMIER, L. Géopolitique de la santé. La santé publique à l’épreuve des idéologies Paris : Éd. Le Cavalier bleu, Coll. Géopolitique, 2022.
• KEROUEDAN, D. Comment la santé est devenue un enjeu géopolitique. Le Monde Diplomatique, Juillet 2013, p. 16 -17.
• KICKBUSCH, I. Ilona Kickbusch highlights need for action to address the digital determinants of health. Digital Transformations for Health Lab, 4 Dec. 2024. Available from: https://dthlab.org/ilona-kickbusch-highlights-need-for-action-to-address-the-digital-determinants-of-health Access in: 28 jan. 2025.
  » https://dthlab.org/ilona-kickbusch-highlights-need-for-action-to-address-the-digital-determinants-of-health
• KOLFSCHOOTEN, H.; OIRSCHOT, J. The EU Artificial Intelligence Act (2024): Implications for healthcare. Health Policy, v. 149, p. 105152, 2024. DOI: https://doi.org/10.1016/j.healthpol.2024.105152
  » https://doi.org/10.1016/j.healthpol.2024.105152
• LAPA, E. O uso da Inteligência Artificial na medicina: transformação e desafios. Exame online, 12 out. 2024. Available from: https://exame.com/colunistas/opiniao/o-uso-da-inteligencia-artificial-na-medicina-transformacao-e-desafios/ Access in: 28 jan. 2025.
  » https://exame.com/colunistas/opiniao/o-uso-da-inteligencia-artificial-na-medicina-transformacao-e-desafios/
• LASH, S. Prefacio: Individualización a la manera no lineal. In: BECK, U.; BECK-GERNSHEIM, E. La individualización: El individualismo institucionalizado y sus consecuencias sociales y políticas. Barcelona: Paidós Ibérica, 2003.
• LEKADIR, K. et al. Artificial intelligence in healthcare: Applications, risks, and ethical and societal impacts. Brussels: European Parliament, 2022.
• MAGALHÃES, J. Democracia ou algoritmocracia? Ensaio sobre a defesa dos direitos humanos na era digital. Tictank, 20 maio 2023. Available from: https://tictank.pt/2023/05/20/democracia-ou-algoritmocracia/ Access in: 29 set. 2023.
  » https://tictank.pt/2023/05/20/democracia-ou-algoritmocracia/
• OCDE. AI in health: huge potential, huge risks. Paris: OCDE Publishing, 2024.
• PEETERS, R.; SCHUILENBURG, M. The algorithmic society: An introduction. In: SCHUILENBURG, M.; PEETERS, R. The algorithmic society technology, power, and knowledge London: Routledge, 2021. p. 1-15.
• RECKWITZ, A.; ROSA, H. La modernité tardive en crise Paris: Editions de la Maison des Sciences de l’Homme, 2024.
• RIGBY, M. Ethical dimensions of using artificial intelligence in health care. AMA Journal of Ethics, v. 21, n. 2, p.121-124, 2019.
• ROSANVALLON, P. La crise de l’Etat Providence Paris : Seuil, 1981.
• TWOREK, H. The path dependency of infrastructure: A commonly neglected aspect of platform governance. In: Centre for International Governance Innovation. Report Global Cooperation on Digital Governance and the Geoeconomics of New Technologies in a Multi-polar World Waterloo: Centre for International Governance Innovation, 2022.
• UNIÃO Europeia. AI Act (2024) Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024 Cria regras harmonizadas em matéria de inteligência artificial e que altera os Regulamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e as Diretivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (Regulamento da Inteligência Artificial) (Texto relevante para efeitos do EEE). Bruxelas: Jornal Oficial da União Europeia, 2024.
• WHO. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. Geneva: WHO, 2024.
• WHO. Ethics and governance of artificial intelligence for health. Geneva: WHO, 2021.
• WHO. Regulatory considerations on artificial intelligence for health Geneva: WHO, 2023.
• ZUBOFF, S. The age of surveillance capitalism: The fight for a human future at the new frontier of power. Great Britain: Profile Books, 2019.

• Editores:
  Carinne Magnago, Aurea Ianni

Datas de Publicação

• Publicação nesta coleção
  15 Dez 2025
• Data do Fascículo
  2025

Histórico

• Recebido
  03 Fev 2025
• Aceito
  28 Maio 2025