Crítica da Inteligência Artificial: Cotidiano, vieses e políticas“A questão não é se armas de IA serão construídas; mas quem vai construí-las e com que finalidade”. Essa afirmação faz parte do que vem sendo chamado de “Manifesto Palantir”, um conjunto de 22 pontos, publicado no X/Twitter, no dia 18 de abril de 2026, pela empresa Palantir, com base no livro A república tecnológica. A Palantir, empresa de tecnologia fundada em 2003 por Peter Thiel, tem como CEO, Alex Karp, um dos autores do referido livro, e é hoje uma das empresas mais poderosas, obscuras e politicamente influentes - especialmente após a segunda eleição de Donald Trump - no mercado de inteligência artificial e análise de dados1.
Em 2025, por exemplo, Peter Thiel causou polêmica ao conceder uma entrevista ao podcast Interesting Times, apresentado pelo jornalista Ross Douthat, do The New York Times. Ao ser perguntado sobre os esforços para o desenvolvimento de uma inteligência artificial geral (IAG) voltada ao transhumanismo - ideologia segundo a qual seria possível transcender nosso corpo físico mortal por meio da tecnologia - e sobre se ele preferiria, ao contrário, que a raça humana perdurasse, Thiel hesita longamente, o que pode ser percebido pela demora de sua resposta quanto pelo próprio espanto do apresentador, que chega a dizer: “é uma hesitação longa”.
Ambos os exemplos poderiam ser agrupados no rótulo de tecnofascismo, termo definido por Mark Coeckelberg (2026) como uma “nova forma de fascismo formatada pelas novas tecnologias (IA e outras tecnologias digitais), por dinâmicas políticas particulares (autoritarismo, corporativismo) e ideologias, por estruturas econômicas persistentes (capitalismo) e condições sociais e culturais específicas (modernismo)” (p. 13). No tecnofascismo, a inteligência artificial não é apenas um produto comercial, como os muitos anúncios e as visões do senso comum parecem mostrar, mas uma força política, que até o momento parece tender ao autoritarismo e a posições de direita.
Como mostra Letícia Cesarino (2025), o “ângulo tecnopolítico” é uma chave de entendimento importante para compreendermos os “processos de radicalização contemporâneos”. Para além de uma questão social, a radicalização se vale do impulsionamento tecnológico proporcionado pelas plataformas digitais, baseado em infraestruturas de automatização, com o uso de inteligências artificiais. No tecnofascismo, há também a crença em um tecnosolucionismo, em que tecnologias como a inteligência artificial servem a fins diversos, os quais são, em sua maioria, opacos e carregados de diferentes vieses (como vigilância, predição e guerra).
Sérgio Amadeu (2025), em seu livro Big techs e a guerra total, mostra como a IA já vem sendo utilizada, na prática, como arma de guerra, por países como Israel no genocídio contra a Palestina, no chamado projeto Lavender, que consiste no uso de um sistema de IA - abastecido com comunicações interceptadas, imagens de satélite, dados de redes sociais e informações de inteligência - empregado “para identificar possíveis alvos militares na Faixa de Gaza” (p. 85).
Mas por que começar um ensaio para uma seção intitulada “Antropologias na Vida”, que fale sobre os desafios contemporâneos da ampliação dos usos da inteligência artificial na vida social, em um tom tão pessimista? Ao trazer esses exemplos recentes das discussões sobre inteligência artificial, meu objetivo foi frisar a necessidade de uma visão crítica em relação a esta tecnologia (e às tecnologias digitais de forma geral). Concordo com danah boyd (2012), para quem seria “irresponsável” entender as tecnologias como inerentemente boas e apenas como produtoras de efeitos positivos.
Como elas são produzidas, com que fins, por quem, a partir de que interesses e em que contextos? Essas são questões que importam e que precisam ser colocadas sempre. Do mesmo modo, precisamos questionar os usos que delas fazemos, os quais não são igualmente neutros, mas delimitados por relações e contextos específicos. Alondra Nelson, em uma palestra na Brown University, em 2025, frisa que sim, existem exemplos de IA para o bem2, mas eles não são a norma e “não são inevitáveis”. Ao contrário, abundam exemplos de maus usos da IA, que estão longe de servir ao bem público.
Assim, algumas formas de inteligência artificial já são uma realidade há alguns anos e fazem, cada vez mais, parte de nossas vidas cotidianas, em operações que inclusive desconhecemos, como os sistemas de recomendação presentes nas plataformas digitais. Isso porque, apesar da enorme popularidade das IAs generativas - como ChatGPT, Gemini, Grok e Claude e DeepSeek3 - a nomenclatura “inteligência artificial” guarda em si uma gama4 de tipos de tecnologias, inclusive as que ainda permanecem apenas no campo da ficção científica.
Há ainda visões altamente especulativas que se baseiam em ideologias, como as do “pacote TESCREAL5”, em sua corrida em busca da inteligência artificial geral (IAG). Em relação à falta de precisão do que a nomenclatura inteligência artificial define, Kate Crawford (2025) mostra como IA é um termo “em fluxo” e que, para compreendermos seus múltiplos significados, devemos levar em consideração fatores culturais, sociais, técnicos, políticos e econômicos. A autora vai além ao afirmar que a inteligência artificial não é, de fato, nem inteligente nem artificial, na medida em que é “corpórea e material” (ou seja, precisa de uma quantidade imensa de recursos naturais, infraestrutura, trabalho e classificação humana) e não é um sistema autônomo que pensa por si mesmo. Ao contrário, não prescinde, em momento algum, da ação humana, responsável por seu desenvolvimento, treinamento e pelas bases de dados a partir das quais se dará esse treinamento.
Uma visão crítica da inteligência artificial, como a que venho advogando neste ensaio, não pode prescindir de levar em consideração esse conjunto de fatores. O que temos hoje, de forma bastante prática e direta, são sistemas generativos e de reconhecimento facial altamente desiguais sendo utilizados por milhões de pessoas ao redor do mundo, e que continuam perpetuando estas desigualdades. Como a literatura sobre o tema aponta (da Hora 2025a, Buolamwini 2023), há desigualdades e vieses relativos a raça, gênero, sexualidade, idade e classe social, por exemplo, tanto no processo de desenvolvimento das IAs - o que podemos caracterizar como discriminação algorítmica - quanto no treinamento, a partir das bases de dados utilizadas.
Como pontua da Hora (2025a), os sistemas de IA operam de forma opaca, o que leva a uma “assimetria de poder”, em que de um lado estão algoritmos que tomam decisões por nós (sem clareza, enviesadas e que impactam nossas vidas) e do outro, as pessoas, sem possibilidade de entender, apurar, questionar ou colocar em questão os resultados com os quais são confrontadas. Pensem em situações como as que envolvem reconhecimento facial com uso de IA: se são tecnologias dotadas de vieses de raça, por exemplo, quem serão as populações sempre reconhecidas e criminalizadas a partir destas tecnologias? As mesmas, pretas e pardas, periféricas, que já são constantemente policiadas (e isso sem mencionar os inúmeros possíveis “erros” de identificação).
Para além da questão dos vieses, gostaria ainda de mencionar também outro impacto de monta do desenvolvimento e uso de IAs: os impactos ambientais. No relatório “Inteligência artificial e data centers”, publicado em 2025, o Laboratório de Políticas Públicas e Internet - Lapin apresenta um quadro da questão da instalação de data centers, que são estruturas essenciais para a indústria da IA, no Brasil. O primeiro grande problema é que, para funcionar, os data centers precisam de uma quantidade gigantesca de água (para resfriamento) e energia, sendo que este consumo pode ser maior do que o das cidades próximas aos locais onde serão instalados. Além disso, há desmatamento e, em muitos casos, a expulsão dos habitantes originais das terras de seus territórios. Com isso, vemos que se trata de custos ambientais e humanos de grande monta, mas que tendem a se acelerar nos próximos anos, especialmente pelo baixo custo de instalação no país e pelos incentivos que alguns estados e cidades têm oferecido.
Por fim, há uma questão mais ampla que o desenvolvimento e o uso de inteligência artificial torna urgente: a regulamentação e as discussões a respeito de formas de governança. Em 2024, o governo federal lançou o chamado Plano Brasileiro de Inteligência Artificial (apelidado de “IA para o Bem de Todos”), no qual apresentou os principais pontos de atenção e de atuação governamental (além da devida dotação orçamentária e da área responsável) para o período de 2024 a 2028. Parreiras e Veiga (no prelo), ao mapearem etnograficamente as discussões governamentais, legislativas e jurídicas em torno da IA no Brasil, pontuam que a “regulação não pode ser a única solução”, especialmente porque, no caso brasileiro, os planos e decisões têm sido politicamente polarizados, o que causa insegurança, para dizer o mínimo.
Nesse sentido, creio que precisamos olhar com maior cuidado e atenção para propostas como as da chamada Algorithmic Justice League, projeto criado pela pesquisadora Joy Buolamwini. Em linhas gerais, o que a Liga defende são quatro princípios fundamentais: consentimento (cada pessoa deve saber e definir como interage com os sistemas de IA e como seus dados estão sendo utilizados por eles); transparência (as pessoas devem entender os processos que envolvem o desenvolvimento e uso das IAs e o que elas podem ou não fazer); supervisão contínua e responsabilização (necessidade de mecanismos governamentais que fiscalizem as empresas desenvolvedoras de IA e protejam as pessoas); e crítica orientada à ação (ou seja, uma forma de crítica que se proponha a desenvolver recomendações e melhores práticas, que modifiquem os sistemas em uso).
Outra proposta crítica é a lançada por Deivison Faustino e Walter Lippold, a qual denominam de “hacker-fanoniana”. Para os autores, é imperativo descolonizar a tecnologia, o que pode ser feito por meio de experimentações tecnológicas, pela defesa da soberania digital e por um olhar que esteja além da tecnologia e leve em conta as relações entre colonialismo, capitalismo, racismo e sexismo. A partir da inspiração em Nina da Hora (2025b), eu acrescentaria ainda a necessidade de “construir alternativas”, tais como a “computação comunitária” e a defesa da “soberania de dados”. Isso implica em buscar rupturas com o poder sem precedentes das big techs, em forjar estratégias que estão fora de seus modelos enviesados e discriminatórios, em propor formas de inteligência artificial que sejam mais justas, verificáveis e éticas.
Referências
- Amadeu, Sérgio. 2025. Big techs e a guerra total São Paulo: Hedra.
-
boyd, danah. 2012. “The power of fear in networked publics”. Comunicação apresentada no SXSW, Austin, Texas, 10 de março. DSXSW https://www.danah.org/papers/talks/2012/SXSW 2012.html?utm_
» https://www.danah.org/papers/talks/2012/SXSW 2012.html?utm - Buolamwini, Joy. 2023. Unmasking AI: My mission to protect what is human in a world of machines New York: Penguin.
-
Cesarino, Letícia. 2025. Algoritmos e radicalização: Uma visão tecnopolítica a partir da antropologia. Anuário Antropológico 50(1): e-14gxt. https://journals.openedition.org/aa/14062 Acesso em: 22 maio 2026.
» https://journals.openedition.org/aa/14062 -
Coeckelberg, Mark. 2026. Technofascism: AI, Big Tech, and the new authoritarianism. AI & Society https://doi.org/10.1007/s00146-026-02862-9
» https://doi.org/10.1007/s00146-026-02862-9 - Crawford, Kate. 2025. Atlas da IA São Paulo: Edições SESC.
-
da Hora, Nina. 2025a. A opacidade da Inteligência Artificial como arquitetura de poder. MIT Technology Review, 19 ago 2025. https://mittechreview.com.br/opacidade-algoritmica-democracia-ia/
» https://mittechreview.com.br/opacidade-algoritmica-democracia-ia/ -
da Hora, Nina. 2025b. “Contra a métrica do mundo”. Stanford Social Innovation Review Brasil, 2 set 2025. https://ssir.com.br/contra-a-metrica-do-mundo/
» https://ssir.com.br/contra-a-metrica-do-mundo/ - Faustino, Deivison, e Walter Lippold. 2023. Colonialismo digital: Por uma crítica hacker-fanoniana. São Paulo: Boitempo.
-
Gebru, Timnit, e Émile P. Torres. 2024. “The TESCREAL Bundle: Eugenics and the promise of utopia through artificial general intelligence”. First Monday 29(4). https://doi.org/10.5210/fm. v29i4.13636
» https://doi.org/10.5210/fm. v29i4.13636 - Parreiras, Carolina, e Cilmara Veiga. no prelo. “Entanglements in the process of adopting, developing, and regulating AI: Mapping guidelines, disputes, and imaginaries from Brazil”. In Handbook on anthropology and artificial intelligence, organizado por Sahana Udupa e Peter Hervik. Cheltenham: Edward Elgar Publishing.
-
1
O presente artigo foi desenvolvido com apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil, no âmbito do Processo nº2021/06857-7.
-
2
Dentre os exemplos de IA para o bem por ela citados, estão usos de deep learning na medicina e para acessibilidade. No caso do Brasil, um ótimo exemplo é o projeto Yegatu Digital, conduzido pelo C4AI da USP, que tem como objetivo desenvolver ferramentas de leitura e escrita de línguas indígenas a partir de IA, de forma a contribuir para a preservação dessas línguas.
-
3
Com exceção do DeepSeek, que é chinês e possui código aberto (open-source), todas as outras IAs citadas são de propriedade de grandes empresas de tecnologia (algumas de big techs) norte-americanas: ChatGPT/OpenAi; Gemini/Google; Grok/X AI; Claude/Antropoic.
-
4
De forma geral, algumas formas de IA são aprendizado de máquina (machine learning), aprendizagem profunda (deep learning), IA generativa.
-
5
Pacote TESCREAL é o nome dado por Timnit Gebru e Émile P. Torres (2024) para o conjunto de ideologias — transhumanismo, extropianismo, singularitarismo, cosmismo (moderno), racionalismo, altruísmo eficaz e longotermismo — que possuem suas bases nas doutrinas do movimento eugenista de primeira onda e que são as principais influências dos idealizadores e financiadores da corrida pela inteligência artificial geral (IAG). Como afirmam os autores, “consequentemente, aqueles mais responsáveis pela corrida atual pela IAG são inspirados por ideais utópicos similares às visões dos eugenistas da primeira onda (ou seja, os eugenistas do século XX que foram os precursores do movimento TESCREAL) e veem a IAG como integrante da realização dessas visões. Enquanto isso, a corrida para construir a IAG está proliferando produtos que prejudicam os mesmos grupos que foram prejudicados pelos eugenistas da primeira onda” (p. 2 - tradução
-
Declaração sobre a disponibilidade das informações
Declaração sobre dados de pesquisa: como se trata de um ensaio de divulgação científica, de caráter geral, não houve o uso ou a análise de dados específicos de pesquisa.
Editado por
-
Editor-chefe
Carlos Sautchuk (https://orcid.org/0000-0002-2427-2153)
-
Editores Associados
Rosana Castro (https://orcid.org/0000-0002-1069-4785).Sara Morais (https://orcid.org/0000-0003-1490-1232).Jose Arenas Gómez (https://orcid.org/0000-0002-2159-0527).Alberto Fidalgo Castro (https://orcid.org/0000-0002-0538-5582).Elisabeth Defreyne (https://orcid.org/0009-0009-2559-0047).
-
Aprovado pela editora Rosana Castro (https://orcid.org/0000-0002-1069-4785)
Declaração sobre dados de pesquisa: como se trata de um ensaio de divulgação científica, de caráter geral, não houve o uso ou a análise de dados específicos de pesquisa.
