Comunicação de crise na perspectiva da resiliência informacional: posicionamentos das big techs após escândalos de racismo algorítmicoResumo
Este artigo objetiva analisar os posicionamentos das big techs diante de crises de imagem decorrentes de escândalos de racismo algorítmico sob a perspectiva da resiliência informacional. Baseia-se no método do estudo de caso envolvendo escândalos de crise de imagem de três das big techs atuais: Alphabet Inc., Meta Platforms Inc., e Amazon.com, Inc. Constata que, diante das crises, as empresas de tecnologia são negligentes com a resiliência informacional do cenário comum, e que suas estratégias reproduzem racismo e formas correlatas de opressão. Conclui que as organizações devem ser responsáveis pelos problemas estruturais enraizados em seus produtos e protagonistas do processo de constituição do cenário informacional.
Palavras-chave
racismo algorítmico; resiliência informacional; comunicação de crise; incerteza informacional;
big techs
Abstract
This article aims to analyze, from the perspective of informational resilience, the positions of big techs in face of image crises resulting from algorithmic racism scandals. It is based on the case study method involving image crisis cases of three of the current big techs: Alphabet Inc., Meta Platforms Inc., and Amazon.com, Inc. It finds that, faced with crises, technology companies are negligent with the informational resilience of the common scenario, and that their strategies reproduce racism and related forms of oppression. It concludes that organizations must be responsible for the structural problems rooted in their products and also protagonists in the process of constituting the informational landscape.
Keywords
algorithmic racism; informational resilience; crisis communication; informational uncertainty; big techs
Introdução
Na parte do back-end de um aplicativo ou de um site existem interesses, verdades e princípios próprios; é onde, baseando-se em múltiplas possibilidades matemáticas, uma organização determina qual conteúdo de uma plataforma digital receberá mais ou menos engajamento, quais características físicas de uma pessoa correspondem a determinadas palavras em um banco de imagens, ou, até mesmo, qual formato de rosto e tonalidade de pele podem corresponder ao perfil de pessoas investigadas judicialmente. Dessa forma, com base em Noble (2018), argumentamos que um dos recursos para compreender as estratégias da opressão algorítmica é a consciência de que essas formulações matemáticas que guiam as decisões automatizadas são feitas, em sua maioria, por seres humanos.
Diante de escândalos relacionados ao racismo algorítmico identificado nas operações das plataformas digitais, as organizações responsáveis por tais produtos tendem a enfrentar o fenômeno da crise de imagem (Cardia, 2015). Na era do compartilhamento excessivo de informações, é comum que os públicos dessas organizações entrem em estados de incertezas acerca das informações circulantes. Brasileiro (2019) entende que o estado de incerteza informacional é resultado da tensão entre o padrão sociocultural de informação compartilhado acerca de uma realidade e as informações controversas que emergem sobre a realidade na situação vivenciada. Diante dessa modalidade de incertezas, as organizações tornam-se protagonistas do processo de reconstrução do cenário informacional (Colpo; Brasileiro; Oliveira, 2022). Assim, as informações compartilhadas por uma organização durante uma crise têm o poder de minimizar ou ampliar a incerteza informacional enfrentada pelo público, e, sobretudo, de modelar as práticas comuns.
Com o objetivo de desenvolver um gerenciamento da crise capaz de reestruturar a ordem informacional sobre si e sobre os outros, as organizações baseiam-se em experiências anteriores relacionadas à informação, e nos dados da situação enfrentada, podendo seguir um destes dois caminhos possíveis: (i) atualizar-se prospectivamente e abertamente em direção ao bem comum, tornando-se mais resiliente (Colpo; Brasileiro; Oliveira, 2022); (ii) recorrer aos cenários familiares de reprodução de racismo, sexismo e de outras formas correlatas de opressão2.
O primeiro caminho é o da resiliência informacional, entendida como a capacidade responsiva de enfrentar os conflitos informacionais emergentes que ameaçam o desenvolvimento emancipatório das práticas de informação e de modelar conjuntamente as práticas e os arranjos de informação para constituir bases referenciais catalisadoras da emancipação informacional (Brasileiro, 2020; Colpo; Brasileiro; Oliveira, 2022; Alves; Brasileiro; Nascimento; Brisola, 2024). Nesse sentido, diante de conflitos ou rupturas, como uma crise de imagem decorrente de escândalos de racismo algorítmico, as organizações devem ser resilientes informacionalmente para desenvolver — em conjunto com os seus públicos — a resiliência informacional de todo o cenário.
É fundamental ressaltarmos que o racismo algorítmico se manifesta nas configurações das tecnologias e na visão sociotécnica de uma sociedade influenciada por grupos supremacistas (Silva, 2022). Ao examinarmos a administração de crises de imagem em decorrência de escândalos relacionados ao racismo algorítmico, nossa intenção não é afirmar que a questão principal dessa problemática reside na gestão dessas crises. Em vez disso, buscamos desenvolver uma reflexão acerca das responsabilidades informacionais das organizações de tecnologia com as questões estruturais da sociedade que afetam os seus públicos.
Partindo de tais pressuposições e após aproximação com algumas pesquisas empíricas similares no campo da comunicação (Pinto; Brasileiro; Antunes; Almeida, 2020; 2022), o objetivo deste artigo é analisar os posicionamentos das big techs diante de crises de imagem decorrentes de escândalos de racismo algorítmico sob a perspectiva da resiliência informacional.
A investigação é baseada no método do estudo de caso, especificamente em escândalos de crises de imagem geradas por meio da percepção da existência do racismo em algoritmos de produtos/serviços de três das cinco maiores empresas atuais de tecnologias (big techs): Alphabet Inc., Meta Platforms Inc. e Amazon.com, Inc. Guia-se pelos seguintes objetivos específicos: (i) contextualizar casos de racismo algorítmico das big techs; (ii) examinar as estratégias informacionais utilizadas como resposta ao gerenciamento da crise de imagem; e (iii) analisar os posicionamentos das organizações sob a perspectiva da resiliência informacional.
Racismo algorítmico e empresas de tecnologias
Ao direcionarmos o foco de análise para as empresas de tecnologia, é possível apontar um dos fatores das crises atuais de comunicação e dos desencadeamentos da incerteza informacional, a saber: a opacidade algorítmica3. Tal opacidade, intencionalmente mantida para proteger os modelos de negócios das plataformas digitais, consiste em estratégia preocupante na medida em que restringe o direito de percepção dos públicos e coloca em risco a inteligibilidade dos fatos (Pasquale, 2015). Entendendo a transparência como perigo, as empresas coletam e armazenam os dados enquanto a sociedade os fornece sem consciência crítica desse procedimento, acreditando na narração fictícia de que o algoritmo age sozinho sem nenhuma interferência das ideologias próprias de um ser humano (Van Dijck, 2014).
Em sua maioria, as plataformas digitais têm codificações fechadas — o provedor do código não permite modificações ou explicações abertas de como funciona o sistema — e nenhuma transparência acerca do processo de coleta e tratamento de dados. Gitelman e Jackson (2013) pontuam que a ideia da existência de dados brutos é um oxímoro, ou seja, pensar na existência dessas palavras (dados e brutos) em uma mesma frase é uma contradição de ideias, pois, embora os dados sejam coletados de maneira dissecada e persistentemente bagunçados, existe uma ordem ostensiva para que possam funcionar nos algoritmos (Gillespie, 2014). Dentro de um banco de dados, o processo de organização das informações pode ser classificado como uma poderosa intervenção, pois a gestão das categorias é uma premissa poderosa politicamente e semanticamente (Bowker & Star, 2000). Embora os produtores de banco de dados compartilhem o apetite pela coleta de informações, eles se distinguem mais pelo que escolhem excluir do que incluir (Gillespie, 2014). Assim, quanto à mediação, as plataformas digitais operam sob consideráveis controvérsias.
Na Declaração de Independência do Ciberespaço de 1996, escrita por John Perry Barlow, encontramos a descrição de um ambiente virtual futuro repleto de neutralidades, sem discriminações e igualitário para todos. Contudo, a realidade na qual vivemos torna essa concepção uma possibilidade totalmente utópica (Silva, 2022). Atualmente, as experiências online são mediadas por processos computacionais que, ao analisarem uma ampla massa de dados sobre seus usuários, estruturam como a informação é produzida, acessada, organizada, vista como legítima ou descartada como irrelevante (Ananny, 2016). Assim, é possível seguirmos este estudo com base na compreensão de que os algoritmos têm formulações matemáticas, mas são elaborados por seres humanos. Nesse sentido, podemos reforçar que a reprodução de violências por meio de algoritmos não é um erro de codificação, mas sim a explicitação de pensamentos preconceituosos por quem desenvolve as plataformas nas quais esses problemas são identificados (Noble, 2018).
Entendendo que as relações de poder moldam as tecnologias algorítmicas (Silva, 2022), pontuamos que o racismo é uma relação de poder, sendo uma forma de discriminação que tem raça como fundamento (Almeida, 2019). Em conformidade com Lima (2022), destacamos que uma consequência social, em conjunto com a manipulação das tecnologias, é o surgimento do racismo algorítmico. Silva (2022, p. 1.167) descreve o termo como a forma pela qual “a disposição de tecnologias e imaginários sociotécnicos em um mundo moldado pela supremacia branca realiza a ordenação algorítmica racializada de classificação social, recursos e violência em detrimento de grupos minorizados”. O’Neil (2020) e Noble (2018) argumentam que as desenvolturas de plataformas digitais de grandes empresas de tecnologia são realizadas por grupos pertencentes aos poderes hegemônicos e baseados em dados que refletem as desigualdades sociais preexistentes.
Noble (2018) responde à pergunta “o algoritmo pode ser racista?” afirmando que a existência das opressões presentes nos algoritmos é como uma estrutura gerenciada por supremacistas. A autora destaca que os algoritmos de pesquisa também funcionam no contexto cultural para legitimar informações e representações como algo verídico e único, como a expressão “se está no Google, é verdade”. Assim, a sociedade culturalmente tende a normalizar a existência de tais problemas e a posicionar a plataformização digital em patamares de divinização.
Silva e Araújo (2020) destrincham o termo racismo algorítmico, dividindo-o em duas dimensões: (i) baseia-se na própria “engenharia” dos sistemas e os modos como eles operam; e (ii) diz respeito à oferta de significados aos sistemas. Assim, o racismo algorítmico aborda o condicionamento dos algoritmos desde a sua seleção até o treinamento para um fim específico, perpassando o inconsciente social marcado pelo processo de racialização estrutural. Portanto, pontuamos a existência de duas configurações distintas do racismo na tecnologia, embora totalmente semelhantes entre si, quais sejam: (i) o racismo estrutural presente nos algoritmos; e (ii) o racismo estrutural reproduzido pelos usuários das plataformas digitais.
A estrutura algorítmica facilita as manifestações de racismo, as quais, recursivamente, são fonte e conteúdo para aspectos da estrutura técnica. Isso acontece porque o volume de controvérsias sobre uma questão racial pode gerar resultados em métricas de comunicação que são frequentemente monetizáveis para as plataformas, incluindo a circulação de conteúdo inequivocamente racista e discurso de ódio (Silva, 2022). Ou seja, além das bases algorítmicas racistas, essas plataformas podem se beneficiar da reprodução de racismo de seus usuários.
Alguns tecnologistas já defendem a ideia da exclusão de categorias sensíveis — raça, gênero, sexualidade — como uma estratégia para o combate à discriminação algorítmica, mas isso não é o suficiente, visando que existem muitos outros aspectos que englobam o racismo e os múltiplos preconceitos existentes na sociedade (Silva, 2022). Outra opção dada como possível solução para essa discussão seria a transparência algorítmica, porém ela pode não ser a solução para explicar como determinado algoritmo chegou a variáveis racistas, sexistas ou formas correlatas de opressão, já que em alguns modelos de IA, a exemplo das redes neurais artificiais, o modo como atua o algoritmo não permite a explicação dos seus procedimentos, dos seus passos que resultaram em uma dada decisão (Silveira e Silva, 2020).
Além de imaginarem e desenvolverem sistemas carregados de eficiência e avanços, portanto, os entusiastas da tecnologia e suas proposições futuristas necessitam almejar que esses produtos não sejam reprodutores de exclusões e violências. Nas próximas seções, com base na resiliência informacional, serão analisados alguns casos de racismo algorítmico que ganharam destaque midiático.
Comunicação de crise e resiliência informacional
Diante de organizações de tecnologia que fazem uso de dados processados sem nenhuma translucidade, é possível perceber a existência de violências entrelaçadas aos algoritmos. A percepção pública de tais questões acarreta a ruptura das fachadas4 (Goffman, 2011) estabelecidas por essas organizações, a qual, ao repercutir nos espaços sociais, resulta no fenômeno denominado de crise de imagem (Cardia, 2015). Encontrar-se em um cenário como esse pode ser sinônimo de grandes perdas para uma organização, principalmente no que tange ao relacionamento com seus públicos. Uma crise tende a ocorrer como resultado de um erro considerado irrelevante; pode incluir desde grandes devastações tangíveis — como a destruição de vidas ou ativos — ou intangíveis — como a perda da credibilidade da organização ou outros danos de reputação (Argenti, 2006). Esse fenômeno, portanto, pode ocorrer de diferentes formas, e a dimensão de seu impacto dependerá das práticas de gerenciamento que serão realizadas para transpor a crise.
Ao surgirem informações conflitantes sobre uma empresa, é comum que os seus públicos se encontrem em um estado de dúvida acerca dos fatos — um estado de incerteza informacional. Brasileiro (2019) se refere a Kuhlthau (1993) e Choo (2003) para apontar que a incerteza é vivenciada tanto como dissonância cognitiva quanto como uma reação emocional capaz de aumentar ou diminuir de acordo com o desenvolvimento das atividades relacionadas com a informação. Contudo, o autor avança na conceituação da incerteza informacional, entendendo-a como o resultado de uma tensão entre: (i) o padrão de informação socio culturalmente compartilhado acerca de uma realidade; e (ii) as informações que emergem da realidade durante a situação vivenciada. Nesse sentido, consideramos que um indivíduo que se configure como público-alvo de determinado produto de uma organização, ao deparar com uma crise ou tensão entre as informações esperadas e as informações encontradas, passa a experimentar um estado de incerteza informacional. Assim, poderá se tornar vulnerável ante as informações decorrentes das estratégias comunicacionais voltadas para a solução dos problemas.
Para administrar uma crise, na busca de estratégias de enfrentamento dos problemas, essas organizações precisam responder adequadamente às questões de informação que emergem em cada um dos múltiplos públicos situados em seus ambientes socioculturais (Pinto; Brasileiro; Antunes; Almeida, 2020). Essa capacidade responsiva e crítica de enfrentar os conflitos informacionais e modelar o comum consiste na resiliência informacional (Brasileiro, 2020; Alves; Brasileiro; Nascimento; Brisola, 2024). Na cultura digital, o fluxo de informações compartilhadas pode se tornar orgânico de modo a determinar a escolha comportamental de uma organização ao enfrentar uma crise. Porém, na ausência de um compromisso ético-verídico com mudanças reais em suas práticas, é possível que essas organizações movam-se para um ambiente oposto ao processo contínuo da resiliência informacional (Pinto; Brasileiro; Antunes; Almeida, 2020). A informação compartilhada pode conformar e constituir coletivamente as habilidades e o senso crítico, e os sujeitos, ao passarem por crises informacionais, são capazes de configurar a resiliência informacional como uma capacidade de orientação, ajustamento e ressignificação de ideias diante das adversidades (Lloyd, 2014).
Para fins didáticos, consideramos necessário descrever cada uma das etapas da resiliência informacional elaboradas por Lloyd (2014) e destrinchadas por Brasileiro (2019), quais sejam: (i) orientação — ocorre quando os sujeitos passam a se conectar com os fragmentos de informações provenientes das fontes digitais (formais e/ou informais) por meio de mediadores infocomunicacionais que emergem da rede — como blogs, páginas de redes digitais e documentos; (ii) ajuste — acontece quando os sujeitos modificam seus hábitos e atividades com base nas experiências emocionais de encontrabilidade da informação mediadas e cristalizadas pela/na rede, passando a adotar criticamente a rede como método para buscar informações e validá-las a fim de construir conhecimentos práticos; e (iii) ressignificação — envolve a reformulação de práticas e a atribuição de novos significados às representações e às incertezas do contexto.
O resultado de tais etapas culmina na autonomia (Brasileiro, 2019; Rocha, et al., 2021) e na emancipação informacional (Alves; Brasileiro; Nascimento; Brisola, 2024). Entendemos neste estudo que, diante de um cenário de desordem e crises informacionais, as organizações podem ser protagonistas do processo de reconstrução do cenário informacional e do ambiente democrático (Colpo; Brasileiro; Oliveira, 2022; Pinto; Brasileiro; Antunes; Almeida, 2020). Assim, acreditamos na possibilidade de identificar as etapas da resiliência informacional no decorrer das estratégias de gerenciamento de crise das organizações com o intuito de compreender se tais estratégias refletem as questões informacionais de seus públicos durante a experiência de incerteza informacional, ou se revelam se a organização atualiza-se abertamente em direção ao bem comum de modo a reformular o padrão de informação compartilhado (Colpo; Brasileiro; Oliveira, 2022), ou ainda se sucumbe à lógica de marketing que reproduz as opressões sociais.
Casos de racismo algorítmico envolvendo as big techs
Para enfrentar uma crise e minimizar as incertezas informacionais de seus públicos, muitas organizações buscam solucionar o problema por meio das estratégias comunicacionais retóricas — baseadas nos padrões de informação compartilhados e instituídos pelo mercado midiático — em detrimento de mudanças de práticas que levem em consideração as questões informacionais que emergem de seus públicos. Analisaremos, a seguir, alguns casos de crises de imagem relacionados a três big techs (Alphabet Inc., Meta Inc. e Amazon.com, Inc.) com base na percepção pública do racismo algorítmico em alguns de seus produtos, e os mecanismos de retratação utilizados por essas organizações como resposta.
ALPHABET INC.: um conglomerado de produtos reprodutores do racismo
A Alphabet Inc. é uma holding (sociedade criada com o objetivo de administrar um grupo empresarial) de serviços pertencentes ou vinculados aos serviços Google, sendo fundada em 2015 por Larry Page e Sergey Brin. A big tech é a responsável pelo maior buscador online do mundo, o Google Search, assim como alguns outros produtos extremamente populares, como YouTube, Chrome, Meet, Android, Maps, além de serviços corporativos, como Google Cloud e Workplace.5
Em 2016, Kabir Alli, um jovem estudante da Clover Hill High School no estado da Virgínia (EUA), publicou em seu perfil no Twitter um vídeo que destaca os resultados de busca pelos termos “three black teenagers” (Figura 1) e “three white teenagers” (Figura 2) de modo a demonstrar que, no primeiro caso, são entregues resultados de imagens usadas nas fichas policiais de jovens afro-americanos, enquanto no segundo aparecem jovens sorridentes aproveitando o tempo livre.
O vídeo alcançou grande repercussão ao ser compartilhado por mais de 68 mil pessoas e gerou entre os usuários do buscador questionamentos sobre o desempenho racista do algoritmo, colocando o público em estado de incerteza informacional e guiando a organização à necessidade de um gerenciamento da crise. Em nota enviada ao Huffington Post, um representante da Google respondeu da seguinte forma:
“Nossos resultados de pesquisa de imagens são um reflexo do conteúdo de toda a web, incluindo a frequência com que os tipos de imagens aparecem e a maneira como são descritos online. Isso significa que, às vezes, representações desagradáveis de assuntos delicados online podem afetar os resultados da pesquisa de imagens que aparecem para uma determinada consulta. Esses resultados não refletem as opiniões ou crenças da própria Google, como empresa, valorizamos fortemente a diversidade de perspectivas, ideias e culturas”
(Google, 2016).
Esse posicionamento foi visto por especialistas e usuários como uma estratégia da organização de suavizar os rumores e retirar a sua responsabilidade na composição algorítmica deste produto. David Oppenheimer, professor na Universidade da Califórnia e pesquisador em lei de igualdade comparada e antidiscriminação, em entrevista ao jornal The New York Times, pontuou que “mesmo que os algoritmos não sejam concebidos com a intenção de discriminar esses grupos, se reproduzirem as preferências sociais mesmo de uma forma completamente irracional, também reproduzem essas formas de discriminação”.
Em 2020, Nicolas Kayser-Bril, um especialista em jornalismo de dados, postou em seu perfil no Twitter uma análise do funcionamento do Google Vision — ferramenta da empresa Google que permite a extração de conteúdos de imagens, reconhecimento de padrões, detectação de objetos, reconhecimento de formas geométricas e rostos, classificação de objetos ou também a transcrição de palavras impressas contidas em imagens. Nicolas explorou a aplicação de inteligência artificial, que tem como principal propósito analisar imagens com base em técnicas de machine learning — um método de análise de dados que automatiza a construção de modelos analíticos, uma ramificação da inteligência artificial (IA) baseada na lógica de que as máquinas podem aprender por meio desse sistema — e constatou que, ao analisar uma imagem de um homem asiático segurando um termômetro, os termos “tecnologia” e “dispositivo eletrônico” foram detectados, enquanto em uma foto similar de um homem negro segurando um termômetro, a palavra “arma” foi marcada com 88% de precisão. Seguindo esse raciocínio, o pesquisador Bart Nagel postou um recorte da foto com o homem negro deixando apenas a mão e o dispositivo, fazendo ajustes para deixar a pele branca, quando a plataforma reconheceu o termômetro e não mais uma arma (Figura 3). Mesmo o caso tendo ganhado grandes repercussões nas redes sociais digitais, até o momento desta pesquisa, a empresa não se posicionou ou fez qualquer declaração a respeito.
É importante pontuar, com base nos casos acima explorados, que, mesmo enfrentando constantemente situações que afetam a imagem da empresa e que muitas vezes ameaçam os direitos humanos, a Alphabet não costuma se posicionar sobre os casos, e, quando o faz, tende a negligenciar a sua responsabilidade.
META PLATFORMS INC.: redes sociais digitais racistas
Anteriormente conhecida apenas como Facebook, a Meta Platforms Inc. é composta de um conjunto de empresas de tecnologia e mídias sociais. Possui os direitos do Facebook, do Instagram e do WhatsApp, assim como de outras empresas não tão conhecidas, como Oculus VR — empresa que fabrica óculos de realidade virtual para jogos eletrônicos; Giphy — banco de dados e mecanismo de pesquisa online que permite aos usuários pesquisar e compartilhar vídeos curtos em loop sem som; e Mapillary — um serviço de compartilhamento de fotos com metadados geoespaciais.6
Casos de racismo algorítmico sendo encontrados nos produtos da Meta são recorrentes por parte de seus usuários. Em 2016, a ProPublica — uma agência independente, sem fins lucrativos, que produz jornalismo investigativo de interesse público7 — publicou uma pesquisa que evidenciava procedimentos racistas na segmentação do Facebook Ads. Foi observado que a plataforma permitia excluir do direcionamento grupos afro-americanos, asiáticos e latinos, enquanto a opção de excluir categorias como caucasianos, euro-americanos e brancos não existia (Figura 4).
A evidência ganhou repercussão diante de leis estadunidenses como a Fair Housing Act, de 1968, que considera ilegal
[...] fazer, imprimir ou publicar, ou fazer com que seja feito, impresso ou publicado qualquer aviso, declaração ou anúncio, com relação à venda ou aluguel de uma residência que indique qualquer preferência, limitação ou discriminação com base em raça, cor, religião, sexo, deficiência, situação familiar ou origem nacional
(Fair Housing Act, 1968).
Assim também como a lei The Civil Rights Act, de 1964, que proíbe a “impressão ou publicação de avisos ou anúncios indicando preferência, limitação, especificação ou discriminação proibida no recrutamento de empregos.”
Ao enfrentar crise de imagem e cobranças de posicionamento, a Meta — à época, Facebook — por meio do seu gerente de privacidade e políticas públicas, Steve Satterfield, disse:
[...] temos uma posição firme contra os anunciantes que fazem uso indevido de nossa plataforma, nossas políticas proíbem o uso de nossas opções de segmentação para discriminar e exigem o cumprimento da lei. Tomamos medidas imediatas de aplicação quando determinamos que os anúncios violam nossas políticas
(Propublica, 2016).
A empresa alegou que, ao oferecer a categoria Afinidade Étnica, estava fazendo publicidade multicultural, e que atribui aos seus usuários a afinidade étnica com base nas páginas e postagens que eles curtem ou interagem no Facebook. Ao ser questionado sobre os porquês de Afinidade Étnica ser incluída na categoria Demografia de sua ferramenta de segmentação de anúncios, a empresa respondeu que planeja mover Afinidade Étnica para outra seção e não se posicionou mais sobre o assunto.
Outra situação de racismo envolvendo os algoritmos dessa empresa aconteceu no mês de setembro de 2021, quando alguns usuários do Facebook apontaram que, após assistirem a um vídeo de jornal com homens negros, foram questionados se queriam “continuar vendo vídeos sobre primatas” por um sistema de recomendação de inteligência artificial presente na plataforma (Figura 5).
Por meio de um pronunciamento na BBC News, a empresa emitiu um pedido de desculpas e afirmou que se tratava de um “erro inaceitável”. Na nota, a empresa também anunciou que estaria desativando o sistema e iniciando uma investigação para descobrir o que ocorreu nesse caso, que aconteceu pouco menos de um ano depois de a empresa anunciar o seu Equity and Inclusion Team.
AMAZON.COM, INC.: a tecnologia racista no reconhecimento facial
Amazon.com, Inc. é uma multinacional de tecnologia norte-americana fundada por Jeff Bezos em 1994. A empresa começou como um mercado online de livros, mas expandiu-se para vender eletrônicos, softwares, videogames, vestuário, móveis, alimentos, brinquedos e joias. Atualmente, é detentora dos produtos Prime Video, Amazon Music, Twitch, Audible, Amazon Studios, Amazon Web Services, Amazon Rekognition, e de algumas outras plataformas.8
Lançado no final de 2016, o produto Amazon Rekognition consiste em um conjunto abrangente de recursos de detecção, análise e reconhecimento de faces para análise de imagens e vídeos por meio de machine learning. No ano seguinte, a empresa começou a ofertar o serviço para a polícia de várias cidades dos Estados Unidos, como Orlando e Washington. O banco de dados do Amazon Rekognition possui dezenas de milhões de fotos e consegue reconhecer até 100 pessoas numa só imagem. Isso despertou a atenção da população norte-americana ao notar que o serviço estava sendo utilizado como mecanismo de vigilância. Como estratégia de enfrentamento da situação, algumas ONGs (como American Union for Civil Liberties, Data for black lives e outras 68) produziram e enviaram uma carta direcionada à Amazon solicitando que parassem de fornecer a tecnologia para uso policial:
O Amazon Rekognition está preparado para abuso nas mãos dos governos. Este produto representa uma séria ameaça às comunidades, incluindo pessoas de cor e imigrantes, e a confiança e respeito que a Amazon tem trabalhado para construir. A Amazon deve agir rapidamente para defender os direitos e liberdades civis, incluindo os de seus próprios clientes, e tirar Rekognition da mesa do governo
(ACLU ORG).
A empresa manteve-se em silêncio sobre o assunto. Em 2018, a American Union for Civil Liberties (ACLU) publicou um estudo com dados preocupantes: os pesquisadores realizaram um teste comparando fotos de todos os deputados federais dos Estados Unidos a uma base de dados com 25 mil imagens de pessoas que haviam sido presas e o serviço identificou erroneamente que 28 dos 425 deputados eram criminosos (Figura 6). Em alguns grupos sociais, como deputados afrodescendentes, a margem de erro foi de 40%.
Como resposta à crise enfrentada, a Amazon publicou uma nota em seu site oficial alegando que a ACLU usou o software de forma errada e que a empresa recomenda que a polícia não confie unicamente nesse sistema. Em julho do mesmo ano, a empresa foi convocada por legisladores norte-americanos para prestar respostas concretas sobre os erros encontrados no Rekognition.
Em 2020, outra polêmica envolvendo o serviço ganhou grandes proporções nas redes sociais digitais. Após o brutal assassinato de George Floyd por Derek Chauvin, policial branco que ajoelhou no pescoço da vítima de modo a sufocá-la e levá-la a óbito durante uma abordagem pelo suposto uso de uma nota falsificada em um supermercado, uma enorme crise social envolveu o país a reboque de protestos, levando as empresas do setor de tecnologia a declararem apoio à causa (possuidoras de históricos ligados à discriminações raciais e imprecisões no reconhecimento facial, principalmente de pessoas afrodescendentes). A Amazon se pronunciou no perfil oficial do Twitter da empresa de forma rápida e engessada: “A desigualdade e o tratamento brutal de pessoas negras em nosso país devem acabar. Estamos unidos em solidariedade à comunidade negra — nossos empregados, clientes e parceiros — na luta contra a injustiça e o racismo sistêmico” (Amazon, 2020). A postagem chegou a mais de 10 mil comentários que questionavam as atitudes da empresa em relação aos sistemas ligados à vigilância, principalmente o Rekognition. Com a pressão social, somada ao histórico acima apontado, a empresa anunciou que estaria dando uma pausa de um ano nas ofertas desse serviço para que “os governos implementem regulamentos mais rígidos para governar o uso ético da tecnologia de reconhecimento facial” (Amazon, 2020).
Em 2018, a Amazon adquiriu a Ring — uma empresa de segurança doméstica e casa inteligente —, e o serviço tem sido criticado por compartilhar vídeos dos clientes com a polícia local sem consentimento deles. Mesmo após suspender o uso do Rekognition, a empresa continuou investindo e aprimorando os serviços da Ring e anunciou 29 novas parcerias com departamentos de polícia desde o assassinato de George Floyd (Coleman, 2020). É possível notar que mesmo enfrentando processos judiciais durante anos do seu relacionamento com vigilância e fornecimento de controle por reconhecimento facial para a polícia — que tem históricos de repressão e violência contra a população afrodescendente —, a Amazon continua investindo nesse ramo e ignorando o posicionamento de seus públicos sobre a questão.
Posicionamentos das big techs na perspectiva da resiliência informacional
Como abordado anteriormente, ao se deparar com uma crise de imagem, o público da organização experimenta um estado de incerteza informacional que corresponde a uma vulnerabilidade ante os desdobramentos das informações (Brasileiro, 2020). Mesmo que seja considerado vulnerabilidade, o estado de incerteza informacional experimentado por um público pode ser visualizado como uma oportunidade estratégica para uma organização agir de modo responsivo por meio de uma comunicação responsável e constitutiva de práticas emancipatórias.
Morin (1991) e Ramos e Freitas (2013) explicam que o fluxo contínuo de evolução e avanços tecnológicos condiciona as organizações à necessidade de se degenerar e se regenerar continuamente na sociedade da velocidade, na qual as ações e reações acontecem em um período de tempo, e os públicos acabam por perder tanto a noção espacial quanto temporal, modificando assim a lógica das suas relações. Nesse sentido, baseando-se nos casos descritos anteriormente, e compreendendo o papel das etapas da resiliência informacional diante de crises e/ou estados de incerteza, acreditamos na pertinência da análise do processo da resiliência informacional no decorrer do gerenciamento das incertezas informacionais junto aos públicos das organizações.
Para fins metodológicos e de uma melhor compreensão do leitor, elaboramos quadros descritivos que apresentam os acontecimentos e as estratégias de gerenciamento de crise elaboradas pelas três organizações. Em seguida, analisamos o processo de resiliência informacional (RI) nesses casos.
Considerando o processo de resiliência informacional e entendendo as organizações como agentes mediadores de informações (Pinto; Brasileiro; Antunes; Almeida, 2020), é possível identificar no Quadro 1 que, durante o estado de incerteza, a Alphabet Inc. compartilhou informações apenas sobre um dos casos (Google Search x Kabir Alli), e não buscou realizar ações que indicassem uma real modificação das práticas problemáticas. Nestes casos, segundo a etapa de orientação os mediadores devem introduzir informações de fontes relevantes e, assim, reduzir os efeitos estressantes das incertezas (Brasileiro, 2020) para que seja possível o ajustamento dos métodos coletivos de conhecimentos e das estratégias informacionais. Observamos que isso não acontece entre a organização e os seus públicos, o que impossibilita a ressignificação, reconciliação ou reformulação do conhecimento. Tais fatos agravam o cenário de reprodução de opressões sociais na medida em que a Alphabet Inc sabota a resiliência informacional do cenário comum no momento de gerir estados de incertezas informacionais e crises de imagem desencadeadas por percepções de racismo algorítmico em seus produtos.
Com base no Quadro 2 e em apontamentos anteriores, notamos que a empresa tende a se posicionar buscando conduzir os seus públicos por um processo de orientação para superar o momento de incerteza informacional. Em seguida, os posicionamentos demonstram uma busca por uma modificação tanto no estado enfrentado pelos seus públicos quanto em seus próprios produtos, de modo a corresponder ao princípio do processo de ajustamento (Brasileiro, 2020). Porém, uma característica que observamos nos posicionamentos dessa organização é a ausência de veracidade nas informações compartilhadas, como o caso Facebook x Propublica. Neste caso, a agência investigativa fez o teste de anúncios e certificou que os mecanismos de exclusão de grupos sociais que envolvem pessoas afrodescendentes ainda permaneciam ativos, o que revela a inexistência de práticas condizentes com os seus posicionamentos e informações compartilhadas, dificultando o processo de ressignificação e reformulação dos entendimentos coletivos acerca do problema.
Ao analisarmos os processos de resiliência informacional nos casos da Amazon.com, Inc. (Quadro 3), é possível notarmos um padrão no modo de compartilhamento de informações para o saneamento das crises, similar ao que ocorre na Meta Platforms Inc. A empresa se posiciona em alguns casos buscando minimizar os estados de incertezas, seguindo o processo de orientação, mas, em seguida, declina-se novamente sobre situações que levam os públicos a questionarem a veracidade das informações utilizadas, ou seja, não buscam superar juntamente com os públicos as barreiras enfrentadas para que o processo de ajustamento ocorra de maneira sustentável. Notamos esse acontecimento, de forma bastante translúcida, no momento em que a empresa suspende o uso do Amazon Rekognition, mas anuncia publicamente novos acordos envolvendo o Ring, ou seja, compartilha a notícia de que está suspendendo o uso de um serviço que causou instabilidade com seus públicos, mas, em seguida, anuncia o crescimento de um serviço similar. Essas ações guiam os indivíduos ao estado recorrente de incertezas informacionais e descredibilizam o compromisso da empresa com cenários sociais relevantes para os seus públicos. Consequentemente, as reformulações informacional e relacional, características do processo de ressignificação (Brasileiro, 2020), não ocorrem.
Com base no exposto, consideramos que as big techs analisadas neste estudo distanciam-se da perspectiva emancipatória da resiliência informacional (Alves; Brasileiro; Nascimento; Brisola, 2024), em especial da Resiliência Informacional das Organizações (Colpo; Brasileiro; Oliveira, 2022), na medida em que não constroem coletivamente com os públicos os processos de orientação, ajustamento e ressignificação diante das incertezas informacionais, adentrando em cenários cíclicos de manipulação informacional fundados na reprodução de racismo e formas correlatas de opressão.
Considerações finais
Esta pesquisa se concentrou na possibilidade de analisarmos, sob a óptica da resiliência informacional, os posicionamentos de big techs diante de crises de imagem após escândalos de racismo algorítmico, com o intuito de construirmos uma reflexão acerca das responsabilidades informacionais das organizações de tecnologia com as questões estruturais da sociedade que afetam os seus públicos.
Compreendemos que a Alphabet Inc. tem um mecanismo de direcionamento das crises que se distancia dos princípios da resiliência informacional, na medida em que não busca orientar de forma transparente os seus públicos. Quando assume o papel de protagonista da mediação informacional, tende a transferir a responsabilidade para os usuários sem considerar as suas próprias responsabilidades na composição algorítmica desses produtos, negligenciando os processos de ajustamento e ressignificação do cenário informacional. A Meta Platforms Inc. busca orientar e auxiliar os públicos no processo de ajustamento por meio de propostas promissoras sobre problemas socioestruturais, mas tende a reproduzir a incerteza informacional na relação com os seus públicos à medida que deixa de praticar realmente as propostas que publica como resposta às crises. Isso também ocorre com a Amazon.com, Inc., que direciona seu público com orientações informacionais sobre os casos enfrentados por meio de promessas fantasmagóricas envolvendo mudanças consideráveis, mas se envolve em novos cenários controversos, guiando os públicos a estados de incertezas recorrentes.
Os desdobramentos desta pesquisa apresentam um cenário de grandes desafios para a resiliência informacional no campo de atuação das big techs. É necessário que as organizações de tecnologia tomem para si a responsabilidade dos problemas estruturais encontrados em seus produtos, reconhecendo-se como parte do processo coletivo de constituição do cenário informacional, isto é, elaborando estratégias informacionais baseadas no compromisso emancipatório com os entendimentos coletivos que compõem o cenário. Ressaltamos a necessidade de aperfeiçoamentos futuros visando a modificações suscetíveis que envolvem os meios, os sujeitos e os dados explorados, o que indica aberturas para estudos posteriores que envolvam a resiliência informacional no campo da comunicação de crise das organizações de tecnologia. Almejamos que esta pesquisa possa auxiliar no desenvolvimento futuro de investigações promissoras.
-
1
Esta pesquisa foi realizada com o apoio da Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - Brasil (CAPES).
-
2
Neste estudo, o termo é utilizado para referenciar as múltiplas violências que cercam minorias sociais.
-
3
De acordo com Surden (2014, p. 158), a opacidade algorítmica é “qualquer momento que um sistema tecnológico se engaja em comportamentos que, embora apropriados, podem ser difíceis de entender ou prever, do ponto de vista humano”.
-
4
De acordo com Goffman (2011, p. 13) o termo fachada pode ser definido como “o valor social positivo que uma pessoa efetivamente reivindica para si mesma através da linha que os outros pressupõem que ela assumiu durante um contato particular”.
-
5
Disponível em: https://www.britannica.com/money/Alphabet-Inc. Acesso em: 15 jul. 2022.
-
6
Disponível em: https://about.meta.com/technologies. Acesso em: 15 ago. 2022.
-
7
Disponível em: https://www.propublica.org. Acesso em: 15 ago. 2022.
-
8
Disponível em: https://en.wikipedia.org/wiki/List_of_Amazon_products_and_services. Acesso em: 20 ago. 2022.
Referências
-
AMAZON. We are implementing a one-year moratorium on police use of Rekognition. AMAZON, 10 jun. 2020. Disponível em: https://www.aboutamazon.com/news/policy-news-views/we-are-implementing-a-one-year-moratorium-on-police-use-of-rekognition Acesso em: 2 set. 2022.
» https://www.aboutamazon.com/news/policy-news-views/we-are-implementing-a-one-year-moratorium-on-police-use-of-rekognition -
AMAZON. X, 2020. Disponível em: https://x.com/amazon/status/1267140211861073927?ref_src=twsrc%5Etfw Acesso em: 01 set. 2022.
» https://x.com/amazon/status/1267140211861073927?ref_src=twsrc%5Etfw -
ANGWIN, Julia; PARRIS, Terry Júnior. Facebook lets advertisers exclude users by race Disponível em: https://www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race Acesso em: 17 ago. 2022.
» https://www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race - ALMEIDA, Silvio Luiz de. Racismo estrutural (feminismos plurais) São Paulo: Pólen, 2019.
- ALVES, Edvaldo Carvalho; BRASILEIRO, Fellipe Sá; NASCIMENTO, Geysianne Felipe; BRISOLA, Anna Cristina Caldeira de Andrada Sobral. Pedagogia Crítica da Informação: reflexões iniciais a partir do projeto de extensão resilicom. In: XXIII ENCONTRO NACIONAL DE PESQUISA EM CIÊNCIA DA INFORMAÇÃO, 23., 2023, Aracaju. Anais [...]. [S.l]: ENANCIB, 2024.
- ANANNY, Mike. Toward an ethics of algorithms: convening, observation, probability, and timeliness. Science, Technology & Human Values, v. 41, n. 1, p. 93-117, 2016.
- ARGENTI, Paul. Comunicação empresarial: a construção da identidade, imagem e reputação. Rio de Janeiro: Campus, 2006.
-
BBC NEWS. Facebook apology as AI labels black men “primates”. BBC, 6 set. 2021. Disponível em: https://www.bbc.com/news/technology-58462511 Acesso em: 19 ago. 2022.
» https://www.bbc.com/news/technology-58462511 - BOWKER, Geoffrey C.; STAR, Susan Leigh. Sorting things out: classification and its consequences. Cambridge, MA: MIT Press, 2000.
- BRASILEIRO, Fellipe Sá. Resiliência informacional em redes sociais virtuais: práticas colaborativas, emoções e mobilidade. João Pessoa: Editora UFPB, 2019.
- BRASILEIRO, Fellipe Sá. Emoções e redes colaborativas na resiliência informacional. Liinc em Revista, Brasília, v. 16, n. 2, p. 1-16, 2020.
- CARDIA, Wesley. Crise de imagem e gerenciamento de crises: os conceitos e os meios necessários para compreender os elementos que levam às crises e como administrá-las. Rio de Janeiro: Mauad X, 2015.
- CHOO, Chun Wei. A organização do conhecimento: como as organizações usam a informação para criar significados, construir conhecimento e tomar decisões. São Paulo: Editora Senac São Paulo, 2003.
-
COLEMAN, Emma. Calls grow for Amazon to end Ring partnerships with police departments. Disponível em: https://www.route-fifty.com/management/2020/06/ring-doorbell-police/166357/ Acesso em: 10 set. 2022.
» https://www.route-fifty.com/management/2020/06/ring-doorbell-police/166357/ - COLPO, Caroline Delevati; BRASILEIRO, Fellipe Sá; OLIVEIRA, Maria Lívia Pacheco de. Organização e desinformação: uma reflexão crítica com base na resiliência informacional. In: CONGRESO DE LA ASOCIANCIÓN LATINOAMERICANA DE INVESTIGADORES DE LA COMUNICACIÓN, 16., [S.l.]. Anais [...] [S.l.]: ALAIC, 2022.
- GILLESPIE, Tarleton. Media technologies: essays on communication, materiality, and society. Cambridge: MIT Press, 2014.
- GITELMAN, Lisa; JACKSON, Virginia. Introduction. In: GITELMAN, Lisa (Ed.). Raw data is an oxymoron Cambridge: MA, MIT Press, 2013. p. 1-4.
- GOFFMAN, Erving. Ritual de interação: ensaios sobre o comportamento face a face. Tradução de Fábio Rodrigues Ribeiro da Silva. Petrópolis: Vozes, 2011.
- KUHLTHAU, Carol Collier. A principle of uncertainty for information seeking, Journal of Documentation, v. 49, n. 4, p. 339-355, 1993.
-
KAYSER-BRIL, Nicolas. X, 2020. Disponível em: https://twitter.com/nicolaskb/status/12449 21742486917120 Acesso em: 11 ago. 2022.
» https://twitter.com/nicolaskb/status/12449 21742486917120 - LIMA, Bruna Dias Fernandes Barreto. Racismo algorítmico: o enviesamento tecnológico e o impacto aos direitos humanos. 2022. 127 f. Dissertação (Mestrado em Direito) – Universidade Federal de Sergipe, São Cristóvão, 2022.
- LLOYD, Annemaree. Building Information Resilience: How do Resettling Refugees Connect with Health Information in Regional Landscapes – Implications for Health Literacy. Australian Academic & Research Libraries, [s.l.], v. 45, n. 1, p. 48-66, 2014.
-
MILLER, Clarie Cain. When Algorithms Discriminate Disponível em:https://www.nytimes.com/2015/07/10/upshot/when-algorithms-discriminate.html Acesso em: 3 ago. 2022.
» https://www.nytimes.com/2015/07/10/upshot/when-algorithms-discriminate.html - MORIN, Edgar. Introdução ao pensamento complexo Lisboa: Instituto Piaget, 1991.
-
NAGEL, Bart. X, 2020. Disponível em: https://twitter.com/bjnagel/status/124530008922617 4465 Acesso em: 11 ago. 2022.
» https://twitter.com/bjnagel/status/124530008922617 4465 - NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Tradução de Felipe Damorim. São Paulo: Editora Rua do Sabão, 2018.
- O’NEIL, Cathy. Algoritmos de destruição em massa [s.i]: Rua do Sabão, 2020.
- PASQUALE, Frank. The black box society Cambridge: Harvard University Press, 2015.
- PINTO, Pâmela Araújo; BRASILEIRO, Fellipe Sá; ANTUNES, Maria João Lopes; ALMEIDA, Ana Margarida Pisco. COVID-19 no Instagram: práticas de comunicação estratégica das autoridades de saúde durante a pandemia. Comunicação Pública, v. 15, n. 29, 2020.
- PINTO, Pâmela Araújo; BRASILEIRO, Fellipe Sá; ANTUNES, Maria João Lopes; ALMEIDA, Ana Margarida Pisco. Face masks on Instagram: an analysis of public health authorities’ guidance toward prevention. PROCEDIA COMPUTER SCIENCE, v. 196, p. 409-417, 2022.
- RAMOS, José Roberto; FREITAS, Fernanda Lopes de. Resiliência e relações públicas: diálogos e reflexões. Organicom, v. 10, n. 19, p. 39-46, 2013.
- ROCHA, Paullini Mariele da Silva; BRASILEIRO, Fellipe Sá; MELO, Daniella Alves de; ALVES, Edvaldo Carvalho; ALMEIDA, Ana Margarida Pisco. Resiliência informacional e microcefalia: práticas digitais de busca por informação. Encontros Bibli: Revista Eletrônica de Biblioteconomia e Ciência da Informação, Florianópolis, v. 26, p. 1-22, 2021.
- SILVA, Mozart Linhares da.; ARAÚJO, Willian Fernandes. Biopolítica, racismo estrutural-algorítmico e subjetividade. Educação Unisinos, v. 24, n. 1, p. 1-20, 2020.
- SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022.
- SILVEIRA, Sergio Amadeu; SILVA, Tarcízio Roberto. Controvérsias sobre danos algorítmicos. Revista observatório, Palmas, v. 6, n. 4, p. 1-17, jul./set. 2020.
-
SNOW, Jacob. Amazon’s face recognition falsely matched 28 members of congress with mugshots Disponível em: https://www.aclu.org/news/privacy-technology/amazons-face-recognition-falsely-matched-28 Acesso em: 20 ago. 2022.
» https://www.aclu.org/news/privacy-technology/amazons-face-recognition-falsely-matched-28 - SURDEN, Harry. Machine learning and law. Washington Law Review, v. 89, n. 1, 2014.
-
TYSON, Christopher. Title VII of the civil rights act of 1964 Disponível em: <https://www.eeoc.gov/statutes/title-vii-civil-rights-act-1964> Acesso em: 18 ago. 2022.
» https://www.eeoc.gov/statutes/title-vii-civil-rights-act-1964 - VAN DIJCK, José. Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology. Surveillance & Society, v. 12, n. 2, p. 197-208, 2014.
-
WHITTAKER, Zack. Ring refuses to say how many users had video footage obtained by police. TechCrunch, 8 jun. 2021. Disponível em: https://techcrunch.com/2021/06/08/ring-police-warrants-neighbors/ Acesso em: 5 set. 2022
» https://techcrunch.com/2021/06/08/ring-police-warrants-neighbors/ -
WOOD, Matt. Thoughts On Machine Learning Accuracy. Aws News Blog, 27 jul. 2018. Disponível em: https://aws.amazon.com/pt/blogs/aws/thoughts-on-machine-learning-accuracy/ Acesso em: 25 ago. 2022.
» https://aws.amazon.com/pt/blogs/aws/thoughts-on-machine-learning-accuracy/ -
YORK, Chris. Three black teenagers: Is Google racist? Disponível em: https://www.huffingtonpost.co.uk/entry/three-black-teenagers-google-racism_uk_575811f5e4b014b4f2530bb5 Acesso em: 2 ago. 2022.
» https://www.huffingtonpost.co.uk/entry/three-black-teenagers-google-racism_uk_575811f5e4b014b4f2530bb5
Fonte: Huffington Post (2022).
Fonte: Huffington Post (2022).
Fonte: Nicolas Kayser-Bril no Twitter (2022).
Fonte: Facebook Lets Advertisers Exclude Users by Race (2022).
Fonte: Canaltech (2022).
Fonte: ACLU (2018).