SEMIOSES ALGORÍTMICAS E VIÉS RACIAL: UM ESTUDO DE IMAGENS CRIADAS PELA IA GENERATIVA

Algorithmic Semiosis and Racial Bias: A Study of Images Created by Generative AI

Objetivo:  Investigar a relação trirrelativa entre objeto, signo e interpretante no funcionamento de ferramentas de Inteligência Artificial (IA) generativa de imagens, com ênfase no enviesamento racial.

Método:  Pesquisa exploratória e qualiquantitativa, que empregou uma abordagem semiótica e crítica de conteúdo. Coleta de dados realizada em quatro etapas: 1) seleção de 10 ferramentas; 2) formulação de oito prompts textuais em inglês; 3) geração e armazenamento de 155 imagens; 4) categorização, análise dessas imagens e seleção de 47 dentre elas, para demonstração dos padrões e marcadores observados.

Resultados:  Predominância de um grupo étnico e social nas imagens geradas, ausência de marcadores de diversidade. Ao utilizar os prompts genéricos: “a man” e “a woman”, 90,9% das imagens de homens e 92% das de mulheres retratavam indivíduos brancos de classe média alta. Ao empregar prompts mais específicos: "a black man" e "a black woman" ,as imagens frequentemente replicavam estereótipos e características que reforçam preconceitos raciais e de classe.

Conclusões:  As IA generativas analisadas integram um novo ciclo de produção de realidades visuais que reflete, reproduz e amplifica dispositivos de racialidade já existentes. As imagens técnicas geradas por IA refletem relações de poder, bem como, marcadores da branquitude e do racismo, evidenciando como a tecnologia assistiva se entrelaça com as representações sociais e culturais em sua ação sígnica. O estudo auxiliou na desnaturalização das semioses algorítmicas ao demonstrar como o funcionamento das IA generativas revela implicações éticas e sociais que são orientadas por percepções de raça e alteridade, atravessadas por hierarquizações que contribuem para a geração de imagens de controle.

PALAVRAS-CHAVE:
Inteligência Artificial Generativa; Semiose Algorítmica; Racismo Algorítmico; Imagens Geradas por IA.