Discriminação algorítmica nas relações de trabalho e princípios da Lei Geral De Proteção De Dados

Algorithmic discrimination in labor relations and principles of the General Data Protection Law

Resumo

O artigo trata do tema da discriminação algorítmica, nas relações de trabalho e os limites principiológicos consubstanciados na Lei Geral de Proteção de Dados Pessoais (LGPD). As empresas delegam suas decisões a sistemas automatizados, decidindo quem será contratado e dispensado, monitorando a atividade dos trabalhadores e gerindo praticamente toda atividade empresarial. Assim, o problema da pesquisa é: a LGPD oferece limites principiológicos para impedir e/ou reduzir a possibilidade de discriminação dos trabalhadores por meio de algoritmos, especialmente de inteligência artificial? Para tanto, o texto está divido em três capítulos. No primeiro analisa-se como as tecnologias influenciaram as relações laborais. No segundo investigam-se os motivos pelos quais os algoritmos podem gerar discriminação a trabalhadores. No terceiro, examina-se a LGPD, verificando instrumentos que poderão contribuir para o deslinde do problema de pesquisa. Utiliza-se o método de abordagem dedutivo, a abordagem da pesquisa qualitativa e a técnica de pesquisa bibliográfica. Conclui-se que a LGPD oferece limites principiológicos para impedir e/ou reduzir a possibilidade de discriminação algorítmica, destacando-se os princípios da não discriminação, da transparência, da responsabilização e da prestação de contas, assim como o direito à explicação e a necessidade de se estabelecer sistemas de auditorias, garantindo maior igualdade às decisões automatizadas.

Palavras-chave
Relações de trabalho; Discriminação algorítmica; Lei Geral de Proteção de Dados Pessoais

Abstract

The article deals with the topic of algorithmic discrimination, in labor relations and the principled limits embodied in the General Personal Data Protection Law (LGPD). Companies delegate their decisions to automated systems, deciding who will be hired and fired, monitoring worker activity, and managing practically all business activity. Thus, the research problem is: does the LGPD offer principled limits to prevent and/or reduce the possibility of discrimination against workers through algorithms, especially artificial intelligence? To this end, the text is divided into three chapters. The first analyzes how technologies have influenced labor relations. In the second, the reasons why algorithms can generate discrimination against workers are investigated. In the third, the LGPD is examined, verifying instruments that could contribute to unraveling the research problem. The deductive approach method, the qualitative research approach and the bibliographic research technique are used. It is concluded that the LGPD offers principled limits to prevent and/or reduce the possibility of algorithmic discrimination, highlighting the principles of non-discrimination, transparency, responsability and accountability, as well as the right to explanation and the need to establish audit systems, ensuring greater equality in automated decisions.

Key words
Work relationships; Algorithmic discrimination; General Law for the Protection of Personal Data

1 INTRODUÇÃO

O presente artigo trata do tema da discriminação por meio de algoritmos, especialmente de inteligência artificial, nas relações de trabalho e os limites principiológicos consubstanciados na Lei Geral de Proteção de Dados Pessoais (LGPD).

A pesquisa se justifica tendo em vista que as tecnologias advindas, principalmente, das Terceira e Quarta Revoluções Industriais estão revolucionando o modo de viver e de trabalhar dos indivíduos. Sistemas de inteligência artificial já são realidade no âmbito das relações laborais. Empresas, no intuito de aumentar a produtividade e reduzir custos, estão investindo em novas tecnologias para o fim de automatizar suas linhas de produção, bem como a gestão empresarial, dando nova roupagem as relações de trabalho.

Em relação a contextualização do tema, os algoritmos digitais considerados como o conjunto de etapas destinadas a realização de uma tarefa por um computador (Cormen, 2014), estão presentes no cotidiano da sociedade e são utilizados para o monitorar o comportamento dos indivíduos (Hoffmann-Riem, 2021), seja nas atividades mais simples do seu dia a dia, seja nas suas atividades profissionais. As empresas, com o auxílio desses algoritmos e do uso massivo de dados (big data), já delegam suas decisões a sistemas automatizados, que decidem quem será contratado e dispensado, monitoram a atividade dos trabalhadores e gerem praticamente toda atividade empresarial, entre outros aspectos. Para que esses sistemas sejam mais precisos, objetivos e confiáveis necessitam de uma grande quantidade de dados, assim como uma boa qualidade dessas informações. A tutela jurídica de dados pessoais no Brasil é realizada especialmente pela LGPD, sendo que a Autoridade Nacional de Proteção de Dados (ANPD) é responsável por zelar pela proteção dos dados pessoais, elaborar diretrizes, fiscalizar e aplicar sanções, entre outros. Os dados pessoais são entendidos como projeções da personalidade e os dados que alimentam os sistemas são informados por uma sociedade que possui diversos preconceitos atávicos. Assim, o emprego massificado de tecnologias às relações de trabalho, em especial dos algoritmos de inteligência artificial, podem apresentar discriminação nas relações de trabalho.

Neste contexto, o problema da pesquisa é: a LGPD oferece limites principiológicos para impedir e/ou reduzir a possibilidade de discriminação dos trabalhadores por meio de algoritmos, especialmente de inteligência artificial?

Como hipóteses (possíveis respostas ao problema de pesquisa) tem-se: a) a LGPD não oferece limites principiológicos para impedir e/ou reduzir a possibilidade de discriminação dos trabalhadores por meio de algoritmos, especialmente de inteligência artificial; b) a LGPD oferece limites principiológicos para impedir e/ou reduzir a possibilidade de discriminação dos trabalhadores por meio de algoritmos, especialmente de inteligência artificial.

Os objetivos da pesquisa são: analisar a utilização das novas tecnologias nas relações laborais; estudar a discriminação algorítmica nas relações de trabalho; apreciar a Lei Geral de Proteção de Dados Pessoais (LGPD) no que tange a matéria.

Para tanto, no desenvolvimento, o texto está divido em três capítulos. No primeiro capítulo analisa-se como as novas tecnologias influenciaram as relações laborais ao longo do tempo, apontando algumas consequências relacionadas ao uso massificado dessas ferramentas tecnológicas advindas, principalmente, da Quarta Revolução Industrial, aos trabalhadores.

No segundo capítulo investigam-se os motivos pelos quais os algoritmos, especialmente de inteligência artificial, podem gerar discriminação a trabalhadores nas relações de trabalho.

No terceiro capítulo, examina-se a Lei Geral de Proteção de Dados Pessoais (Lei n. 13.709/2018) em relação ao tema do presente trabalho, assim como o papel da ANPD, analisando alguns instrumentos constantes na LGPD e demais regulamentações publicadas pela Autoridade Nacional de Proteção de Dados, que poderão contribuir para o deslinde do problema de pesquisa apontado.

Partindo-se de conceitos gerais, para aplicá-los na resolução de um problema mais específico, utiliza-se no presente trabalho do método de abordagem dedutivo. A abordagem da pesquisa se dá pelo modelo qualitativo, na medida em que se buscará o entendimento do fenômeno em seu próprio conceito. A técnica de pesquisa é bibliográfica, consubstanciada na revisão de livros, artigos e legislação.

2 NOVAS TECNOLOGIAS APLICADAS ÀS RELAÇÕES LABORAIS

As tecnologias sempre impactaram a evolução do direito do trabalho. Desde a primeira revolução industrial o mundo vive em constante inovação tecnológica (Moreira, 2010). As tecnologias sempre trouxeram mudanças aos processos de produção (Castells, 2005), inclusive a utilização de novas tecnologias nos sistemas produtivos é uma característica do Direito do Trabalho (Moreira, 2010). Pode-se observar essas transformações do sistema laboral a partir da tecnologia com a invenção da máquina à vapor que, durante a Primeira Revolução Industrial, proporcionou o desenvolvimento do sistema fabril. O capitalismo, aliado ao progresso tecnológico¹ a partir do final do século XVIII, permitiu uma crescente industrialização² nos países mais desenvolvidos. A difusão do trabalho mecanizado e a organização fabril caracterizaram cada vez mais a vida industrial (Hueck; Nipperdey, 1963). Nesse sentido, Coimbra e Araújo (2009) referem que a fase da Revolução Industrial trouxe novas formas de produção de consumo tendo em vista “a produção de bens aumentos em escala geométrica em função das novas tecnologias, em especial pela intensa mecanização do processo produtivo”.

Já a Segunda Revolução Industrial - a partir da segunda metade do século XIX - possibilitou a eletrificação das fábricas³, permitindo a criação da cadeia de montagem, caracterizada pelo fluxo constante e mecanizado de produção de bens (Moreira, 2010), o que propiciou o aumento da produção de bens em massa (Rifkin, 2016). Foi durante esse período que se desenvolveram os clássicos modelos taylorista⁴ e fordista⁵ de trabalho, com a racionalização da produção massificada, com o objetivo de acelerar a produção.

Com o advento da Terceira Revolução Industrial⁶, também denominada Revolução Tecnológica, a capacidade de armazenar, processar e transmitir informações revolucionou as indústrias e a vida profissional de inúmeros trabalhadores (Schwab; Davis, 2019). As novas ferramentas tecnológicas, que passaram a ser amplamente difundidas, impactaram significativamente as relações de trabalho. Ou seja, o tradicional modelo fordista “foi substituído por um sistema em que a organização do trabalho é marcada pela circulação de informação transversal e rápida, suplantando a organização hierárquica vertical típica daquele modelo” (Moreira, 2010, p. 414).

Foram as tecnologias criadas e difundidas na Terceira Revolução Industrial⁷, como por exemplo a Internet, que permitiram o surgimento da denominada Revolução 4.0⁸, ou ainda, Quarta Revolução Industrial, que está modificando sobremaneira o modo de viver e de trabalhar da sociedade, isto é, a inteligência artificial, a computação em nuvem (cloud computing), a realidade virtual e aumentada, a Internet das Coisas (IoT) e, principalmente, os dados, estão expandindo ainda mais as indústrias, ampliando a capacidade da tomada de decisões pelas empresas e permitindo a gestão empresarial através de algoritmos (Schwab; Davis, 2019).

No tocante à gestão das relações laborais, pode-se dizer que o empregador possui os poderes de direção, de organização, de fiscalização e de disciplina, ao passo que os trabalhadores devem prestar os serviços para os quais foram contratados, de acordo com as ordens, as normas e as instruções ditadas pelo empregador (Cabanellas, 1949). Porém, com a utilização massificada dos algoritmos na gestão das relações de trabalho o empregador deixa de ser aquele que “admite, assalaria e dirige a prestação pessoal de serviço” (Brasil, 1943), delegando tais poderes aos algoritmos. Ou seja, as novas tecnologias possuem um caráter ambivalente, servindo como instrumento para desempenhar a atividade produtiva e como mecanismo de controle da prestação de trabalho (Moreira, 2010).

O emprego das novas tecnologias no âmbito das relações de trabalho “está promovendo o fim da mão de obra em massa assalariada no setor de manufatura e serviços, e o fim do trabalho profissional especializado em grande parte das áreas de conhecimento” (Rifkin, 2016, p. 159). Além disso, como alerta Wolfgang Däubler (2003, p. 211), o emprego das novas tecnologias de informação está provocando “pontos de atrito entre o direito e a realidade”, com o fracionamento do processo produtivo, esvaziamento das normas trabalhistas, surgimento das figuras do trabalho flexível em tempo parcial e dos contratos por prazo determinado, e o aumento do desemprego em massa.

Ainda, como analisado acima, algoritmos de IA já realizam a seleção e o recrutamento de trabalhadores, monitoram a atividade dos prestadores de serviço em tempo integral e procedem à perfilização (profiling) de seus colaboradores⁹. Isto é, o uso dessas tecnologias está modificando o cenário laboral e de certa forma está modificando o papel do trabalhador e do empregador nas relações laborais. A título de ilustração veja-se o trecho abaixo:

Steohen Normandim passou quase quatro anos em Phoenix, Arizona, entregando pacotes como motorista contratado para a Amazon.com. Então, um dia, ele recebeu um -e-mail automático. Os algoritmos que o rastreavam decidiram que ele não estava fazendo seu trabalho corretamente (O Globo).

O trecho citado que parece ter sido retirado de um livro de ficção científica, foi veiculado no jornal “O Globo” e retrata a utilização de algoritmos pelas empresas, para contratar, fiscalizar e dispensar os trabalhadores.

Dessa forma, a utilização massificada dos algoritmos de inteligência artificial na gestão das relações de trabalho faz surgir questionamentos sobre a possibilidade de haver discriminação nas relações de trabalho.

3 MOTIVOS DA DISCRIMINAÇÃO ALGORÍTMICA NAS RELAÇÕES DE TRABALHO

A gestão das relações de trabalho por algoritmos de inteligência artificial é realidade em muitas empresas. No entanto, apesar de existir a promessa de que os algoritmos de inteligência artificial sejam neutros, eficientes e infalíveis, sua estrutura possui limitações significativas, podendo apresentar falhas que muitas vezes são imprevisíveis.

Teresa Coelho Moreira (2022, p. 223) alerta que “essa neutralidade é, no entanto, uma ilusão”, pois os algoritmos não são tão imparciais quanto parecem, ensejando o risco de discriminação. Discriminação no sentido original da palavra é diferenciação, separação, individualização. Porém, no século XX, a palavra ganhou sentido negativo, passando a ser entendida como um tratamento desigual, que estabelece uma desvantagem ou uma depreciação injustificada (Silva, 2020). Assim, discriminação em sentido negativo¹⁰, conforme detalha Luciane Cardoso Barzotto (2012) é “qualquer distinção, exclusão, ou preferência, baseada em motivo de raça, cor, sexo, religião, opinião política, ascendência nacional ou origem social que tenha por efeito anular ou alterar a igualdade de oportunidades, ou de tratamento”.

A discriminação estudada no presente texto é a discriminação algorítmica. A discriminação algorítmica pode ser sistematizada da seguinte forma: a) discriminação por erro estatístico, considerada aquela decorrente de erros cometidos por profissionais responsáveis pelo desenho do algoritmo; b) discriminação pelo uso de dados pessoais sensíveis, que têm o condão de gerar perfilamento discriminatório de grupos tradicionalmente discriminados; c) discriminação por generalização injusta, em que apesar das informações utilizadas serem genuínas, a generalização decorrente da decisão automatizada é considerada injusta, pois permite a classificação de certos grupos de maneira equivocada; d) discriminação limitadora do exercício de direitos, em que as informações utilizadas pelo algoritmo e a realização de um direito, podem levar à exclusão de alguns grupos (Mendes; Mattiuzo; Fujimoto, 2020).

Dentre os exemplos de discriminação algorítmica que causam danos aos trabalhadores, David Sumpter (2019) demonstra que os algoritmos dos sites de busca de empregos nos EUA favorecem os homens, ao direcionar anúncios de empregos com salários a partir de US$ 200 mil por ano, para cargos executivos, ao passo que para as mulheres são direcionados anúncios genéricos, com salários mais baixos. Cathy O’Neil (2020) em seu livro “Algoritmos de destruição em massa” cita como exemplo o caso do jovem Kyle Behm, que deixou de ser chamado para uma entrevista, pois foi barrado por um teste de personalidade automatizado, considerado mau previsor de performance no trabalho. Talvez o caso mais paradigmático de discriminação algorítmica nas relações laborais seja o da empresa Amazon, que em 2014 passou a utilizar um sistema de inteligência artificial para revisar e selecionar currículos, o qual discriminava mulheres. Segundo a empresa, o software alimentado com os currículos dos últimos 10 anos (em sua maioria de homens), aprendeu que era preferível selecionar pessoas do gênero masculino, penalizando os currículos do gênero feminino (Dastin, 2018).

No entanto, levando-se em consideração que essas tecnologias foram criadas justamente para trazer maior confiabilidade aos sistemas informatizados, fica a indagação: como os algoritmos se tornam discriminatórios? Um dos motivos é o fato de que as informações que alimentam os sistemas de inteligência artificial têm por base uma sociedade que possui preconceitos atávicos. No dizer de Teresa Coelho Moreira, “refletem muitas vezes os preconceitos que existem no mundo real e que também existem nos programadores e nos clientes” (Moreira, 2022, p. 222-223).

Os algoritmos são considerados construções humanas, pois são criados, programados e treinados por pessoas (Moreira, 2022). O racismo está inserido na indústria tecnológica, pois tanto o aprendizado de máquina (machine learning), quanto os conjuntos de conjuntos de dados (big data) que o compõem, apresentam vieses raciais, econômicos e de gêneros (Benjamin, 2019). Isto contribui para a ocorrência de discriminação, bem como reforça a marginalização dos grupos minoritários, pois impede que tenham acesso a cargos mais elevados e a determinadas empresas (Gebru, 2020). Nesta linha, arremata Teresa Coelho Moreira (2022, p. 227): “os algoritmos são treinados com dados históricos. Se esses dados forem tendenciosos contra certos indivíduos ou grupos, o algoritmo replicará o viés humano e aprenderá a discriminá-los”.

Outro motivo que leva à discriminação algorítmica é a utilização de dados pessoais sensíveis pelos sistemas automatizados. Nos termos do artigo 5º da LGPD (Lei n. 13.709/2018), são dados pessoais sensíveis aqueles “sobre origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado à pessoa natural” (Brasil, 2018). São informações pessoais poderosas, com alto potencial discriminatório. Segundo Lindoso (2021), a interpretação do rol de dados pessoais sensíveis constantes na LGPD deve se dar de maneira extensiva, pois existem dados que apesar de não estarem especificados diretamente na lei, carregam conteúdo potencialmente discriminatório, quando inserido no contexto de cruzamentos de informações pelos sistemas de machine learning, como por exemplo o gênero, nos casos acima relatados de seleção de trabalhadores por softwares.

Além disso, os algoritmos que alimentam os sistemas de inteligência artificial, são considerados secretos, isto é, verdadeiros segredos industriais (Frazão; Goettenauer, 2021), ou ainda, como denomina Frank Pasquale (2015), caixas pretas (black boxes), o que dificulta a identificação de vieses discriminatórios. Um dos questionamentos relacionados aos sistemas de autoaprendizagem diz respeito ao fato de que a “transparência dos métodos utilizados e, consequentemente, dos resultados alcançados, fica deslocada, abrindo espaço para uma opacidade típica de sistemas autoritários não regulados” (Mulholland; Frajhof, 2019, p. 273). A falta de transparência, dentre outros aspectos, pode conduzir à discriminação de trabalhadores.

Os fatos sociais (fontes materiais) sobre o assunto estão exemplificativamente postos acima. Necessita-se de regulamentação, limitação e detalhamentos. As normas jurídicas (fontes formais) são chamadas.

4 A LEI GERAL DE PROTEÇÃO DE DADOS PESSOAIS COMO LIMITADOR DA GESTÃO ALGORÍTMICA PATRONAL

As fontes formais trabalhistas no Brasil dão contornos gerais (na Constituição, na CLT e em leis esparsas que vedam a discriminação nas relações de trabalho¹¹) não tendo sido pensadas para regular as novidades trazidas pela gestão de empreendimentos por sistemas de inteligência artificial alimentados por algoritmos. Impõe-se o diálogo das fontes¹², autorizado pelo art. 8º da CLT.

A Constituição da República Federativa do Brasil (art. 5º, inciso LXXIX, incluído pela Emenda Constitucional n. 115/2022), assegurando, nos termos da lei (infraconstitucional), o direito à proteção dos dados pessoais, inclusive nos meios digitais, incluindo a proteção de dados pessoais entre os direitos e garantias fundamentais e fixando a competência privativa da União para legislar sobre proteção e tratamento de dados pessoais.

No âmbito infraconstitucional a Lei 13.709/2018 (alterada posteriormente, com destaque para a Lei 13.853/2019), chamada de Lei Geral de Proteção de Dados Pessoais (LGPD), dispõe sobre o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado, com o objetivo de proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural. Além da LGPD, é importante destacar a criação da Autoridade Nacional de Proteção de Dados (ANPD) pela Medida Provisória 869/2018, convertida na Lei 13.853/2019, que foi transformada em autarquia de natureza especial¹³ em 2022, por meio da Medida Provisória 1124, convertida na Lei 14.460/2022. Nesse sentido, cumpre salientar que a ANPD é um órgão de interpretação da LGPD, que tem competência para estabelecer normas e diretrizes para a sua implementação, buscando a proteção dos dados pessoais de todos os brasileiros¹⁴.

Adverte Palma Ramalho (2015, p. 531-532) que a aplicação de normas civis no sistema laboral deve passar por um filtro de compatibilidade, devendo a norma civilista revelar “aptidão social” para poder ser aplicada no direito do trabalho. Nesta linha de compatibilidade o empregador, nos termos do artigo 5º, inciso VI, da Lei 13.709/2018 é considerado controlador para fins de tratamento de dados pessoais e aplicam-se as relações de trabalho as normas sobre proteção de dados pessoais.

Para a presente pesquisa merecem destaque os fundamentos da disciplina da proteção de dados pessoais elencados no art. 2º da Lei 13.709/2018¹⁵ e os princípios que as atividades de tratamento de dados deverão observar, além do princípio da boa-fé¹⁶ (art. 6º da Lei 13.709/2018¹⁷). Destaca-se, nesse sentido, que a aplicação dos princípios enumerados na lei tem como objetivo a proteção dos direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade das pessoas, em razão da posição de desigualdade entre os titulares de dados e os responsáveis pelo seu tratamento. Considerando os limites do presente artigo elegeu-se três princípios gerais de proteção de dados para serem abordados: o princípio da não discriminação; o princípio da transparência; e, o princípio da responsabilização e prestação de contas.

Pelo princípio da não discriminação, é vedada a realização de tratamento de dados pessoais para fins discriminatórios ilícitos ou abusivos. O referido princípio tem como objetivo “a garantia de tratamento igual entre as pessoas e o respeito às diferenças entre elas” (Carloto, 2023, p. 40)¹⁸. Considera-se discriminação ilícita aquela praticada em face de grupos que ao longo da história foram alvo de preconceito e que por este motivo são considerados vulneráveis, ao passo que a discriminação considerada abusiva, é a que afronta os princípios da Constituição Federal e da Lei Geral de Proteção de Dados Pessoais (Mendes; Mattiuzo; Fujimoto, 2020). Nesta linha asseveram Caitlin Mulholland e Isabella Z. Frajhof (2019, p. 269):

[...] o princípio da não discriminação (art. 6º, IX) deve ser refletido em todas as circunstâncias em que o uso de dados, sejam sensíveis ou não, gere algum tipo de desvalor ou indução a resultados que seriam inequitativos. Esse princípio deve servir como base de sustentação da tutela dos dados pessoais sensíveis, especialmente quando estamos diante do exercício democrático e do acesso a direitos sociais, tais como o direito do trabalho, à saúde e à moradia.

A categoria de dados pessoais sensíveis possui íntima relação com o princípio da não discriminação, tendo em vista que os referidos dados possuem maior potencial discriminatório. Ou seja, o tratamento dos dados pessoais sensíveis é relevante, pois a qualidade e a natureza dessas informações podem levar a discriminações ilícitas ou abusivas. Chiara Spadaccini de Teffé (2022, p. 258) afirma que “o tratamento de dados sensíveis por parte, por exemplo, de empregadores, recrutadores, companhias seguradoras, planos de saúde ou governos, se não observadas salvaguardas adequadas, poderá ampliar cenários de violações a direitos”.

Pela sua importância a LGPD dedicou aos dados pessoais sensíveis uma base legal mais restritiva que aquela dos dados pessoais em geral¹⁹, ressalvando expressamente no artigo 11, §1º, que se aplica esse tratamento mais restritivo “a qualquer tratamento de dados pessoais que revele dados pessoais sensíveis e que possa causar dano ao titular” (Junqueira, 2020). Acerca do assunto, Maria Cristine Branco Lindoso (2021, p. 71), leciona que a LGPD “impõe, para o tratamento, compartilhamento ou divulgação dos dados pessoais sensíveis, o consentimento do usuário de forma específica e destacada”, além de vedar o compartilhamento desses dados em certas situações, principalmente, quando houver vantagem econômica, reforçando a escolha do legislador de proteger a individualidade do usuário, em oposição à lógica do mercado.

Oportuno salientar, ainda, que a Resolução CD/ANPD n. 2, de 27 de janeiro de 2022, ao estabelecer o conceito de tratamento de dados pessoais de alto risco, elencou dentro os critérios específicos, a utilização de dados pessoais sensíveis²⁰. Além disso, os temas “inteligência artificial e tratamento de dados pessoais” e “tratamento de dados pessoais de forma discriminatória (ilícitas ou abusivas)” foram considerados pela Nota Técnica nº 19/2023/FIS/CGF/ANPD²¹ como prioritários para fins de estudos e planejamento das atividades de fiscalização no biênio 2024/2025 (ANPD, 2023b). A nota técnica é enfática ao destacar que, com relação ao tratamento de dados pessoais no escopo de inteligência artificial, tendo em vista as incertezas que envolvem a temática, é necessário definir parâmetros e orientações, bem como identificar potenciais riscos no tratamento de dados pessoais no âmbito de inteligências artificiais, com o objetivo de subsidiar propostas futuras de atuação da ANPD (ANPD, 2023a).

A atividade de tratamento, portanto, somente será lícita se puder ser enquadrada em uma base legitimadora constante no artigo 7º para dados pessoais, ou no artigo 11, para dados pessoais sensíveis, devendo ainda estarem presentes todos os princípios do artigo 6º, inclusive o princípio da não discriminação (Carloto, 2023).

Nesta trilha, de acordo com o Grupo Independente de Peritos de Alto Nível sobre a Inteligência Artificial (GPAN IA, 2019), criado pela Comissão Europeia, uma inteligência artificial ética e sólida deve respeitar os direitos fundamentais, dentre eles a igualdade²², a não discriminação e a solidariedade. Os sistemas de IA devem assegurar, portanto, respeito igualitário e dignidade a todos os seres humanos, de modo que suas operações não gerem resultados injustamente tendenciosos. Ademais, nos termos da Convenção n. 111, da Organização Internacional do Trabalho (1960), os Estados-membros devem formular e aplicar uma política nacional com o objetivo de promover a igualdade de oportunidades e de tratamentos em matéria de emprego e profissão, eliminando-se toda discriminação nesse aspecto.

Outro princípio que elegeu-se abordar é o da transparência (art. 6º, inciso VI) que garante aos titulares de dados pessoais o acesso ao direito à explicação, consubstanciada em informações claras, precisas e facilmente acessíveis acerca da realização do tratamento e dos agentes de tratamento (Souza; Perrone; Magrani, 2020). Esse princípio, portanto, abrange a transparência “dos elementos relevantes para um sistema de IA: os dados, o sistema e os modelos de negócio” (Moreira, 2022, p. 232). Cumpre salientar, nesse aspecto, que o princípio da transparência busca proporcionar “que o titular consiga identificar, de maneira cristalina, a legalidade, a legitimidade e a segurança do tratamento de dados pessoais, garantindo a confiança e a compreensão das pessoas a respeito dos procedimentos realizados”, permitindo dessa maneira que os titulares de dados exerçam seus direitos (Basan, 2022, p. 143)

Intimamente relacionado ao princípio da transparência, o artigo 20 da lei prevê como mecanismo de proteção a revisão das decisões automatizadas “que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade” (Brasil, 2018). Note-se que o referido dispositivo legal aborda duas questões, a primeira relativa à tomada de decisões automatizadas que afetam os interesses de maneira geral, e a segunda relacionada a decisões automatizadas específicas na definição de perfis (Goulart, 2022).

De igual maneira, o § 1º, do artigo 20, disciplina o direito à explicação, fundado na necessidade de prestar informações aos titulares de dados pessoais, relativas aos critérios e procedimentos utilizados nas decisões automatizadas (Souza; Perrone; Magrani, 2020), possuindo uma notável importância ao combate à discriminação algorítmica, tendo em vista que uma das funções de direito é garantir a transparência necessária capaz de revelar as práticas discriminatórias (Junqueira, 2020). Acerca do assunto Goulart (2022, p. 501) assevera:

[...] Se o titular solicitar informações sobre os critérios adotados para a tomada de decisão, com base até no princípio da transparência, o agente de tratamento deverá fornecer essas informações, além de uma explicação clara e compreensível para o titular de como se chegou àquela decisão por ele contestada. Isso significa que o responsável pelo tratamento, ao fornecer as “informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados”, deverá explicá-las para o titular e, ao mesmo tempo, deverá comprovar que a decisão por ele tomada cumpriu com tais requisitos. Ora, tal determinação leva à constatação de que há a necessidade da participação de pessoa natural neste processo, até para explicar e contextualizar para o titular dos dados a forma com que aquela decisão foi tomada. Ao mesmo tempo, essa explicação “adequada” passa por comprovar para o titular que a decisão foi acertada, o que significa que, se ele não conseguir fazer essa comprovação, deve-se entender que a decisão automatizada não foi acertada. Nessa linha de raciocínio, o que se vê é que ainda há a necessidade da participação de pessoa natural para fazer essas articulações e verificações.

Goulart (2022) destaca, igualmente, que o direito à explicação constante no § 1º, do art. 20, da LGPD, é importante para a aplicação do princípio da não discriminação, pois possibilita ao titular de dados exigir informações acerca dos critérios e procedimentos utilizados, verificando se estão ou não sendo ilicitamente discriminado.

Outro princípio que elegeu-se analisar é o princípio da responsabilização e prestação de contas²³, que também desempenha papel importante na mitigação da discriminação algorítmica. Previsto no artigo 6º, inciso X, esse princípio “encontra seu significado na exigência de comprovação, pelo agente, da adoção de medidas eficazes e capazes de comprovar a observância e o cumprimento das normas de proteção de dados pessoais e, inclusive, da eficácia dessas medidas” (Martins, 2020). Nesse sentido, o artigo 50, prevê, a obrigatoriedade de programas de compliance em relação aos agentes de tratamento de dados, com a adoção de programas de governança. Pode-se dizer que o compliance volta-se “à verificação reiterada de higidez dos acervos que alimentam algoritmos de Inteligência Artificial” (Faleiros Júnior, 2021, p. 993), conferindo maior proteção aos sujeitos no tocante à discriminação.

O artigo 42, de igual maneira, prevê a responsabilização do controlador ou operador que em razão do exercício de atividade de tratamento de dados pessoais que cause danos a outrem²⁴. Assim como, o artigo 44 determina que o tratamento de dados pessoais será irregular quando deixar de observar a legislação ou quando não fornecer a segurança que o titular dele pode esperar. Esse dever de segurança vem insculpido, igualmente, no artigo 46, da LGPD²⁵, e possui caráter cogente, de forma que inexiste possibilidade para um juízo de conveniência e oportunidade pelo agente de tratamento (Mondenesi, 2022). Cumpre destacar, também, que o § 2º, do artigo 46, ao determinar que as medidas de segurança devem ser implementadas desde a fase de concepção do produto ou serviço, positivou a privacy by design no ordenamento jurídico, garantindo que a proteção da privacidade e o controle das informações pelos sujeitos, estejam incorporados à arquitetura dos dispositivos tecnológicos (Mondenesi, 2022).

Conforme já salientava De La Cueva (1954), a sociedade não está obrigada a realizar o destino de cada homem, porém deve colocar à disposição os meios necessários para que a pessoa humana realize o seu destino de forma digna. Em outras palavras, a utilização das ferramentas tecnológicas não pode transformar os indivíduos em meras mercadorias, é necessário explorar o potencial do processo tecnológico para o fim de alcançar o trabalho digno, bem como o desenvolvimento sustentável, garantindo “a dignidade, a realização pessoal e que os seus benefícios sejam equitativamente partilhados entre todas as pessoas” (OIT, 2019).

A regulação do tratamento de dados pessoais, aliada a vedação expressa à discriminação abusiva e ilícita e aos princípios gerais de proteção de dados são importantes no combate à discriminação algorítmica (Mendes; Mattiuzzo; Fujimoto, 2020). A prevenção é fundamental. Conforme Thiago Junqueira, “a ligação entre proteção de dados e prevenção da discriminação é intuitiva”, pois os mecanismos de proteção de dados fornecidos pela lei são essenciais para minimizar os tratamentos discriminatórios advindos de sistemas automatizados (Junqueira, 2020).

5 CONCLUSÃO

Conclui-se que a LGPD oferece limites principiológicos para impedir e/ou reduzir a possibilidade de discriminação dos trabalhadores por meio de algoritmos, especialmente de inteligência artificial, destacando-se o princípio da não discriminação, o princípio da transparência, e, o princípio da responsabilização e prestação de contas. Dentre os instrumentos hábeis para o fim de impedir e/ou mitigar a ocorrência de enviesamento algorítmico causador de discriminação aos trabalhadores na relação de trabalho assinalam-se o direito à explicação e a necessidade de se estabelecer sistemas de auditorias, garantindo maior igualdade às decisões automatizadas.

Trata-se de princípios específicos da LGPD aplicáveis as relações de trabalho, autorizados pelo art. 8º da CLT e compatíveis com o direito do trabalho, na trilha do necessário diálogo das fontes, destacando-se que a proteção de dados pessoais foi incluída no rol dos direitos e garantias fundamentais da Constituição Federal (art. 5º, inciso LXXIX, incluído pela Emenda Constitucional 115/2022). Aos direitos sociais fundamentais dos trabalhadores a não discriminação (art. 7º, incisos XXX, XXXI e XXXII da Constituição Federal) soma-se o direito e garantia fundamental da proteção de dados pessoais dos indivíduos em suas relações de trabalho também. A tais direitos fundamentais agrega-se no âmbito infraconstitucional o princípio da não discriminação previsto na LGPD, constatando-se que as portas jurídicas estão conjuntamente fechadas para a discriminação por algoritmos.

Portanto, os direitos e garantias fundamentais dos trabalhadores agora incluem não apenas a proteção contra a discriminação, mas também o direito à proteção de seus dados pessoais nas relações de trabalho. No âmbito infraconstitucional, o princípio da não discriminação da LGPD reforça essa proteção, assegurando que os trabalhadores não sejam prejudicados por decisões automatizadas enviesadas. Adicionalmente, a ANPD desempenha papel fundamental na interpretação e aplicação das normas da LGPD. Além de zelar pela proteção dos dados pessoais no Brasil, é responsável pela elaboração de diretrizes, fiscalização, aplicação de sanções, entre outros, contribuindo para a mitigação de danos aos titulares de dados.

REFERÊNCIAS

• ANPD. Resolução CD/ANPD n. 2, de 27 de janeiro de 2022. Aprova o Regulamento de aplicação da Lei nº 13.709, de 14 de agosto de 2018, Lei Geral de Proteção de Dados Pessoais (LGPD), para agentes de tratamento de pequeno porte. 2022. Disponível: https://www.gov.br/anpd/pt-br/documentos-e-publicacoes/regulamentacoes-da-anpd/resolucao-cd-anpd-no-2-de-27-de-janeiro-de-2022 Acesso em: 15 ago. 2024.
  » https://www.gov.br/anpd/pt-br/documentos-e-publicacoes/regulamentacoes-da-anpd/resolucao-cd-anpd-no-2-de-27-de-janeiro-de-2022
• ANPD. Nota técnica n. 19/2023/FIS/CGF/ANPD. 2023b. Disponível em: https://www.gov.br/anpd/pt-br/documentos-e-publicacoes/documentos-de-publicacoes/nota-tecnica-no-19-2023-fis-cgf-anpd.pdf Acesso em: 15 ago. 2024.
  » https://www.gov.br/anpd/pt-br/documentos-e-publicacoes/documentos-de-publicacoes/nota-tecnica-no-19-2023-fis-cgf-anpd.pdf
• ANPD. Resolução CD/ANPD n. 10, de 5 de dezembro de 2023. Aprova o Mapa de Temas Prioritários para o biênio 2024-2025 e dispõe sobre a periodicidade do Ciclo de Monitoramento. 2023a. Disponível em: https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-10-de-5-de-dezembro-de-2023-530258528 Acesso em: 15 ago. 2023.
  » https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-10-de-5-de-dezembro-de-2023-530258528
• ANPD. Resolução CD/ANPD n. 11, de 27 de dezembro de 2023. Altera a Agenda Regulatória para o biênio 2023-2024. 2023c. Disponível em: https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-11-de-27-de-dezembro-de-2023-534947737 Acesso em: 15 ago. 2024.
  » https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-11-de-27-de-dezembro-de-2023-534947737
• ANPD. Resolução CD/ANPD n. 18, de 16 de julho de 2024. Aprova o Regulamento sobre a atuação do encarregado pelo tratamento de dados pessoais. 2024. Disponível em: https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-18-de-16-de-julho-de-2024-572632074 Acesso em: 15 ago. 2024.
  » https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-18-de-16-de-julho-de-2024-572632074
• BARZOTTO, Luciane Cardoso. Igualdade e discriminação no ambiente de trabalho. In. BARZOTTO, Luciane Cardozo (Coord.). Trabalho e igualdade: tipos de discriminação no ambiente de trabalho [livro eletrônico]. Porto Alegre: Livraria do Advogado, 2012.
• BARZOTTO, Luciane Cardoso; LANNER, Maíra Brecht. Declaração do centenário da Organização Internacional do Trabalho e a proteção do trabalhador digital no paradigma da fraternidade. In BREDA, Luciele; LANNER, Maíra Brecht. Fraternidade, tecnologia e Direitos Humanos: uma homenagem à Profª Luciane Cardoso Barzotto pelas contribuições para o direito do trabalho. Curitiba: Appris, 2020.
• BASAN, Arthur Pinheiro. Art. 5. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.
• BENJAMIM, Ruha. Race after technology: abolitionist tools for the new Jim Code [livro eletrônico]. Cambridge: Polity Press, 2019.
• BRASIL. Decreto-lei n. 5.452, de 1º de maio de 1943. Aprova a Consolidação das Leis do Trabalho. 1943. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto-lei/del5452.htm Acesso em: 10 abr. 2022.
  » http://www.planalto.gov.br/ccivil_03/decreto-lei/del5452.htm
• BRASIL. Lei n. 9.029, de 13 de abril de 1995. Proíbe a exigência de atestados de gravidez e esterilização, e outras práticas discriminatórias, para efeitos admissionais ou de permanência da relação jurídica de trabalho, e dá outras providências. 1995. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l9029.htm Acesso em: 15 ago. 2024.
  » https://www.planalto.gov.br/ccivil_03/leis/l9029.htm
• BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm Acesso em: 20 abr. 2022.
  » http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm
• BRASIL. Lei n. 13.853, de 8 de julho de 2019. Altera a Lei nº 13.709, de 14 de agosto de 2018, para dispor sobre a proteção de dados pessoais e para criar a Autoridade Nacional de Proteção de Dados; e dá outras providências. 2019. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/lei/L13853.htm Acesso em: 15 ago. 2024.
  » https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/lei/L13853.htm
• BRASIL. Lei n. 14.460, de 25 de outubro de 2022. Transforma a Autoridade Nacional de Proteção de Dados (ANPD) em autarquia de natureza especial e transforma cargos comissionados; altera as Leis nºs 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), e 13.844, de 18 de junho de 2019; e revoga dispositivos da Lei nº 13.853, de 8 de julho de 2019. 2022.Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2022/Lei/L14460.htm#art9 Acesso em: 15 ago. 2024.
  » https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2022/Lei/L14460.htm#art9
• CABANELLAS, Guillermo. Tratado de derecho laboral. Buenos Aires: El Grafico, 1949, tomo II.
• CARLOTO, Selma. Discriminação Algorítmica em Processos Seletivos Eletrônicos e uma Metodologia para Eliminação de Vieses Discriminatórios. Leme, SP: Editora Mizuno, 2023.
• CASTELLS, Manuel. A sociedade em rede. 8. ed. São Paulo: Paz e Terra, 2005.
• COIMBRA, Rodrigo; ARAÚJO, Franciso Rossal de. Direito do Trabalho. 2.ed. São Paulo: Ltr, 2021.
• COIMBRA, Rodrigo; ARAÚJO, Franciso Rossal de. Direito do trabalho: evolução do modelo normativo e tendências atuais na Europa. Revista Ltr: legislação do trabalho, São Paulo, v. 73, n. 8, p. 953-962, ago. 2009.
• CORMEN, Thomas H. Desmistificando algoritmos. Rio de Janeiro: Elsevier, 2014.
• DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool thet showed bias against women. Reuters. 10. out. 2018. Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G Acesso em: 20 abr. 2022.
  » https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
• DÄUBLER, Wolfgang. A flexibilidade do direito do trabalho na Alemanha. Revista de direito do trabalho, São Paulo, v. 29, n. 111, p. 210-228. jul./set. 2003.
• DE MASI, Domenico. O futuro chegou [livro eletrônico]. Rio de Janeiro: Cia da Palavra, 2013.
• DEVEALI, Mario L. Lineamientos de derecho del trabajo. 2. ed. Buenos Aires: Tipografica Editora, 1953.
• DORNELES, Leandro do Amaral D. de. Teoria Geral Clássica do Direito do Trabalho e Sociedade Pós-Industrial: Faces de uma Crise e Perspectivas para Superação. In. FINCATO, Denise Pires; VIDALETTI, Leiliane Piovesani (Orgs.). Novas Tecnologias, Processo e Relações de Trabalho III. Porto Alegre: Magister, 2019.
• FALEIROS JÚNIOR, José Luiz de Moura. Discriminação por algoritmos de inteligência artificial: a responsabilidade civil, os vieses e o exemplo das tecnologias baseadas em luminâncias. In. BARBOSA, Mafalda Miranda, et. al Direito digital e inteligência artificial: diálogos entre Brasil e Europa. Indaiatuba: Foco, 2021.
• FONTANELA, Cristiani; SANTOS, Maria Isabel dos Santos Araújo Silva dos; ALBINO, Jaqueline da Silva. A sociedade 5.0 como instrumento de promoção dos direitos sociais no Brasil. Justiça do Direito, v. 34, n. 1, p. 29-56, 30 abr. 2020, p. 43. Disponível em: http://seer.upf.br/index.php/rjd/article/view/10904 Acesso em: 20 abr. 2022.
  » http://seer.upf.br/index.php/rjd/article/view/10904
• FORD, Martin. Rise of the robots: technology and the threat of a jobless future [livro eletrônico]. Philadelphia: Basic Books, 2015.
• FRAZÃO, Ana; GOETTENAUER, Carlos. Black box e o direito face à opacidade algorítmica. In.: BARBORSA, Mafalda Miranda; BRAGA NETTO, Felipe; FALEIROS JÚNIOR, José Luiz de Moura (Coords). Direito digital e Inteligência Artificial: diálogos entre Brasil e Europa. Indaiatuba: Foco , 2021.
• GEBRU, Timnit. Race and Gender. In. DUBBER, Markus D.; PASQUALE, Frank; DAS, Sunit. The Oxford Handbook of Ethics of AI. New York: Oxford University Press, 2020.
• GOULART, Guilherme Damasio. Art. 20. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco , 2022.
• GPAN IA. Orientações éticas para uma IA de confiança. 08 nov. 2019. Disponível em: https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1/language-pt/format-PDF Acesso em: 20 abr. 2022.
  » https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1/language-pt/format-PDF
• HOFFMANN-RIEM, Wolfgang. Teoria geral do direito digital: transformação digital - desafios para o direito [livro eletrônico]. Rio de Janeiro: Forense, 2021.
• HUECK, Alfred; NIPPERDEY, H. C. Compendio de derecho del trabajo. Madrid: Editorial Revista de derecho privado, 1963.
• JUNQUEIRA, Thiago. Tratamento de dados pessoais e discriminação algorítmica nos seguros [livro eletrônico]. São Paulo: Thomson Reuters, 2020.
• LA CUEVA, Mario de. Decrecho mexicano del trabajo. 4. ed. México: Editorial Porrua, 1954, tomo I.
• LIMA, Cíntia Rosa Pereira. Art. 55-J. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.
• LINDOSO, Maria Cristine Branco. Discriminação de gênero no tratamento automatizado de dados pessoais: como a automatização incorpora vieses de gênero e perpetua a discriminação de mulheres. Rio de Janeiro: Processo, 2021.
• MARQUES, Claudia Lima; MIRAGEM, Bruno (Coords). Diálogo das fontes: novos estudos sobre a coordenação e aplicação das normas no direito brasileiro [livro eletrônico]. São Paulo: Thomson Reuters , 2020.
• MARTINS, Guilherme Magalhães. Responsabilidade civil por acidente de consumo na internet [livro eletrônico]. 2. ed. São Paulo: Thomson Reuters Brasil, 2020.
• MENDES, Laura Schertel; MATTIUZZO, Marcela; FUJIMOTO, Mônica Tiemy. Discriminação algorítmica à luz da Lei Geral de Proteção de Dados. In: BIONI, Bruno; et. al. (Coord.). Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2020.
• MONDENESI, Pedro. Art. 46. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.
• MOREIRA, Teresa Alexandra Coelho. A privacidade dos trabalhadores e as novas tecnologias de informação e comunicação: contributo para um estudo dos limites do poder de controlo eletrônico do empregador. Coimbra: Almedina, 2010.
• MOREIRA, Teresa Coelho. A discriminação algorítmica. In. CARLOTO, Selma. Inteligência Artificial e novas tecnologias nas relações de trabalho. Leme: Mizuno, 2022.
• MULHOLLAND, Caitlin; FRAJHOF, Isabella Z. Inteligência artificial e a Lei Geral de Proteção de Dados pessoais: breves anotações sobre o direito a explicação perante a tomada de decisões por meio de machine learning. In. FRAZÃO, Ana; MULHOLLAND, Caitlin (Coords.). Inteligência artificial e direito: ética regulação e responsabilidade. São Paulo: Thomson Reuters , 2019.
• O GLOBO. ‘Fui despedido por um robô’: como a Amazon deixa máquinas decidirem o destino dos trabalhadores. Jun. 2021. Disponível em: https://oglobo.globo.com/economia/tecnologia/fui-despedido-por-um-robo-como-amazon-deixa-maquinas-decidirem-destino-dos-trabalhadores-25079925 Acesso em: 20 abr. 2022.
  » https://oglobo.globo.com/economia/tecnologia/fui-despedido-por-um-robo-como-amazon-deixa-maquinas-decidirem-destino-dos-trabalhadores-25079925
• OIT. Convenção 111 - Discriminação em matéria de emprego e ocupação. 15 jun 1960. Disponível em: https://www.ilo.org/brasilia/convencoes/WCMS_235325/lang--pt/index.htm Acesso em: 20 abr. 2022.
  » https://www.ilo.org/brasilia/convencoes/WCMS_235325/lang--pt/index.htm
• OIT. Declaração do Centenário da OIT para o Futuro do Trabalho. 21 jun. 2019. Disponível em: https://www.ilo.org/lisbon/publica%C3%A7%C3%B5es/WCMS_749807/lang--pt/index.htm Acesso em: 20 abr. 2022.
  » https://www.ilo.org/lisbon/publica%C3%A7%C3%B5es/WCMS_749807/lang--pt/index.htm
• O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia [livro eletrônico]. Santo André: Editora Rua do Sabão, 2020.
• PASQUALE, Frank. The black box society: the secret algorithms that control money and information. London: Harvard University Press, 2015.
• RAMALHO, Maria do Rosário Palma. Estudos de direito do trabalho. Coimbra: Almedina , 2003, v. 1.
• RIFKIN, Jeremy. Sociedade com custo marginal zero. São Paulo: M. Books do Brasil, 2016.
• SCHWAB, Klaus; DAVIS, Nicholas. Aplicando a quarta revolução industrial. São Paulo: Edipro, 2019.
• SILVA, Jorge Cesa Ferreira da. Antidiscriminação e contrato: a integração e autonomia [livro eletrônico]. São Paulo: Thomson Reuters Brasil, 2020.
• SOUZA, Carlos Affonso; PERRONE, Christian; MAGRANI, Eduardo. O direito à explicação entre a experiência europeia e sua positivação na LGPD. In BIONI, Bruno; et. al. (Coords.). Tratado de proteção de dados pessoais. Rio de Janeiro: Forense , 2020.
• SUMPTER, David. Dominados pelos números: do Facebook e Google às fake News - os algoritmos que controlam nossa vida [livro eletrônico]. Rio de Janeiro: Bertrand Brasil, 2019.
• TEFFÉ, Chiara Spadaccini de. Art. 11. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco , 2022.

• 1
  A invenção da máquina à vapor, movida a carvão, permitiu o nascimento do sistema fabril em massa, com a ampla divisão do trabalho e a produção em massa, levando a acumulação de mão de obra dependente (Hueck; Nipperdey, 1963). Segundo Klaus Schwab e Nicholas Davis, a Primeira Revolução Industrial transformou as indústrias nos 100 anos subsequentes, permitindo a criação de outras indústrias, com novos sistemas de produção (Schwab; Davis, 2019).
• 2
  Interessante destacar que até a Primeira Revolução Industrial a atividade era eminentemente manual e artesanal, de modo que o artesão e sua família realizavam todo o processo produtivo, desde a obtenção da matéria-prima, até a comercialização do produto final.
• 3
  Coimbra e Araújo explicam que além do desenvolvimento proporcionado pela energia elétrica, houve outros progressos tecnológicos como da indústria química, a introdução de navios movidos a vapor, o desenvolvimento do avião, técnicas de conservação de alimentos, a invenção do telégrafo e do telefone, entre outros (Coimbra; Araújo, 2021, p. 18).
• 4
  Frederick Taylor, por intermédio da ideia da produção em assa, compreendeu que “a produtividade e a eficiência do trabalho podem ser multiplicadas, organizando a produção de modo científico, completo e cronométrico”. Aplicava no piso de fábrica a divisão do trabalho especialização, parcelizada e organizada (De Masi, 2013).
• 5
  Dorneles leciona que Henry Ford, em 1913, instituiu a racionalização da produção taylorismo, com a potencialização da ideia de especialização e da divisão de tarefas produtivas. Assim, Ford tinha como parâmetros a “racionalização da produção, estruturação vertical e subordinativa com uma clara divisão entre execução e planejamento”, de modo que se tornou hegemônico “o trabalho livre, produtivo, prestado para o proprietário dos meios de produção, de forma subordinada e não eventual (permanente) como forma de subsistência e ideal de vida para grande parte da população economicamente ativa”. No entanto, o trabalho também se tornou uma mercadoria, sendo adquirido e consumido em troca de subsistência. (Dorneles, 2019, p. 100-101).
• 6
  Segundo Castells, a “Era da Informação” remodelou a sociedade e estabeleceu uma sociedade em rede, com uma economia global, cuja fonte de produtividade passou a ser a tecnologia de geração de conhecimentos, de processamento de informação e de comunicação. (Castells, 2005).
• 7
  Lindoso (2021) esclarece que entre as décadas de 1960 e 1990 o desenvolvimento científico e tecnológico esteve em plena expansão, com a criação e difusão das máquinas computadorizadas que permitiram um aumento da produção de dados. Segundo a autora a expansão da Internet e dos computadores ensejou uma verdadeira revolução digital, marcando o funcionamento do mercado como são conhecidos atualmente.
• 8
  A título de curiosidade, fala-se, atualmente, na Sociedade 5.0, que é uma sociedade da inteligência, fundamentada na inovação, ciência e tecnologia, cujo objetivo é equilibrar as questões sociais que necessitam serem resolvidas. É uma estratégia em que se busca solucionar problemas e desafios sociais, com a incorporação dos setores e da vida social às inovações da Revolução 4.0. (Fontanela; Santos; Albino, 2020, p. 43).
• 9
  Nesse sentido, Martin Ford (2015) menciona como exemplo o software WorkFusion desenvolvido para selecionar, recrutar, fiscalizar e avaliar automaticamente o desempenho de trabalhadores.
• 10
  A discriminação não pode ser analisada somente em seu aspecto negativo, ou seja, trata-se de uma condição que faz parte do cotidiano da sociedade e dos sistemas legais, de maneira que, nem sempre será considerada prejudicial aos indivíduos, como por exemplo as decisões atuariais acerca dos seres humanos, que são aquelas baseadas em estatísticas e comuns a qualquer sistema jurídico (Mendes; Mattiuzzo; Fujimoto, 2020).
• 11
  Por exemplo, art. 7º, incisos XXX, XXXI e XXXII da Constituição Federal.
• 12
  De acordo com Claudia Lima Marques, o diálogo das fontes é a expressão cunhada por Erik Jayme, para descrever a coordenação de fontes, para o fim de reestabelecer a coerência de normas em conflito. Ou seja, defende a existência de um diálogo entre normas, seja complementar, subsidiária, pela opção voluntária das partes sobre a fonte prevalente ou pela opção de uma da lei que estão em conflito abstrato, de forma a encontrar uma solução flexível e aberta, que seja mais favorável ao mais fraco da relação. Esta teoria tem como base a unidade e coerência do ordenamento jurídico nacional, a convergência e complementariedade dos campos de aplicação das fontes e a necessidade de proporcionar efeito útil às fontes, para o fim de adaptá-la ao sistema, levando-se em consideração os valores constitucionais (MARQUES; 2020).
• 13
  Para tanto a ANPD recebeu autonomia técnica e decisória, com competência específica destinada a assegurar a proteção de dados pessoais, bem como a efetiva aplicação da Lei Geral de Proteção de Dados. Por meio do Decreto Federal n. 11.348/2023 foi vinculada ao Ministério da Justiça e Segurança Pública (Brasil, 2023).
• 14
  O art. 55-J da LGPD estabelece a competência da ANPD para zelar pela proteção de dados pessoais, elaborar diretrizes para a Política Nacional de Proteção de Dados Pessoais e da Privacidade, fiscalizar e aplicar sanções, promover e elaborar estudos sobre as práticas nacionais e internacionais sobre proteção de dados, elaborar relatórios de gestão anuais, entre outros. Segundo Lima (2022), no que tange a atribuição regulatória da ANPD, pauta-se pela intervenção mínima (§ 1º do art. 55-J da LGPD), a qual deve ser precedida de consulta e audiência públicas. Além disso, deve observar as análises de impacto regulatório (§ 2º do art. 55-J da LGPD) e a coordenação com outros órgãos e entidades públicos responsáveis pela regulação de setores específicos (§ 3º do art. 55-J da LGPD).
• 15
  Lei 13.709/2018, art. 2º A disciplina da proteção de dados pessoais tem como fundamentos:
  I - o respeito à privacidade;
  II - a autodeterminação informativa;
  III - a liberdade de expressão, de informação, de comunicação e de opinião;
  IV - a inviolabilidade da intimidade, da honra e da imagem;
  V - o desenvolvimento econômico e tecnológico e a inovação;
  VI - a livre iniciativa, a livre concorrência e a defesa do consumidor; e
  VII - os direitos humanos, o livre desenvolvimento da personalidade, a dignidade e o exercício da cidadania pelas pessoas naturais.
• 16
  O princípio da boa-fé corrobora a feição humanista da Lei Geral de Proteção de Dados Pessoais, tendo em vista que a lei prevê em seu artigo inaugural o objetivo de proteger os direitos das pessoas naturais. Ainda, destaca o caráter de dever dos princípios impõem aos agentes de tratamento de dados, ou seja, além de respeitar ao menos uma das bases legais de tratamento de dados, bem cumprir com as definições principiológicas, de forma que as violações injustificadas tornarão o tratamento ilícito (Basan, 2022).
• 17
  Lei 13.709/2018, art. 6º. As atividades de tratamento de dados pessoais deverão observar a boa-fé e os seguintes princípios:
  I - finalidade: realização do tratamento para propósitos legítimos, específicos, explícitos e informados ao titular, sem possibilidade de tratamento posterior de forma incompatível com essas finalidades;
  II - adequação: compatibilidade do tratamento com as finalidades informadas ao titular, de acordo com o contexto do tratamento;
  III - necessidade: limitação do tratamento ao mínimo necessário para a realização de suas finalidades, com abrangência dos dados pertinentes, proporcionais e não excessivos em relação às finalidades do tratamento de dados;
  IV - livre acesso: garantia, aos titulares, de consulta facilitada e gratuita sobre a forma e a duração do tratamento, bem como sobre a integralidade de seus dados pessoais;
  V - qualidade dos dados: garantia, aos titulares, de exatidão, clareza, relevância e atualização dos dados, de acordo com a necessidade e para o cumprimento da finalidade de seu tratamento;
  VI - transparência: garantia, aos titulares, de informações claras, precisas e facilmente acessíveis sobre a realização do tratamento e os respectivos agentes de tratamento, observados os segredos comercial e industrial;
  VII - segurança: utilização de medidas técnicas e administrativas aptas a proteger os dados pessoais de acessos não autorizados e de situações acidentais ou ilícitas de destruição, perda, alteração, comunicação ou difusão;
  VIII - prevenção: adoção de medidas para prevenir a ocorrência de danos em virtude do tratamento de dados pessoais;
  IX - não discriminação: impossibilidade de realização do tratamento para fins discriminatórios ilícitos ou abusivos;
  X - responsabilização e prestação de contas: demonstração, pelo agente, da adoção de medidas eficazes e capazes de comprovar a observância e o cumprimento das normas de proteção de dados pessoais e, inclusive, da eficácia dessas medidas.
• 18
  Relevante destacar que a proibição de práticas discriminatórias está prevista em outras normas do ordenamento jurídico nacional e internacional, além da LGPD. Por exemplo, no artigo 21 da Carta de Direitos Fundamentais, o qual estabelece a proibição de discriminação em razão de sexo, raça, cor ou origem étnica ou social, características genéticas, língua, religião ou convicções, opiniões políticas ou outras, deficiência, idade, orientação sexual, entre outros (União Europeia, 2007). No âmbito da legislação infraconstitucional, a Lei 9.029/1995 coíbe práticas discriminatórias no tocante ao acesso às relações de trabalho, determinando em seu artigo 1º a proibição de práticas discriminatórias e limitativas para acesso às relações de trabalho, ou ainda de sua manutenção, por motivo de sexo, origem, raça, cor, estado civil, situação familiar, deficiência, reabilitação profissional, idade, entre outros (Brasil, 1995).
• 19
  Os dados pessoais sensíveis segundo a ANPD são aqueles aos quais a legislação conferiu proteção maior, justamente por estarem relacionados a aspectos “mais íntimos da personalidade” dos indivíduos (ANPD, 2021). Nos termos artigo 5º, inciso II, os dados pessoais sensíveis são os dados pessoais sobre “origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado a uma pessoa natural” (Brasil, 2018). Trata-se de temática importante no âmbito da ANPD, fazendo parte, inclusive das agendas regulatórias da Autoridade Nacional.
• 20
  O artigo 4º da Resolução define tratamento de dados pessoas de alto risco aquele que atende cumulativamente a pelo menos um critério geral e um critério específico, sendo que os critérios gerais são: (a) tratamento de dados pessoais em larga escala; (b) tratamento de dados pessoas que possa afetar significativamente interesses e direitos fundamentais dos titulares. Por sua vez, os critérios específicos são: (a) uso de tecnologias emergentes ou inovadoras; ((b) vigilância ou controle de zonas acessíveis ao público; (c) decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, inclusive aquelas destinadas a definir o perfil pessoas, profissional, de saúde, de consumo e de crédito ou os aspectos da personalidade do titular; (d) utilização de dados pessoais sensíveis ou de dados pessoais de criança, de adolescentes e de idosos (ANPD, 2022).
• 21
  No entanto, para o biênio 2024/2025 foram selecionados para o Mapa de Temas Prioritários apenas quatro temas, dentre eles: direitos dos titulares; tratamento de dados pessoais de criança e adolescentes; inteligência artificial e tratamento de dados pessoais; raspagem de dados e agregadores de dados (ANPD, 2023b).
• 22
  Para Deveali (1953), o princípio da igualdade deve se estender aos distintos setores da população, sendo inadmissível que uma distinção qualquer de ordem racial, importe em uma distinção de tratamento entre os trabalhadores. O princípio da igualdade, de acordo com Maria do Rosário Palma Ramalho, decorre do princípio constitucional geral da igualdade e não discriminação e se desenvolve na Lei Fundamental, em princípios menores, como o princípio da igualdade de oportunidades no acesso ao emprego e na carreira, da igualdade de tratamento na execução do contrato e da igualdade salarial (Ramalho, 2003).
• 23
  Teresa Coelho Moreira aduz que o princípio da responsabilização é essencial, pois permite a avaliação dos algoritmos, dos dados e dos processos de conceção, o que contribui para a fiabilidade da tecnologia (Moreira, 2022).
• 24
  Interessante destacar que a Agenda Regulatória para o biênio 2023-2024 estabeleceu como prioridade dispor sobre padrões técnicos mínimos para o fim de tornar aplicável o artigo 46 da LGPD, o qual trata da adoção de medidas de segurança, técnicas e administrativa, pelos agentes de tratamento, com o objetivo de proteger os dados pessoais de acessos não autorizados e de situações acidentes ou ilícitas de destruição, perda, alteração, comunicação ou qualquer forma de tratamento inadequado ou ilícito (ANPD, 2023c).
• 25
  O artigo 46, da LGPD, disciplina que os agentes de tratamento “devem adotar medidas de segurança, técnicas e administrativas aptas a proteger os dados pessoais de acessos não autorizados e de situações acidentais ou ilícitas de destruição, perda, alteração, comunicação ou qualquer forma de tratamento inadequado ou ilícito” (BRASIL, 2018). Ainda, o artigo 10, da Resolução CD/ANPD n. 18 estabelece os deveres dos agentes de tratamento, dentre eles: I - prover os meios necessários para o exercício das atribuições do encarregado, neles compreendidos, entre outros, recursos humanos, técnicos e administrativos; II - solicitar assistência e orientação do encarregado quando da realização de atividades e tomada de decisões estratégicas referentes ao tratamento de dados pessoais; III - garantir ao encarregado a autonomia técnica necessária para cumprir suas atividades, livre de interferências indevidas, especialmente na orientação a respeito das práticas a serem tomadas em relação à proteção de dados pessoais; IV - assegurar aos titulares meios céleres, eficazes e adequados para viabilizar a comunicação com o encarregado e o exercício de direitos; V - garantir ao encarregado acesso direto às pessoas de maior nível hierárquico dentro da organização, aos responsáveis pela tomada de decisões estratégicas que afetem ou envolvam o tratamento de dados pessoais, bem como às demais áreas da organização. Determina, ainda, que o agente de tratamento é responsável pela conformidade do tratamento dos dados pessoais (ANPD, 2024).

Datas de Publicação

• Publicação nesta coleção
  14 Out 2024
• Data do Fascículo
  2024

Histórico

• Recebido
  13 Set 2023
• Aceito
  29 Ago 2024