Racismo Algorítmico: A Tecnologia Que Reproduz Preconceito

Em novembro de 2023, durante uma micareta em Aracaju, Thaís Santos foi abordada pela polícia duas vezes no mesmo evento. O sistema de reconhecimento facial instalado no local a apontou como foragida da Justiça. Ela não era. Era apenas uma mulher negra presente em uma festa, num país onde tecnologia e racismo se encontram de um jeito que poucos querem nomear assim. O caso ilustra com precisão o que o pesquisador Tarcízio Silva chama de racismo algorítmico: a reprodução, por sistemas digitais, das mesmas hierarquias raciais que estruturam a sociedade.

Doutor em Ciências Humanas e autor de Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais (2022), Silva construiu o arcabouço teórico que o Brasil precisava para entender o que acontece além dos códigos de programação. A tese central do livro é direta: algoritmos não são neutros. Eles carregam as hierarquias raciais de quem os criou e do mundo em que foram treinados.

O que Tarcízio Silva chama de discriminação algorítmica

Silva define racismo algorítmico como o modo pelo qual tecnologias e imaginários sociotécnicos, num mundo moldado pelo privilégio branco, fortalecem a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não brancos. A crítica central não é que os “robôs são racistas”, simplificação que Silva rejeita com precisão. O problema está nas camadas de decisões humanas, corporativas e políticas embutidas nos sistemas de inteligência artificial.

A crítica central não é que os “robôs são racistas”, simplificação que Silva rejeita com precisão.

O livro introduz o conceito de microagressões algorítmicas: formas sutis e cotidianas de viés algorítmico mediadas por plataformas digitais. Silva descreve dois movimentos que os algoritmos exercem sobre pessoas negras. O primeiro é a invisibilidade: currículo descartado, rosto não detectado, conteúdo suprimido. O segundo é a hipervisibilidade: vigilância, criminalização, marcação como ameaça. Os dois movimentos coexistem e se reforçam. São faces do mesmo processo.

Racismo algorítmico e reconhecimento facial: casos documentados por Tarcízio Silva

Os dados brasileiros são contundentes. Entre março e outubro de 2019, em quatro estados, 90,5% das pessoas presas por reconhecimento facial, quando havia registro de raça ou cor, eram negras, dado levantado pela Rede de Observatórios da Segurança e incorporado ao mapeamento do Desvelar. No mesmo período, a pesquisadora Joy Buolamwini, no MIT, precisou colocar uma máscara branca no rosto para ser detectada pelo sistema que estudava. Seu caso se tornou o documentário Coded Bias e escancarou o problema para o mundo.

Em Detroit, ao menos seis prisões injustas foram causadas por erros de reconhecimento facial, todas afetando pessoas negras, conforme investigações jornalísticas e documentos de autoridades locais. No Brasil, o caso de Thaís Santos integra uma lista que o projeto Desvelar (desvelar.org) mapeou com mais de 120 ocorrências documentadas entre 2010 e 2024, entre elas filtros de realidade aumentada que embranquecem rostos negros, plataformas de emprego com critérios de seleção racializados e casos internacionais de anúncios segmentados que permitiam excluir usuários por origem étnica, incluindo afro-americanos no Facebook, caso investigado por reportagens do ProPublica. O mapeamento abrange tanto exemplos brasileiros quanto internacionais, evidenciando que o problema ultrapassa fronteiras. O problema não é uma anomalia técnica. É um padrão estrutural do racismo digital.

Necropolítica algorítmica: quando a máquina decide quem é suspeito

Em 2025, o Brasil contava com 376 projetos ativos de reconhecimento facial, monitorando potencialmente 83 milhões de pessoas, cerca de 40% da população, segundo levantamento publicado pelo projeto Desvelar. O dado mais revelador não é a escala: é o que falta. 80% desses projetos não possuem relatórios de impacto. 75% carecem de políticas adequadas de proteção de dados. A expansão avança sem transparência: sem consultas públicas, sem relatórios de impacto acessíveis e, em muitos casos, com contratos que não são divulgados à população monitorada.

Silva conecta esse cenário ao conceito de necropolítica algorítmica: a tecnologia passa a mediar quem é vigiado, quem é abordado e quem é preso. A opacidade dos algoritmos não é um defeito a ser corrigido numa atualização futura, é uma característica política. Quando um sistema toma decisões sem que se possa questionar como ou por quê, ele blinda o preconceito de qualquer contestação.

No Brasil, ainda não existem leis específicas para o uso de reconhecimento facial, um vazio que pesquisadores como Silva apontam como urgente de preencher. Sem regulação clara, não há mecanismo que obrigue as autoridades a prestar contas quando o sistema erra, e como os dados mostram, quando erra, erra sobre corpos negros.

Criadores negros e a barreira invisível das plataformas

A discriminação algorítmica não fica só nas câmeras de segurança. Ela se manifesta nas redes sociais pela supressão de conteúdo sobre raça e identidade. Publicações sobre racismo estrutural ou experiências negras frequentemente recebem menos alcance, sofrem moderação excessiva ou são marcadas como conteúdo sensível sem justificativa clara, padrão documentado em estudos acadêmicos sobre moderação racializada de conteúdo e registrado na linha do tempo do Desvelar. É a mesma lógica descrita por Silva: o algoritmo que hipervigilancia o corpo negro nas câmeras invisibiliza a voz negra nas plataformas de conteúdo.

Denison Luz, comunicador e criador de conteúdo negro que aborda racismo, representatividade e identidade em suas plataformas, navega essa tensão no trabalho diário. Falar sobre raça é necessário; ao mesmo tempo, esse tipo de conteúdo é justamente o que o viés algorítmico tende a penalizar com menor alcance orgânico. Silva e o projeto Desvelar documentam esse padrão de forma sistemática: a barreira algorítmica nas redes sociais é mais uma camada do mesmo problema estrutural.

O que Silva propõe e onde acessar o projeto Desvelar

O capítulo final do livro não é pessimista. Silva apresenta propostas concretas: auditorias algorítmicas, mobilizações públicas e reinvenções tecnológicas desenvolvidas por e para comunidades negras. Ele documenta o movimento “Foda-se o algoritmo” como exemplo de ativismo organizado. Sua posição é clara: a regulação precisa ir além de princípios éticos genéricos e alcançar mecanismos reais de responsabilização das plataformas.

O livro Racismo Algorítmico (2022) está disponível em livrarias brasileiras. O projeto Desvelar, em desvelar.org, reúne uma linha do tempo interativa com mais de 120 casos documentados de discriminação algorítmica, consultável com filtros por ano, tipo de caso e plataforma envolvida. Para pesquisadores que buscam dados primários ou para quem quer entender como o racismo digital funciona na prática, é um ponto de partida indispensável.

A pergunta que fica depois de tudo isso

A tecnologia foi vendida como progresso neutro. Tarcízio Silva mostrou que ela nunca foi. O racismo algorítmico não é um problema técnico à espera de uma correção na próxima atualização. É o reflexo de escolhas humanas, corporativas e políticas que precisam ser contestadas com a mesma urgência com que os sistemas são expandidos.

O que significa construir tecnologias mais justas numa sociedade que ainda não resolveu suas desigualdades estruturais? Essa pergunta não é só dos programadores. É de todos que usam uma câmera, uma plataforma de emprego, uma rede social ou um aplicativo de segurança pública.

Comece pelo projeto Desvelar em desvelar.org. O mapa já existe. Falta mais gente olhando para ele, e disposição para agir a partir do que ele revela.