O que é racismo algorítmico?
Algoritmos são instruções dadas aos sistemas de computadores para orientar o uso das plataformas. Eles se baseiam em métricas que estão de acordo com os objetivos de negócios das redes sociais.
Racismo estrutural se reflete nos algoritmos. Levantamento do coletivo Pretalab com a consultoria ThoughtWorks aponta falta de diversidade como um dos motivos. O setor de tecnologia é formado, na sua maioria, por homens brancos, héteros e de classes sociais média ou alta.
Larissa Macêdo, doutora em Comunicação e Semiótica (PUC-SP), reforça que Bruna foi vítima de racismo algorítmico. “É uma extensão do racismo estrutural. Se as vagas sugeridas estão aquém do currículo que ela cadastrou, o que resta de informação que ela colocou na plataforma? A foto dela”, analisa a estudiosa, que pesquisa tecnologia e inteligência artificial.
Pesquisadora também questiona o “peso” de cada informação dada no cadastro em relação à sugestão de vagas. “Quando uma pessoa se cadastra, ela também informa o gênero. Qual o peso do gênero escolhido? O que nesse sistema está associando o cadastro de Bruna a essas vagas?”, indaga Larissa.
Existe uma coisa chamada viés algorítmico. A programação das redes sociais não é neutra porque é feita por humanos. Tudo vai carregar quem nós somos. A gente precisa ter diversidade em quem constrói os códigos e discutir como eles são escritos Larissa Macêdo, pesquisadora de tecnologia e inteligência artificial