O exemplo mais corriqueiro seria a disseminação de fake news via redes sociais. “Quando alguém espalha esse conteúdo, os algoritmos amplificam o alcance de mensagem que têm apelo emocional”, explica Trielli.
O termo violência algorítmica passou a ser utilizado no início da década passada – por acadêmicos, intelectuais e artistas engajados na problemática. Pesquisadores na Unisinos, a jurista e professora Haide Maria Hupffer e o advogado Gabriel Cemin Petry explicam que o termo foi fundamentado com propriedade a partir do livro Topologia da Violência, do filósofo Byung-Chul Han.
“Não há uma pessoa única que tenha ‘inventado’ a expressão. Ela faz parte de um campo mais amplo de debates sobre discriminação algorítmica, opressão, racismo, colonialismo de dados e injustiça automatizada”, comenta a assistente social Bruna Irineu, professora na Universidade Federal de Mato Grosso e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+.
No cerne da questão está o fato de que os algoritmos não são neutros. Criados por pessoas, empresa e instituições que foram alçadas a ocupar papéis hegemônicos em sociedades alicerçadas em pilares de racismo, sexismo e outras desigualdades estruturais, esses sistemas tendem a reproduzir este “pensamento” preponderante. Afinal, de forma muito simplificada, as ferramentas de inteligência artificial são treinadas a partir da exposição de milhões de conteúdos e decisões oriundos da mente humana.
“Podemos dizer que violência algorítmica acontece quando sistemas automatizados, plataformas digitais, inteligências artificiais, mecanismos de busca, redes sociais ou bancos de dados produzem, reproduzem e amplificam desigualdades sociais”, define a antropóloga Larissa Pelúcio, professora na Universidade Estadual Paulista (Unesp) e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+.
“Ela aparece quando uma tecnologia decide quem será visto, quem será silenciado, quem será considerado suspeito, quem terá acesso a oportunidades, crédito, emprego, circulação, reconhecimento ou proteção”, acrescenta.