Atos de discriminação racial são melhor percebidos em situações cotidianas, com insultos, ofensas e até mesmo agressões. No entanto, uma onda crescente desse preconceito tem sido notada nos últimos anos, só que desta vez, no âmbito digital. O resultado implica em um novo cenário em que a agressão é velada em linhas de programação. É nisso que consiste o racismo algorítmico.
Bianca Santos, engenheira de Dados na DP6 Consultoria de Tecnologia e Inteligência de Marketing Analytics e Data Science, explica que para definir racismo algorítmico é necessário dividir o termo e explicar cada palavra. Algoritmo, segundo a especialista, é um conjunto de passos que são escritos de diversas formas e passam comandos para as máquinas executarem.
Quer receber nossa newsletter?
Você encontrá as notícias mais relevantes sobre e para população negra. Fique por dentro do que está acontecendo!
Já racismo é preconceito, discriminação ou antagonismo que alguém recebe apenas por pertencer a um determinado grupo racial ou étnico tipicamente marginalizados ou a uma minoria.
“Racismo algorítmico significa que existe potencial em um algoritmo de propagar preconceitos de quem o programou, havendo intenção ou não. Afinal, máquinas por si só não têm viés, são seus insumos de aprendizado ou seu código que determinam como ela irá se comportar uma vez exposta no mundo aberto”, salienta a engenheira.
Racismo algorítmico reproduz os preconceitos sociais
A partir de um caso prático, a engenheira da DP6 explica porque – apesar da evolução tecnológica – o racismo algorítmico ainda ocorre. Bianca conta que, no ano passado, na plataforma Twitter, uma empresa foi acusada de ter um viés racista em seu algoritmo, que criava pré-visualizações de fotos grandes ou longas recortando a parte mais relevante dela, segundo sua programação.
“E no caso foi constatado que realmente o algoritmo apresentava uma preferência por rostos magros, jovens, de pele clara, com textura macia e com traços faciais femininos. Ou seja, ao usar levianamente a rede social, seus usuários tendiam a ver apenas certo tipo de fenótipo, e não exatamente o que havia por completo nas imagens na rede”, explica.
Neste caso em específico, a especialista comenta que os próprios usuários que contribuíram para o treinamento desse algoritmo, pois, para a escolha de qual melhor recorte para a versão minimizada das fotos da comunidade, o algoritmo se baseava em qual parte da foto era mais interessante para todos os usuários, ou seja: qual recorte da foto mais fazia as pessoas clicarem para vê-la em seu todo.
“Com isso, podemos dizer que o algoritmo só estava perpetuando o preconceito social e os vieses dos usuários da rede social. Essa nuance não foi algo que os programadores previam em seu desenvolvimento. Como o racismo algorítmico é algo que pode não ser intencional, é difícil realmente entender se ele está ali no algoritmo, ou até qual parte precisa ser mudada para ele deixar de ser enviesado”, pondera.
Lesbofobia algorítmica tem origem racista
De acordo com o artigo “Código ‘s4p4t40’: lesbofobia algorítmica e a plataformização da vida”, da pesquisadora Juliana Motter, a lesbofobia algorítmica é uma resposta automatizada das plataformas à existência e permanência de mulheres lésbicas nas mais diversas plataformas.
A autora explica que, em 2019, uma campanha chamada #SEOLesbienne cobrou uma tomada de posição do buscador da Google sobre as respostas pornográficas que a plataforma apresentava quando se referia às lésbicas e às lesbianidades.
“Na ocasião, a empresa, que já se via obrigada a abandonar a desculpa de que não poderia interferir em seus algoritmos de pesquisa e apresentação de resultados, decidiu rever suas fórmulas matemáticas e intervenções humanas para modificar essa tendência”, destaca Juliana Motter.
No entanto, a pesquisadora pontua que a lesbofobia algorítmica só foi possível de ser notada a partir de pesquisas que buscavam identificar o racismo algorítmico.
“A inspiração para realizar essa categorização veio a partir do trabalho de Tarcizio Silva, em que o pesquisador propõe a utilização da expressão ‘racismo algorítmico’ em oposição à noção de algoritmo racista, com o intuito de dar dimensão a um fato que não é isolado, mas sim parte de todo um sistema racista, cissexista, heteronormativo e patriarcal”, destaca.
Influência no comportamento social
“Usar uma internet preconceituosa influencia a pessoa a apresentar comportamentos preconceituosos aprendidos nela, além de perpetuar e normalizar mais ainda a sociedade preconceituosa em que vivemos”, avalia Bianca Santos.
A engenheira enfatiza que geralmente, esses algoritmos são fortemente pautados em aprendizagem de máquina, a famosa Inteligência Artificial, que vai se desenvolvendo conforme recebe insumos. “E, se esses insumos tiverem um viés, o código vai reproduzi-lo”, destaca.
De forma que a internet é largamente usada para os mais diversos fins, a relação de pessoas entre si e de pessoas e comunidades pode estar minimamente, parcialmente ou até totalmente no mundo online, de acordo com a especialista.
“Ou seja, há um enorme espaço para influenciar e ser influenciado na internet, e se a jornada de uma pessoa na internet for em um mundo cheio de preconceitos e incompleto, isso pode ser incorporado para a vida da pessoa como um todo”, comenta.
“Quando uma pessoa só vê online um certo tipo de fenótipo ou de comportamento, é bem provável que ela seja influenciada por isso a perpetuar a busca por esse fenótipo e o comportamento em questão, propagando racismo algorítmico e problemas com aceitação do diferente daquilo que é o padrão”, completa.
Como combater o racismo algorítmico?
Contudo, a engenheira Bianca Santos pondera que é muito difícil identificar o preconceito em um algoritmo, então, enriquecer o ponto de partida sempre é a melhor solução. A melhor forma de combater o preconceito, portanto, é apostar na pluralidade, segundo ela.
“Significa trazer pessoas diversas para criticar processos, resultados e análises de acordo com seus pontos de vista e ampliar a base de dados inicial que servirá de insumo para aprendizado de máquina para que essa possa se basear na diversidade”, avalia.
Para que o consumidor possa identificar a atuar como agente antirracista no caso de racismo algorítmico, a engenheira salienta que é necessário se posicionar e enfatizar os preconceitos às empresas desenvolvedoras.
“Não tenha medo de levantar a mão. Se algo na internet não está parecendo certo, aponte e estimule outras pessoas a pensarem criticamente se realmente há algo de errado ali. Ajude cada vez mais a comunidade a entender suas falhas para que ela possa construir um mundo online cada vez mais amplo e acolhedor”, sugere.
“Ajude os construtores do mundo das máquinas a refletirem o que de fato existe no mundo fora da internet, e não apenas aquele criado pelos seus próprios preconceitos ou os da sociedade”, finaliza.
Leia também: ‘Como os algoritmos das redes sociais são impactados pelo racismo?’
