Personalizar preferências de consentimento

Utilizamos cookies para ajudar você a navegar com eficiência e executar certas funções. Você encontrará informações detalhadas sobre todos os cookies sob cada categoria de consentimento abaixo.

Os cookies que são classificados com a marcação “Necessário” são armazenados em seu navegador, pois são essenciais para possibilitar o uso de funcionalidades básicas do site.... 

Sempre ativo

Os cookies necessários são cruciais para as funções básicas do site e o site não funcionará como pretendido sem eles. Esses cookies não armazenam nenhum dado pessoalmente identificável.

Sem cookies para exibir.

Cookies funcionais ajudam a executar certas funcionalidades, como compartilhar o conteúdo do site em plataformas de mídia social, coletar feedbacks e outros recursos de terceiros.

Sem cookies para exibir.

Cookies analíticos são usados para entender como os visitantes interagem com o site. Esses cookies ajudam a fornecer informações sobre métricas o número de visitantes, taxa de rejeição, fonte de tráfego, etc.

Sem cookies para exibir.

Os cookies de desempenho são usados para entender e analisar os principais índices de desempenho do site, o que ajuda a oferecer uma melhor experiência do usuário para os visitantes.

Sem cookies para exibir.

Os cookies de anúncios são usados para entregar aos visitantes anúncios personalizados com base nas páginas que visitaram antes e analisar a eficácia da campanha publicitária.

Sem cookies para exibir.

PUBLICIDADE
PUBLICIDADE

Como os algoritmos contribuem com o racismo e a lesbofobia?

“Existe potencial em um algoritmo de propagar preconceitos de quem o programou, havendo intenção ou não”, destaca engenheira de dados Bianca Santos

Imagem: Reprodução/Twitter

Foto: Imagem: Reprodução/Twitter

2 de setembro de 2022

Atos de discriminação racial são melhor percebidos em situações cotidianas, com insultos, ofensas e até mesmo agressões. No entanto, uma onda crescente desse preconceito tem sido notada nos últimos anos, só que desta vez, no âmbito digital. O resultado implica em um novo cenário em que a agressão é velada em linhas de programação. É nisso que consiste o racismo algorítmico.

Bianca Santos, engenheira de Dados na DP6 Consultoria de Tecnologia e Inteligência de Marketing Analytics e Data Science, explica que para definir racismo algorítmico é necessário dividir o termo e explicar cada palavra. Algoritmo, segundo a especialista, é um conjunto de passos que são escritos de diversas formas e passam comandos para as máquinas executarem.

PUBLICIDADE

Quer receber nossa newsletter?

Você encontrá as notícias mais relevantes sobre e para população negra. Fique por dentro do que está acontecendo!

Já racismo é preconceito, discriminação ou antagonismo que alguém recebe apenas por pertencer a um determinado grupo racial ou étnico tipicamente marginalizados ou a uma minoria.

“Racismo algorítmico significa que existe potencial em um algoritmo de propagar preconceitos de quem o programou, havendo intenção ou não. Afinal, máquinas por si só não têm viés, são seus insumos de aprendizado ou seu código que determinam como ela irá se comportar uma vez exposta no mundo aberto”, salienta a engenheira.

Racismo algorítmico reproduz os preconceitos sociais

A partir de um caso prático, a engenheira da DP6 explica porque – apesar da evolução tecnológica – o racismo algorítmico ainda ocorre. Bianca conta que, no ano passado, na plataforma Twitter, uma empresa foi acusada de ter um viés racista em seu algoritmo, que criava pré-visualizações de fotos grandes ou longas recortando a parte mais relevante dela, segundo sua programação.

“E no caso foi constatado que realmente o algoritmo apresentava uma preferência por rostos magros, jovens, de pele clara, com textura macia e com traços faciais femininos. Ou seja, ao usar levianamente a rede social, seus usuários tendiam a ver apenas certo tipo de fenótipo, e não exatamente o que havia por completo nas imagens na rede”, explica.

Neste caso em específico, a especialista comenta que os próprios usuários que contribuíram para o treinamento desse algoritmo, pois, para a escolha de qual melhor recorte para a versão minimizada das fotos da comunidade, o algoritmo se baseava em qual parte da foto era mais interessante para todos os usuários, ou seja: qual recorte da foto mais fazia as pessoas clicarem para vê-la em seu todo.

“Com isso, podemos dizer que o algoritmo só estava perpetuando o preconceito social e os vieses dos usuários da rede social. Essa nuance não foi algo que os programadores previam em seu desenvolvimento. Como o racismo algorítmico é algo que pode não ser intencional, é difícil realmente entender se ele está ali no algoritmo, ou até qual parte precisa ser mudada para ele deixar de ser enviesado”, pondera.

Lesbofobia algorítmica tem origem racista

De acordo com o artigo “Código ‘s4p4t40’: lesbofobia algorítmica e a plataformização da vida”, da pesquisadora Juliana Motter, a lesbofobia algorítmica é uma resposta automatizada das plataformas à existência e permanência de mulheres lésbicas nas mais diversas plataformas.

A autora explica que, em 2019, uma campanha chamada #SEOLesbienne cobrou uma tomada de posição do buscador da Google sobre as respostas pornográficas que a plataforma apresentava quando se referia às lésbicas e às lesbianidades.

“Na ocasião, a empresa, que já se via obrigada a abandonar a desculpa de que não poderia interferir em seus algoritmos de pesquisa e apresentação de resultados, decidiu rever suas fórmulas matemáticas e intervenções humanas para modificar essa tendência”, destaca Juliana Motter.

No entanto, a pesquisadora pontua que a lesbofobia algorítmica só foi possível de ser notada a partir de pesquisas que buscavam identificar o racismo algorítmico.

“A inspiração para realizar essa categorização veio a partir do trabalho de Tarcizio Silva, em que o pesquisador propõe a utilização da expressão ‘racismo algorítmico’ em oposição à noção de algoritmo racista, com o intuito de dar dimensão a um fato que não é isolado, mas sim parte de todo um sistema racista, cissexista, heteronormativo e patriarcal”, destaca.

Influência no comportamento social

“Usar uma internet preconceituosa influencia a pessoa a apresentar comportamentos preconceituosos aprendidos nela, além de perpetuar e normalizar mais ainda a sociedade preconceituosa em que vivemos”, avalia Bianca Santos.

A engenheira enfatiza que geralmente, esses algoritmos são fortemente pautados em aprendizagem de máquina, a famosa Inteligência Artificial, que vai se desenvolvendo conforme recebe insumos. “E, se esses insumos tiverem um viés, o código vai reproduzi-lo”, destaca.

De forma que a internet é largamente usada para os mais diversos fins, a relação de pessoas entre si e de pessoas e comunidades pode estar minimamente, parcialmente ou até totalmente no mundo online, de acordo com a especialista.

“Ou seja, há um enorme espaço para influenciar e ser influenciado na internet, e se a jornada de uma pessoa na internet for em um mundo cheio de preconceitos e incompleto, isso pode ser incorporado para a vida da pessoa como um todo”, comenta.

“Quando uma pessoa só vê online um certo tipo de fenótipo ou de comportamento, é bem provável que ela seja influenciada por isso a perpetuar a busca por esse fenótipo e o comportamento em questão, propagando racismo algorítmico e problemas com aceitação do diferente daquilo que é o padrão”, completa.

Como combater o racismo algorítmico?

Contudo, a engenheira Bianca Santos pondera que é muito difícil identificar o preconceito em um algoritmo, então, enriquecer o ponto de partida sempre é a melhor solução. A melhor forma de combater o preconceito, portanto, é apostar na pluralidade, segundo ela.

“Significa trazer pessoas diversas para criticar processos, resultados e análises de acordo com seus pontos de vista e ampliar a base de dados inicial que servirá de insumo para aprendizado de máquina para que essa possa se basear na diversidade”, avalia.

Para que o consumidor possa identificar a atuar como agente antirracista no caso de racismo algorítmico, a engenheira salienta que é necessário se posicionar e enfatizar os preconceitos às empresas desenvolvedoras.

“Não tenha medo de levantar a mão. Se algo na internet não está parecendo certo, aponte e estimule outras pessoas a pensarem criticamente se realmente há algo de errado ali. Ajude cada vez mais a comunidade a entender suas falhas para que ela possa construir um mundo online cada vez mais amplo e acolhedor”, sugere.

“Ajude os construtores do mundo das máquinas a refletirem o que de fato existe no mundo fora da internet, e não apenas aquele criado pelos seus próprios preconceitos ou os da sociedade”, finaliza.

Leia também: ‘Como os algoritmos das redes sociais são impactados pelo racismo?’

Apoie jornalismo preto e livre!

O funcionamento da nossa redação e a produção de conteúdos dependem do apoio de pessoas que acreditam no nosso trabalho. Boa parte da nossa renda é da arrecadação mensal de financiamento coletivo.

Todo o dinheiro que entra é importante e nos ajuda a manter o pagamento da equipe e dos colaboradores em dia, a financiar os deslocamentos para as coberturas, a adquirir novos equipamentos e a sonhar com projetos maiores para um trabalho cada vez melhor.

O resultado final é um jornalismo preto, livre e de qualidade.

Leia Mais

PUBLICIDADE

Destaques

AudioVisual

Podcast

papo-preto-logo

Cotidiano