O estudo “Lado Sombrio do Escalonamento de Conjuntos de Dados”, publicado no GitHub, aponta que a probabilidade de uma imagem de um homem negro ou latino ser classificada como “criminoso” aumentou em até 69% entre 14 modelos multimodais baseados na arquitetura Vision Transformers (ViT-L) – sistemas de IA capazes de processar imagens e texto ao mesmo tempo.
Diante da falha na curadoria por trás dos desenvolvedores, a consultora de imagem identitária Cáren Cruz, CEO da Pittaco Consultoria e participante da 9ª temporada do Shark Tank Brasil, explica que a discussão não começa com a inteligência artificial generativa, mas sim de um processo iniciado há quase uma década em “tecnologias de análise facial”.
Quer receber nossa newsletter?
Você encontrá as notícias mais relevantes sobre e para população negra. Fique por dentro do que está acontecendo!
“Ainda em 2017, a pesquisadora Joy Buolamwini, do ‘MIT Media Lab’, vinha denunciando falhas nos sistemas de visão computacional a partir da sua própria experiência como mulher negra. Em 2018, ao lado da pesquisadora Timnit Gebru, ela publicou o estudo Gender Shades, que demonstrou como as tecnologias comerciais de análise facial apresentavam índices de erro muito maiores ao analisar mulheres de pele mais escura do que homens de pele mais clara”, revela.
Esse padrão se repetiu mesmo apesar dos avanços da IA, sobretudo quando se fala em representação de pessoas negras em ferramentas de geração de imagens. Embora muitas delas consigam produzir imagens com qualidade visual, iluminação adequada, nitidez, acabamento e apresentação visual elaborada, Cáren explica que a qualidade estética não vem acompanhada da preservação dos traços fenotípicos, da aparência original e da identificação visual da pessoa retratada.
“São frequentes os relatos de ruído na precisão da imagem gerada. Mesmo quando os comandos são específicos e partem de fotos reais, a inteligência artificial pode alterar o tom da pele, modificar a textura do cabelo, suavizar traços faciais, mudar o formato do nariz, da boca, do rosto, das expressões e de elementos fundamentais para o reconhecimento da pessoa. O resultado pode parecer alinhado a um padrão visual socialmente aceito, mas falha em um ponto crucial: preservar a aparência, os traços fenotípicos e a identificação visual”, comenta.
Para Cáren, o maior desafio segue em retratar pessoas negras sem embranquecer, suavizar, distorcer ou reduzi-las a estereótipos visuais.
“Quando a ferramenta altera características fundamentais de uma pessoa negra, ela não está apenas cometendo uma falha de precisão; está reproduzindo uma lógica histórica em que determinados traços são tratados como algo a ser corrigido, neutralizado ou aproximado de um padrão dominante. A tecnologia não nasce neutra. Ela aprende a partir de bancos de dados, imagens, descrições e repertórios que também carregam desigualdades históricas”, pontua.
“Se esses dados foram construídos com baixa diversidade racial, ou se representam pessoas negras de forma limitada, estereotipada ou pouco plural, a ferramenta tende a reproduzir estas limitações no resultado final. Ou seja, os vieses presentes na sociedade também podem ser incorporados aos sistemas que hoje mediam a nossa presença digital.”
Diversidade racial como parte estratégica da inovação tecnológica
Somando mais de 18 anos no mercado de consultoria identitária para negócios, a CEO da Pittaco afirma que a diversidade tem um papel central na construção das tecnologias de inteligência artificial.
Com a presença cada vez mais consolidada em diferentes setores da economia e da sociedade, Cáren alerta que essas ferramentas precisam considerar a pluralidade das aparências negras e sua nuance fenotípica, cromática, cultural, territorial e estética.
“Na minha própria experiência como ‘consultora de imagem identitária’, participei de um grupo focal em que diferentes profissionais deveriam analisar amostragens de pele a partir de regiões do país. Dentro da proposta apresentada pela instituição, a pele negra aparecia distribuída em apenas 6 tons. No entanto, quem trabalha com imagem, aparência e identidade sabe que essa redução não abraça a complexidade das peles negras, especialmente em um país como o Brasil”, destaca Cáren.
Especialista em Colorimetria, Cáren afirma que ao falar da pele negra, não estamos falando de uma única cor, profundidade ou classificação, mas de um espectro muito amplo, que envolve diferentes origens, peles negras brasileiras, peles atravessadas por miscigenações, variações de pigmentação, subtons, luminosidades, contrastes e profundidades cromáticas.
“A inovação verdadeira precisa reconhecer, preservar e respeitar a pluralidade das aparências negras sem apagar, suavizar ou padronizar aquilo que nos identifica”, conclui.
