Um estudo recente apontou que os chatbots de Inteligência Artificial (IA) podem demonstrar viés racial, especialmente em relação ao inglês Afro-Americano (AAE, na sigla em inglês). Conduzida por pesquisadores de tecnologia e linguística, a pesquisa descobriu que esses chatbots são mais propensos a associar falantes de AAE a empregos menos prestigiados e até mesmo a recomendar a pena de morte com mais frequência para pessoas que usam esse dialeto.
O estudo também revelou que os chatbots tendem a estereotipar com base na linguagem, especialmente em grandes modelos de linguagem como o OpenAI GPT. Dr. Valentin Hoffman, co-autor do estudo e pesquisador do Instituto Allen para IA, destacou a preocupação com o uso dessas tecnologias em processos de triagem de emprego, onde podem resultar em discriminação injusta.
Quer receber nossa newsletter?
Você encontrá as notícias mais relevantes sobre e para população negra. Fique por dentro do que está acontecendo!
Os pesquisadores solicitaram aos chatbots que avaliassem a empregabilidade e inteligência de indivíduos que falavam AAE em comparação com aqueles que falavam inglês padrão. Em experimentos hipotéticos sobre julgamento de réus por assassinato em primeiro grau, os chatbots optaram pela pena de morte com mais frequência quando os réus usavam AAE, mesmo sem saber explicitamente que eram afro-americanos.
Dr. Hoffman enfatizou que, embora o racismo seja evidente em algumas áreas, como emprego e criminalidade, o dano potencial causado pelo preconceito de dialeto dos chatbots é significativo e pode aumentar no futuro. Isso pode resultar em discriminação na alocação de oportunidades e recursos, afetando negativamente afro-americanos e qualquer pessoa que use AAE, incluindo candidatos a emprego.
Ainda assim, Hoffman disse, em entrevista ao jornal britânico The Guardian, que é difícil prever como os modelos de aprendizado de idiomas serão usados no futuro. “Há dez anos, mesmo há cinco anos, não tínhamos ideia de todos os diferentes contextos em que a IA seria usada hoje,” afirmou o pesquisador, solicitando aos desenvolvedores a prestar atenção às novas advertências sobre racismo em grandes modelos de linguagem.
Futuro da Inteligência Artificial
Segundo o The Guardian, é esperado que a adoção de modelos de linguagem pelo setor privado dos Estados Unidos se intensifique na próxima década. “O mercado mais amplo de IA generativa deverá se tornar uma indústria de U$ 1,3 trilhões (cerca de R$ 6,5 trilhões) até 2032, de acordo com a Bloomberg.
Enquanto isso, os reguladores federais do trabalho, como a Comissão de Oportunidades Iguais de Emprego, só recentemente começaram a proteger os trabalhadores da discriminação baseada em IA.
