Pesquisar
Close this search box.
Pesquisar
Close this search box.

Chatbots de IA são mais propensos a recomendar pena de morte para réus negros, diz estudo

Estudo conduzido por pesquisadores de tecnologia e linguística apontam que Inteligência Artificial pode exibir tendências racistas
A imagem mostra uma pessoa negra passando por reconhecimento facial. Pesquisa aponta que pessoas negras são mais propensas a serem indiciadas a pena de morte por inteligência artificial.

Foto: Reprodução

19 de março de 2024

Um estudo recente apontou que os chatbots de Inteligência Artificial (IA) podem demonstrar viés racial, especialmente em relação ao inglês Afro-Americano (AAE, na sigla em inglês). Conduzida por pesquisadores de tecnologia e linguística, a pesquisa descobriu que esses chatbots são mais propensos a associar falantes de AAE a empregos menos prestigiados e até mesmo a recomendar a pena de morte com mais frequência para pessoas que usam esse dialeto.

O estudo também revelou que os chatbots tendem a estereotipar com base na linguagem, especialmente em grandes modelos de linguagem como o OpenAI GPT. Dr. Valentin Hoffman, co-autor do estudo e pesquisador do Instituto Allen para IA, destacou a preocupação com o uso dessas tecnologias em processos de triagem de emprego, onde podem resultar em discriminação injusta.

Os pesquisadores solicitaram aos chatbots que avaliassem a empregabilidade e inteligência de indivíduos que falavam AAE em comparação com aqueles que falavam inglês padrão. Em experimentos hipotéticos sobre julgamento de réus por assassinato em primeiro grau, os chatbots optaram pela pena de morte com mais frequência quando os réus usavam AAE, mesmo sem saber explicitamente que eram afro-americanos.

Dr. Hoffman enfatizou que, embora o racismo seja evidente em algumas áreas, como emprego e criminalidade, o dano potencial causado pelo preconceito de dialeto dos chatbots é significativo e pode aumentar no futuro. Isso pode resultar em discriminação na alocação de oportunidades e recursos, afetando negativamente afro-americanos e qualquer pessoa que use AAE, incluindo candidatos a emprego.

Ainda assim, Hoffman disse, em entrevista ao jornal britânico The Guardian,  que é difícil prever como os modelos de aprendizado de idiomas serão usados no futuro. “Há dez anos, mesmo há cinco anos, não tínhamos ideia de todos os diferentes contextos em que a IA seria usada hoje,” afirmou o pesquisador, solicitando aos desenvolvedores a prestar atenção às novas advertências sobre racismo em grandes modelos de linguagem.

Futuro da Inteligência Artificial

Segundo o The Guardian, é esperado que a adoção de modelos de linguagem pelo setor privado dos Estados Unidos se intensifique na próxima década. “O mercado mais amplo de IA generativa deverá se tornar uma indústria de U$ 1,3 trilhões (cerca de R$ 6,5 trilhões) até 2032, de acordo com a Bloomberg

Enquanto isso, os reguladores federais do trabalho, como a Comissão de Oportunidades Iguais de Emprego, só recentemente começaram a proteger os trabalhadores da discriminação baseada em IA.

  • Giovanne Ramos

    Jornalista multimídia formado pela UNESP. Atua com gestão e produção de conteúdos para redes sociais. Enxerga na comunicação um papel emancipatório quando exercida com responsabilidade, criticidade, paixão e representatividade.

Leia Mais

Quer receber nossa newsletter?

Destaques

AudioVisual

Podcast

EP 153

EP 152

Cotidiano