Algoritmização da vida: Implementação de IAs na segurança pública e seus impactos

Por: Ana Carolina Ferreira

É inegável que, em todas as áreas da vida, a Inteligência Artificial (IA) tem se mostrado cada vez mais presente e com mais funcionalidades, que facilitam nas tarefas do cotidiano. Entretanto, por apresentar sofisticação e otimização tecnológica, pode facilmente ser percebida como uma ferramenta que é destituída de erros, não apresenta preconceitos e estereótipos, características comumente atreladas ao ser humano. Ainda assim, cabe questionar: se vivemos numa sociedade na qual tudo que (re)produzimos é atravessado por um histórico, de natureza cultural e social, por que as IAs — criadas pelo homem — também não replicariam estigmas relacionados à classe, raça e gênero, por exemplo?

Esta é uma das perguntas sobre a qual o docente do Departamento de História da Universidade Federal Fluminense (UFF) Paulo Cruz Terra se debruça ao participar do projeto internacional “Governança algorítmica e culturas de policiamento: perspectivas comparativas da Noruega, Índia, Brasil, Rússia e África do Sul” (AGOPOL).

O estudo desenvolve uma análise do impacto da governança algorítmica na sociedade e em policiais, desde as consequências não intencionais, injustiças algorítmicas e danos relacionados a esses novos modos de policiamento, até suas implicações na legitimidade e na confiança da sociedade. O professor, que traz a perspectiva da população brasileira, explica que “a pesquisa busca analisar os aspectos culturais desse impacto da introdução da Inteligência Artificial no policiamento.

Uma questão importante que o projeto coloca é a “algoritmização da vida”, que está presente nas redes sociais e streamings, e tem ganhado espaço no policiamento. Ela influencia no policiamento preditivo — sistema computadorizado com base em banco de dados e análises estatísticas para prever um acontecimento criminoso futuro. Outro ponto fundamental sobre o qual ela age é no reconhecimento facial, recorte principal da minha pesquisa no Brasil.

“Muda-se a tecnologia, mas o racismo estrutural presente no policiamento continua o mesmo. Vemos que o uso da IA, na verdade, tira a responsabilidade da polícia, porque se houve erro foi culpa do algoritmo e não de quem programou.” – Paulo Cruz Terra, docente do Departamento de História da Universidade Federal Fluminense.

Nesse sentido, é possível destacar a mobilização pública quanto à implementação da plataforma de videomonitoramento “Smart Sampa”, em São Paulo, que tem previsão de integrar mais de 20 mil câmeras até 2024 na capital. As polêmicas acerca do projeto são muitas: questionamentos judiciais, um edital suspenso, muita resistência da sociedade e histórico de corrupção pela empresa responsável.

Dentre os movimentos que deram força no combate à plataforma, está a campanha “Tire Meu Rosto da Sua Mira”, feita por mais de 50 entidades da sociedade civil e que tem como objetivo solicitar o banimento do uso das câmeras para segurança pública. A campanha é, inclusive, objeto de pesquisa de Paulo, que nota historicamente uma recusa da população quanto a esse tipo de prática.

“A sociedade, em outros momentos, também se mobilizou contra a introdução da tecnologia pela polícia. Teve, por exemplo, uma greve de trabalhadores em 1900 contra a necessidade de serem fotografados pela polícia. Nessa época, isso era uma grande novidade, capaz de trazer objetividade pro serviço policial, considerado moderno, eficiente. É interessante perceber esse paralelo: por um lado, a tecnologia é colocada como solução, mas ao mesmo tempo a sociedade civil em diferentes momentos vai contestar isso”, destaca Terra.

“No caso das câmeras de reconhecimento facial, sabemos que a grande maioria, no caso de prisões injustas, são homens negros, geralmente pobres, o perfil se assemelha. Muda-se a tecnologia, mas o racismo estrutural presente no policiamento continua o mesmo. Vemos que o uso da IA, na verdade, tira a responsabilidade da polícia, porque se houve erro foi culpa do algoritmo e não de quem programou.”

Quanto às percepções e tendências mundiais que a AGOPOL conseguiu reunir no tema, percebe-se a atuação da sociedade civil pelo banimento do uso da tecnologia, e não pelo aperfeiçoamento. “Não só os governos mas a grande mídia em geral prega todos os benefícios que a IA pode trazer na segurança pública, e várias iniciativas têm procurado alertar a população dos riscos”, afirma o docente.

Além disso, suas pesquisas têm gerado frutos, como o seminário que aconteceu na UFF, em março deste ano, “Programa da Conferência: Policiamento na Sociedade Algorítmica” e a atual produção do documentário “Sorria, você está sendo filmado!”, dirigido e produzido por Maria Rita Nepomuceno, sobre a atuação civil em relação ao uso de câmeras de reconhecimento facial no Brasil. A previsão de lançamento é dezembro deste ano, na plataforma YouTube.