Universidades fazem parceria com a polícia em pesquisa de IA #ÚltimasNotícias

Quando Yao Xie começou como professora assistente no Georgia Institute of Technology, ela pensou que estaria pesquisando aprendizado de máquina, estatística e algoritmos para ajudar com problemas do mundo real. Ela agora completou um período de sete anos fazendo exatamente isso, mas com um parceiro improvável: o Departamento de Polícia de Atlanta.

“Depois de conversar com eles, fiquei um pouco surpreso com o que eu poderia contribuir para resolver seus problemas”, disse Xie, agora professor na escola de engenharia industrial da universidade.

Xie utilizou inteligência artificial para trabalhar com o departamento para reduzir o potencial desperdício de recursos e implementar um sistema de policiamento justo, livre de preconceitos raciais e econômicos.

Ela faz parte de um grupo crescente de professores em instituições de ensino superior que se unem a agências policiais vizinhas para explorar o potencial da IA ​​para departamentos de polícia, ao mesmo tempo em que lidam com problemas inerentes à tecnologia.

Os projetos assumiram várias formas. Pesquisadores da Universidade do Texas em Dallas trabalharam junto com o FBI e o Instituto Nacional de Padrões e Tecnologia para comparar o reconhecimento facial de policiais com o que algoritmos de IA podem detectar. Na Universidade Carnegie Mellon, pesquisadores desenvolveram algoritmos de IA que examinam imagens onde o rosto de um suspeito está bloqueado por uma máscara, poste de luz ou capacete, ou onde eles estão olhando para longe da câmera.

Pesquisadores do Dartmouth College construíram algoritmos para decifrar imagens de baixa qualidade, como números difusos em uma placa de carro. E pesquisadores do Illinois Institute of Technology trabalharam junto com o Chicago Police Department para construir algoritmos que analisam indivíduos potencialmente de alto risco.

Esses projetos são parte de um esforço de US$ 3,1 milhões de anos do National Institute of Justice para facilitar parcerias entre entidades educacionais e policiais, com foco em quatro categorias: análise de vídeo e imagem de segurança pública, análise de DNA, detecção de tiros e previsão de crimes. Nos últimos anos, esse foco se concentrou na IA e seus usos.

“É definitivamente uma tendência; acho que há uma necessidade real, mas também há desafios, como garantir que haja confiança e confiabilidade no [AI algorithm] resultados”, disse Xie. “[Our project] impacta a vida de todos em Atlanta: Como podemos garantir que os cidadãos de Atlanta sejam tratados de forma justa e que não haja disparidade oculta no design?”

Superando preocupações éticas

Xie foi abordado pela primeira vez pelo Departamento de Polícia de Atlanta em 2017, quando estava buscando professores que pudessem ajudar a construir algoritmos e modelos que pudessem ser aplicados a dados policiais. Os sete anos, que terminaram em junho, culminaram em três grandes projetos:

1. Analisando relatórios policiais para procurar “ligações criminais”, onde o mesmo criminoso está envolvido em vários casos, criando algoritmos para vasculhar os mais de 10 milhões de casos do departamento e encontrar ligações para aumentar a eficiência.
2. Repensando os distritos policiais, que geralmente são divididos em zonas e têm números desiguais de policiais. Um algoritmo foi desenvolvido para analisar as divisões de rezoneamento para que os policiais possam ter melhores tempos de resposta e evitar o policiamento excessivo de áreas específicas.

3. Medir a “integridade do bairro”, para garantir que todos os moradores recebam níveis iguais de serviço, ao mesmo tempo em que se cria uma “consideração de justiça” no design do sistema de resposta policial.

“Tenho amigos que disseram: ‘Eu nunca poderia trabalhar com a polícia’, por causa da desconfiança deles, e essa é uma questão que talvez a IA possa ajudar”, disse ela. “Podemos identificar a fonte da desconfiança. Se [officers are] não sendo justo, pode ser de propósito—ou não. E usar os dados pode identificar as falhas e ajudar a melhorar isso.”

Na Florida Polytechnic University, o vice-presidente e diretor financeiro Allen Bottorff também está lutando com o ato de equilíbrio de trabalhar com a polícia, mantendo o preconceito em primeiro plano. A universidade anunciou em junho que está se unindo ao Departamento do Xerife de Lakeland local para criar uma unidade focada em crimes cibernéticos assistidos por IA. Um pequeno grupo de alunos da Florida Polytechnic se integrará ao gabinete do xerife e aprenderá como os criminosos estão usando IA para crimes cibernéticos, roubo de identidade e extorsão.

A universidade também estará construindo algoritmos de IA que podem ser usados ​​de várias maneiras, incluindo a identificação de deepfakes, que podem enganar as vítimas fazendo-as pensar que estão falando com, digamos, seus netos em vez de um criminoso. A Florida Polytechnic também está pensando em montar um “kit de ferramentas de IA”, disse Bottorff, que compilaria e priorizaria dados para os policiais “para que, quando saíssem do carro de patrulha, tivessem todas as informações acionáveis ​​de que precisavam”.

Bottorff diz que a parceria faz todo o sentido para sua instituição. “Temos uma abordagem um pouco diferente para o ensino superior e STEM; queremos que sejam peças aplicadas, queremos que eles entendam como trabalhar no campo e não apenas aprendam a teoria sobre isso”, disse Bottorff. “É trabalhar em uma situação do mundo real e em um ambiente não tão controlado.”

Enquanto as universidades trabalham com departamentos de polícia para reduzir o preconceito em seu policiamento, elas precisam ter em mente os preconceitos que vêm da própria IA e garantir que eles não levem ao policiamento excessivo em bairros específicos ou à segmentação de alguns grupos demográficos em detrimento de outros. Especialistas apontaram que a IA atua com base em informações on-line limitadas — geralmente empilhadas contra comunidades marginalizadas.

Bottorff disse que uma solução possível é desenvolver dados de código aberto que não tenham um viés inerente — um possível programa de pesquisa que a Politécnica da Flórida está analisando.

“Seria, ‘Esses dados têm viés ou não?’ mas o mais importante, ‘Se o viés for de 35%, preciso dar um passo para trás’”, disse ele.

Duncan Purves, professor associado de filosofia na Universidade da Flórida, passou os últimos três anos estudando o policiamento preditivo ético, que ele disse ter “muitos problemas”, incluindo “o clássico com preconceito racial”, após receber uma bolsa da National Science Foundation.

O projeto culminou na criação de diretrizes para policiamento preditivo ético. Purves disse que instituições que trabalham com departamentos de aplicação da lei — particularmente no mundo da IA, que já foi criticado por seu viés — precisam dar tanta ênfase à ética quanto dão ao desenvolvimento e utilização de novas tecnologias.

“Você tem departamentos de polícia que querem fazer coisas, pelo menos de uma forma que não os coloque em problemas com o público, e muitos deles não sabem como, mas estão interessados”, ele disse. “Eles querem poder dizer: ‘Passamos algum tempo investindo em ética’, mas eles não são especialistas em ética — são policiais. Esta é uma forma de os acadêmicos terem um poder suave na forma como a tecnologia é implementada, e descobri que a polícia está aberta a isso.”