Maine está voando às cegas com tecnologia policial • Maine Morning Star #ÚltimasNotícias

Os departamentos de polícia de todo o país estão a abastecer-se de novas tecnologias, divulgando os benefícios de software melhorado e generativo alimentado por IA e de novos sistemas de câmaras para melhorar a segurança pública. Na primavera passada, o Departamento de Polícia de Portland convidou repórteres e o público a saber mais sobre seu novo sistema de realidade virtual. Os policiais posaram com fones de ouvido desajeitados e falsos tasers, elogiando os benefícios de um sistema de treinamento que vale mais do que o salário inicial de um professor.

Portland e vários outros departamentos municipais estão atualmente testando software de transcrição de IA para câmeras corporais. O próximo brinquedo de alta tecnologia? Drones de vigilância. O Departamento de Polícia de Portland está atualmente solicitando um drone, alegando falta de pessoal e o que considera benefícios tecnológicos inegáveis ​​dos dispositivos de vigilância. No início deste mês, o Comitê de Saúde e Serviços Humanos da Câmara Municipal avançado a proposta ao conselho pleno em uma votação dividida, 2-2. Espera-se que receba uma votação completa do conselho em outubro.

Os fornecedores de tecnologia que fabricam câmaras corporais, drones e o software que os alimenta fazem afirmações ousadas sobre a sua eficácia, provavelmente na esperança de criar uma narrativa de inevitabilidade para esta tecnologia, em grande parte não testada.

Políticas de vigilância do Maine inadequadas

À medida que as agências de aplicação da lei no Maine adoptam e compram novas tecnologias de policiamento, as leis e regulamentos que regem essa tecnologia são lamentavelmente inadequados. Isto é algo sério: a tecnologia avançada de policiamento pode ser usada para criar provas falsas, vigiar os cidadãos e levar a detenções injustas e penas de prisão.

O leis atuais no Maine que regem o uso de drones pelas autoridades policiais foram escritos em 2015, muito antes de a maior parte desta tecnologia ter entrado no mercado. A própria lei fornece algumas diretrizes úteis para o uso de drones, mas quase não tem transparência ou mecanismos de fiscalização associados. Apesar do fato de que a tecnologia em si vem com extensos recursos de relatórios, rastreamento e análise sofisticados, nenhuma dessas informações precisa ser fornecida ao público ou ao Legislativo do Maine. Não sabemos quando essas agências utilizaram drones, para onde exatamente foram, o que registraram ou se o uso de um drone foi justificado. Na verdade, há pouco para definir “sucesso” e nenhuma ferramenta para comparar a implantação de drones entre departamentos. A nossa política estatal sobre a utilização da IA ​​na aplicação da lei é ainda mais fraca: não existe uma política abrangente que descreva como, quando e onde os departamentos podem utilizar a IA de forma responsável.

Um conjunto de serviços em constante expansão

Apesar de citar uma extrema necessidade de tecnologia avançada fornecida por estas empresas, a capacidade tecnológica do próprio estado ainda está presa numa terra de formulários em papel, PDFs e sites que parecem não ter mudado desde a década de 1990. Trabalho na área de tecnologia cívica há mais de dez anos, organizando e trabalhando para melhorar e construir software de interesse público. A capacidade tecnológica do estado do Maine, incluindo a capacidade de contratar e reter gerentes de produto, engenheiros de software e designers qualificados, piorou indiscutivelmente ao longo dos anos, mesmo quando contratos massivos de tecnologia para fornecedores terceirizados sejam aprovados.

A forma como muitos governos locais compram e mantêm software tecnológico neste momento é comparável à compra de um carro novo sem saber nada sobre carros, como conduzi-los ou que perigo podem causar. Você confia no revendedor para fazer recomendações sobre qual modelo você adquirirá. Você confia no revendedor para adicionar os recursos necessários. Você confiará no revendedor para ensiná-lo a dirigir (mediante pagamento, é claro). E aqui está o problema: o carro custa apenas metade do custo total. Em vez de apenas comprar o equipamento, você também confia no revendedor para lhe fornecer um plano contínuo de manutenção e software que somente o revendedor pode fornecer. O plano não é caro agora, mas é renovado a cada três anos, de preferência para sempre. O que poderia dar errado?

Assim como acontece com os headsets de realidade virtual VR de quase US$ 70 mil, o caso do Departamento de Polícia de Portland para adquirir o drone é reforçado pelo fato de que ele é já pago! Os contribuintes locais não pagarão a conta porque vários subsídios federais e fundos confiscados cobrem a conta.

No entanto, isso é apenas para adquirir a tecnologia. Os programas de drones também incluem um conjunto completo de software e treinamento. Essas empresas ganham mais dinheiro com software e serviços do que com hardware. A Polícia de Portland não poderá atualizar ou consertar seu próprio equipamento: todos os custos de manutenção, treinamento e software são cobertos por fornecedores de software cujos modelos de negócios dependem de um conjunto contínuo e em constante expansão de serviços.

Localmente e em nível estadual, os governos estão lamentavelmente despreparados para regular e gerenciar tecnologias como drones e transcrição de IA. Os Comissários do Condado de Somerset acabei de aprovar um enorme contrato de US$ 840 mil com a Axon, o mesmo fabricante que fabrica os drones que Portland deseja comprar. Axon também fabrica câmeras corporais agora comum em departamentos em todo o estado. A falta de regulamentação básica no Maine é um ganho da Axon.

Quem é vigiado?

Com 29 drones em sua força policial, a cidade de Chula Vista, Califórnia, fornece um estudo de caso para o uso de drones pela aplicação da lei. UM Investigação com fio publicado em junho, analisou 10.000 registros de voos de drones policiais e descobriu que “as trajetórias de voo dos drones traçam um mapa da desigualdade da cidade, com os moradores mais pobres experimentando muito mais exposição às câmeras e rotores dos drones do que seus colegas mais ricos”.

Os drones policiais possuem câmeras que podem capturar claramente os rostos das pessoas e permitir que a agência registre regularmente áreas inteiras da cidade. Os moradores de bairros excessivamente vigiados em Chula Vista relataram, compreensivelmente, a sensação de serem constantemente vigiados. A lógica circular apoia estes esforços: procure o crime e você o encontrará. Use essas evidências de crime para apoiar o aumento da vigilância. Neste caso e em muitos outros, a privacidade é um direito usufruído apenas pelas partes brancas e mais ricas da cidade.

Um caminho a seguir

Aqui está uma proposta razoável sobre o uso da tecnologia nas cidades: não compre drones. Não permita o uso de IA em câmeras corporais. Não compre fones de ouvido de realidade aumentada. Não compre câmeras ou sensores ou mesmo “luzes de rua inteligentes” até que o estado do Maine e todos os municípios que desejam aproveitar esta tecnologia possam provar razoavelmente que cada legislador que vota em tais propostas pode explicar como e por que um sistema de dados funciona padrão, o que é uma interface de programação de aplicativo (ou API) e como os modelos de IA são treinados.

Então, precisamos de uma declaração abrangente de direitos de privacidade de dados que cubra todas as pessoas do estado. A privacidade não deve ser determinada pela raça ou pelo rendimento e deve ser protegida e aplicada. A literacia tecnológica básica deve ser uma base para a regulamentação da tecnologia no interesse público. Não é pedir demais que os decisores políticos e as agências que utilizam esta tecnologia compreendam como ela funciona e as implicações para a sua utilização, para além do que é fornecido num folheto de vendas. Não deveríamos voar às cegas quando se trata de qualquer tecnologia e especialmente de tecnologia que possa vigiar e prender residentes.