Alguns serviços policiais no Canadá estão usando tecnologia de reconhecimento facial para ajudar a solucionar crimes, enquanto outras forças policiais dizem que questões de direitos humanos e privacidade os impedem de empregar essas poderosas ferramentas digitais.
É esta emprego desigual da tecnologia – e as regras flexíveis que regem a sua utilização – que leva os especialistas jurídicos e de IA a recorrer ao governo federalista para estabelecer padrões nacionais.
“Até que haja uma melhor compreensão dos riscos envolvidos no uso dessa tecnologia, deve ter uma moratória ou uma série de proibições sobre uma vez que e onde ela pode ser usada”, diz Kristen Thomasen, professora de recta na Universidade da Colúmbia Britânica.
Outrossim, a colcha de retalhos de regulamentações sobre tecnologias biométricas emergentes criou situações em que os direitos de privacidade de alguns cidadãos são mais protegidos do que outros.
“Acho que o indumentária de termos diferentes forças policiais tomando medidas diferentes levanta preocupações [about] desigualdades e uma vez que as pessoas são tratadas em todo o país, mas [it] também destaca a valimento contínua de qualquer tipo de ação federalista a ser tomada”, disse ela.
Os sistemas de reconhecimento facial são uma forma de tecnologia biométrica que usa IA para identificar pessoas comparando imagens ou vídeos de seus rostos — geralmente capturados por câmeras de segurança — com imagens existentes deles em bancos de dados. A tecnologia tem sido uma instrumento controversa nas mãos da polícia.
Em 2021, o Escritório do Comissário de Privacidade do Canadá descobriu que a RCMP violou as leis de privacidade ao usar a tecnologia sem o conhecimento do público. Nesse mesmo ano, a polícia de Toronto admitiu que alguns dos seus agentes usaram software de reconhecimento facial sem informar o seu director. Em ambos os casos, a tecnologia foi fornecida pela empresa norte-americana Clearview AI, cuja base de dados era composta por milhares de milhões de imagens extraídas da Internet sem o consentimento daqueles cujas imagens foram utilizadas.
No mês pretérito, a polícia de York e Peel, em Ontário, disse que começou a implementar a tecnologia de reconhecimento facial fornecida pela multinacional francesa Idemia. Em uma entrevista, York PoliceConst. Kevin Nebrija disse que as ferramentas “ajudam a apressar as investigações e a identificar os suspeitos mais cedo”, acrescentando que em termos de privacidade, “zero mudou porque as câmeras de segurança estão por toda segmento”.
Uma startup de meio de notícias 24 horas com sede no sul da Califórnia tem uma diferença: todos os repórteres e a produção são gerados por IA. Jean-François Bélanger, da CBC, explora o que o Ducto 1 é promissor e por que alguns estão preocupados com o que isso pode valer para a indústria de notícias.
No entanto, na vizinha Quebec, o director de polícia de Montreal, Fady Dagher, diz que a força não adotará essas ferramentas de identificação biométrica sem um debate sobre questões que vão desde direitos humanos até privacidade.
“Será alguma coisa que exigirá muita discussão antes de pensarmos em colocá-lo em prática”, disse Dagher em uma entrevista recente.
Nebrija enfatizou que o departamento consultou o Comissário de Privacidade de Ontário sobre as melhores práticas, acrescentando que as imagens que a polícia irá comprar serão “obtidas legalmente”, seja com a cooperação dos proprietários das câmeras de segurança ou pela obtenção de ordens judiciais para as imagens.
É necessária luz verdejante do tribunal: técnico
E embora a polícia de York insista que os policiais buscarão mando judicial, Kate Robertson, pesquisadora sênior do Citizen Lab da Universidade de Toronto, disse que as forças policiais canadenses têm um histórico de fazer exatamente o oposto.
Desde as revelações sobre a polícia de Toronto usando Clearview AI entre 2019 e 2020, Robertson disse que “ainda não tem conhecimento de nenhum serviço policial no Canadá que esteja obtendo aprovação prévia de um juiz para usar tecnologia de reconhecimento facial em suas investigações”.
De conciliação com Robertson, obter o sinal verdejante do tribunal, geralmente na forma de um mandado, representa o “padrão ouro de proteção de privacidade em investigações criminais”. Isso garante que uma instrumento de reconhecimento facial, quando usada, seja adequadamente equilibrada com o recta à liberdade de frase, liberdade de reunião e outros direitos consagrados na Missiva.
Embora o governo federalista não tenha jurisdição sobre as forças policiais provinciais e municipais, ele pode mudar o Código Penal para incorporar requisitos legais para software de reconhecimento facial da mesma forma que atualizou a lei para abordar tecnologias de gravação de voz que podem ser usadas para vigilância.
Em 2022, os chefes federais, provinciais e territoriais das comissões de privacidade do Canadá apelaram aos legisladores para estabelecerem um quadro jurídico para a utilização adequada da tecnologia de reconhecimento facial, incluindo a capacitação de órgãos de supervisão independentes, a proibição da vigilância em volume e a limitação do tempo de retenção das imagens nas bases de dados.
Enquanto isso, o Departamento Federalista de Desenvolvimento Econômico disse que a lei canadense “poderia potencialmente” regular a coleta corporativa de informações pessoais, sob a Lei de Proteção de Informações Pessoais e Documentos Eletrônicos, ou PIPEDA.
Um novo relatório alerta o governo dos EUA que se os laboratórios de lucidez sintético perderem o controlo dos sistemas de IA sobre-humanos, isso poderá simbolizar uma prenúncio de extinção para a espécie humana. O CEO da Gladstone AI, Jeremie Harris, coautor do relatório, juntou-se à Power & Politics para discutir os perigos do rápido progressão dos sistemas de IA.
“Se, por exemplo, uma força policial, incluindo a RCMP, contratasse atividades que usam informações pessoais para uma empresa privada que conduz atividades comerciais, portanto essas atividades poderiam ser regulamentadas pela PIPEDA, incluindo serviços relacionados a tecnologias de reconhecimento facial”, disse o departamento.
A polícia provincial de Quebec também tem contrato com a Idemia, mas não disse exatamente uma vez que usa a tecnologia da empresa.
Em um expedido enviado por e-mail, a polícia disse que seu “sistema automatizado de confrontação facial não é usado para verificar a identidade de indivíduos. Esta instrumento é usada para investigações criminais e está limitada às fichas de dados de indivíduos cujas impressões digitais foram coletadas de conciliação com a Lei de Identificação de Criminosos. .”
A técnico em governança de IA Ana Brandusescu disse que Ottawa e as forças policiais do país não atenderam aos apelos por melhor governança, transparência e responsabilização na compra de tecnologia de reconhecimento facial.
“A emprego da lei não está a ouvir os académicos, os especialistas da sociedade social, as pessoas com experiência vivida, as pessoas que são directamente prejudicadas”, disse ela.