Grandes empresas de tecnologia lucram com a desordem. Não deixe que elas usem esses tumultos para pressionar por mais vigilância | Shami Chakrabarti #ÚltimasNotícias

FOs tumultos da direita ar-right podem não ser o momento mais calmo para um debate razoável sobre a regulamentação das grandes empresas de tecnologia, mas a erupção da violência racista na Inglaterra e na Irlanda do Norte levanta questões urgentes sobre as responsabilidades das empresas de mídia social e como a polícia usa a tecnologia de reconhecimento facial. Embora a mídia social não seja a raiz desses tumultos, ela permitiu que conteúdo inflamatório se espalhasse como fogo e ajudou os manifestantes a se coordenarem. Keir Starmer prometeu abordar a impunidade online e aumentar o uso da tecnologia de reconhecimento facial ao vivo. Devemos aplaudir a primeira, mas ser muito cautelosos com a última ideia.

Ambas as tecnologias têm implicações profundas para a responsabilização democrática. Veja as mídias sociais. Estamos acostumados ao ditado de que o que é ilegal no mundo real também é ilegal no universo virtual. Mas, na prática, anos de cortes no sistema de justiça o deixaram mal equipado para lidar com o crescimento de conteúdo racista e inflamatório online. Ameaças violentas explícitas e incitações à violência não foram policiadas, e informações perigosas e deliberadas se espalharam. Ambas podem ser armas usadas por atores hostis, incluindo estados inimigos.

O grande elefante na sala é a riqueza, o poder e a arrogância dos grandes imperadores da tecnologia. Os bilionários do Vale do Silício são mais ricos do que muitos países. Alguns acreditam que podem comprar políticos atuais e aposentados recentemente, e se veem acima da democracia e da lei. Que estados modernos maduros devam permitir a eles liberdade irrestrita para regular o conteúdo que monetizam é ​​uma abdicação grosseira do dever, dado seu vasto interesse financeiro em monetizar a insegurança e a divisão. Elon Musk é o árbitro legítimo para decidir se as transmissões de mídia social do Sr. Yaxley-Lennon são uma ameaça à ordem e segurança públicas no Reino Unido ou em qualquer outro lugar? Não é hora de termos processos judiciais que permitam a remoção de material específico e o bloqueio proporcional de certos usuários?

Perguntas semelhantes surgem na ponta afiada da aplicação da lei em torno do uso do reconhecimento facial. Nos últimos anos, essa tecnologia tem sido usada em nossas ruas sem nenhum debate público significativo ou qualquer autorização parlamentar. Não sonharíamos em permitir que grampos telefônicos, retenção de DNA ou mesmo poderes de parada, busca e prisão fossem tão desregulamentados pela lei, mas foi exatamente isso que aconteceu com o reconhecimento facial, graças a um governo conservador que foi descuidado tanto com a lei quanto com a distribuição de dinheiro público para contratantes privados.

Nossas imagens faciais são coletadas em massa por meio de câmeras de CFTV, banco de dados de passaportes e internet. Em nenhum momento fomos questionados sobre isso, nem há qualquer base legal estatutária para isso. As pessoas são colocadas em “listas de observação” sem critérios estatutários. Essas listas geralmente incluem vítimas e pessoas vulneráveis ​​ao lado de “pessoas de interesse” e criminosos condenados. Forças policiais individuais firmaram contratos diretos com empresas privadas de sua escolha, fazendo acordos opacos para negociar nossos dados pessoais altamente confidenciais com empresas privadas que os usam para desenvolver tecnologia proprietária. E não há nenhuma lei específica que governe como a polícia, ou empresas privadas como varejistas, são autorizadas a usar essa tecnologia.

O reconhecimento facial é incrivelmente intrusivo e capaz de atingir vigilância social completa. Ele também pode criar injustiça significativa, particularmente quando é implantado em tempo real, em vez de depois que um crime é capturado pela câmera. Ao vivo o reconhecimento facial depende de câmeras situadas em locais públicos que capturam todos que passam. Isso aumenta o risco de correspondências de falsos positivos, onde membros do público são identificados incorretamente e sinalizados para a polícia ou equipe de segurança. A menos que essa pessoa possa persuadir um policial de que não é a pessoa na lista, ela corre o risco de enfrentar uma parada e busca intrusiva, ou até mesmo uma prisão.

Isso representa uma grande ameaça às liberdades civis de todos, mas há outras preocupações sobre preconceito racial. Especialistas do Big Brother Watch acreditam que a taxa de imprecisão do reconhecimento facial ao vivo desde que a polícia começou a usá-lo é de cerca de 74%, e há muitos casos pendentes sobre identidades falsas positivas. Um envolveu um trabalhador jovem negro que foi sujeito a uma correspondência falsa e detido na rua mesmo depois de ter se identificado para a polícia. Outro envolveu uma adolescente (que também era negra) que foi sujeita a uma revista e expulsa de uma loja após ser informada de que havia sido banida. Novamente, a câmera de reconhecimento facial da loja a identificou incorretamente. Como os operadores dos correios testemunharão, tais são os perigos humanos de acreditar na infalibilidade da máquina.

Na Europa, o AI Act, que entrou em vigor na UE em 1º de agosto, proíbe o uso de reconhecimento facial ao vivo em qualquer circunstância que não seja extrema (como uma ameaça terrorista iminente). Por que o Reino Unido não tem algo semelhante? Se quisermos liderar o mundo em novas tecnologias empolgantes, certamente devemos buscar regulá-las como nossos parceiros internacionais fazem. Até agora, a polícia e o governo permaneceram em silêncio sobre esse buraco negro legal.

Quando lobistas corporativos desembarcarem em Liverpool para a primeira conferência partidária de um novo governo trabalhista em setembro, os ministros não devem ser dissuadidos de tornar as grandes empresas de tecnologia mais justamente responsáveis. Nem devem as empresas receber contratos ainda mais irresponsáveis ​​por tecnologia intrusiva que substitui o código legal por código de computador opaco. A vigilância social total é um substituto perigoso e pobre para a cooperação e o policiamento comunitários liderados por inteligência. Faixas VIP e bate-papos aconchegantes com bilionários em Bletchley Park devem ser substituídos por processo parlamentar e legislação primária. Isso não apenas protegeria nossas liberdades sob a lei, mas também poderia ajudar a reconstruir a confiança das pessoas na política.

• Você tem uma opinião sobre as questões levantadas neste artigo? Se você quiser enviar uma resposta de até 300 palavras por e-mail para ser considerada para publicação em nossa seção de cartas, clique aqui.