o efeito da fé cega na tecnologia #ÚltimasNotícias

Estão acontecendo coisas que mostraram que surgiram dos limites muitas vezes nessa confiança
Helton Simões Gomes

No caso da Espanha, o aplicativo é o VioGén. A partir da resposta a 35 perguntas – com alternativas de “sim” ou “não” – o app concluiu se o risco de uma nova agressão doméstica é alto ou baixo. Hemid foi encaminhada de volta para casa e seu marido solto no dia seguinte, ainda que a agressão tenha usado um pedaço de madeira e feito na frente dos quatro filhos do casal, que possuem idades entre 6 e 12 anos.

Para Helton, o caso ressalta a importância de olhar para os sistemas de inteligência artificial apenas ferramentas e não como os tomadores de decisão.

Casos brasileiros recentes mostram os efeitos negativos do uso um pouco crítico e automático da inteligência artificial. Um deles foi o episódio com o personal trainer João Antônio Trindade Bastos, de 23 anos. Enquanto acompanhava a final do Campeonato Sergipano de Futebol de 2024, ele foi algemado e prolongado no meio de milhares de pessoas pela polícia. Uma prova? O sistema de reconhecimento facial é apontado como um criminoso foragido. João só foi liberado após mostrar uma carteira de identidade.

O governo suspendeu o uso do programa. No ano passado, durante uma micareta também em Sergipe, Thaís Santos foi abordada duas vezes no mesmo dia pela polícia. Também confundida pelo reconhecimento facial. Relembre a história aqui.

São três casos que mostram que os funcionários públicos acreditam tanto na tecnologia que colocam a integridade física, a honra e a saúde mental das pessoas em risco
Helton Simões Gomes