Uma nova extensão do Chrome pode detectar vozes geradas por IA com segurança #ÚltimasNotícias #tecnologia

Bem a tempo para as eleições de 2024 nos EUA, a empresa de triagem de chamadas e detecção de fraudes Hiya lançou uma extensão gratuita do Chrome para detectar vozes falsas. O apropriadamente chamado Hiya Deepfake Voice Detector “escuta” vozes reproduzidas em fluxos de vídeo ou áudio e atribui uma pontuação de autenticidade, informando se é provável que seja real ou falso.

Hiya disse ao Engadget que testadores terceirizados validaram a extensão com mais de 99% de precisão. A empresa diz que cobre até mesmo vozes geradas por IA nas quais o modelo de detecção não foi treinado, e a empresa afirma que pode detectar vozes criadas por novos modelos de síntese assim que forem lançados.

Brincamos com a extensão antes do lançamento e parece funcionar bem. Encontrei um vídeo no YouTube sobre o pioneiro do blues Howlin’ Wolf, que suspeitava que usava narração de IA, e atribuí-lhe uma pontuação de autenticidade de 1/100, declarando-o provavelmente um deepfake. Suspeitas confirmadas.

Continue após a publicidade

Hiya deu um golpe bem merecido nas empresas de mídia social por tornarem tal ferramenta necessária. “Está claro que os sites de mídia social têm uma enorme responsabilidade de alertar os usuários quando o conteúdo que eles estão consumindo tem grandes chances de ser um deepfake de IA”, escreveu o presidente da Hiya, Kush Parikh, em um comunicado à imprensa. “Atualmente, a responsabilidade recai sobre o indivíduo de estar atento aos riscos e usar ferramentas como nosso Deepfake Voice Detector para verificar se ele está preocupado com a alteração do conteúdo. Essa é uma grande tarefa, por isso estamos satisfeitos em poder apoiá-los com uma solução que ajuda a colocar parte do poder de volta em suas mãos.”

A extensão só precisa ouvir alguns segundos de uma voz para emitir um resultado. Ele funciona em um sistema de crédito para evitar que os servidores do Hiya sejam atingidos por solicitações excessivas. Você receberá 20 créditos diariamente, que podem ou não cobrir a enxurrada de conteúdo manipulativo de IA que você encontrará nas redes sociais nas próximas semanas.