Autoridades de Maryland são cautelosas sobre IA #ÚltimasNotícias

À medida que a inteligência artificial corre para o mainstream, os governos locais e engenheiros já encontraram algumas eficiências. Ainda assim, devido a questões sobre o que o software faz com as informações inseridas, as autoridades de Maryland dizem que estão abordando a tecnologia emergente com extrema cautela.

“Como governo, não fazemos testes beta”, disse Chris Martin, diretor interino de informação e tecnologia do Condado de Baltimore. “Não colocamos nossos constituintes e clientes naquela posição em que a tecnologia muda de curso e não temos certeza para onde ela está indo. Isso é uma dor de cabeça a longo prazo.”

Em janeiro, o governador Wes Moore emitiu uma ordem executiva que diz que a inteligência artificial pode ser “uma tremenda força para o bem”, ao mesmo tempo em que reconhece potenciais violações de privacidade e dados. A ordem também criou um subgabinete de inteligência artificial presidido pela Secretária de Tecnologia da Informação de Maryland, Katie Savage, e incluindo outros chefes de gabinete e diretores de departamento para supervisionar a governança da tecnologia no estado.

Das listas de eleitores aos históricos médicos, Savage disse que está preocupada em proteger os dados do estado.

“O elemento mais importante dessa tecnologia são os dados subjacentes”, disse Savage. “Quais direitos as pessoas têm? Estamos colocando proteções em prática? Quais são os termos e condições de terceiros?”

Em março, o prefeito da cidade de Baltimore, Brandon Scott, emitiu uma ordem executiva que exige a divulgação do uso de IA generativa para qualquer relatório, documento ou comunicação do governo municipal e proíbe o upload de informações privadas em um aplicativo como o ChatGPT.

“Divulgar informações para uma ferramenta de inteligência artificial, site ou programa constitui liberar essas informações para fora da agência da cidade”, disse Scott em sua ordem executiva. Autoridades da cidade recusaram um pedido de entrevista sobre a implementação da ordem executiva.

O Dr. Kofi Nyarko, professor do Departamento de Engenharia Elétrica e de Computação da Morgan State University, disse que IA é uma palavra da moda para aprendizado de máquina, que não é um campo de estudo novo, mas um campo em que se investe muito desde que o Alexa da Amazon foi lançado em 2014.

“O aprendizado de máquina tradicional conseguiu classificar se isso é spam ou não spam, fraude ou não fraude, mas a IA generativa está lhe dando informações de volta”, disse Nyarko. “Ainda não aprendemos como torná-lo tão confiável e preciso quanto outras formas de aprendizado de máquina.”

Alguns dos alunos de pós-graduação de Nyarko projetaram uma cadeira de rodas para aeroporto que um dia poderá ajudar a tornar grandes espaços públicos mais acessíveis, escaneando bilhetes e rolando até o portão correto.

Nyarko disse que os governos, que abrigam tesouros de dados pessoais, devem ser cautelosos com as informações que a inteligência artificial pode coletar. Por exemplo, ele disse, uma câmera rastreando padrões de tráfego ou segurança escolar pode estar minerando outros dados sem o conhecimento de uma agência governamental.

“Eles precisam se preocupar. O público depositou uma certa confiança no governo”, disse Nyarko. “O perigo, eu acho, é a acessibilidade em ferramentas como o ChatGPT. É muito fácil para um funcionário do governo pensar, ‘Posso simplesmente enfiar alguns dados aqui para ler algum relatório ou ter uma visão geral de algum curso de ação’, mas agora você está compartilhando informações realmente sensíveis com IA aberta de uma forma que o público não concordou, então é realmente muito complicado.”

Nyarko disse que recomenda armazenar dados em servidores internos em vez de terceirizar espaço na nuvem. Savage disse que o estado gerencia “vários” data centers que hospedam aplicativos governamentais e uma rede sem fio para agências governamentais estaduais, e tem contratos com o Google e a Microsoft para armazenamento em nuvem e outros serviços da web. Ela disse que seu departamento também orienta a aquisição em quaisquer contratos estaduais de tecnologia da informação.

“Seja um piloto ou uma aquisição completa, há essa negociação em torno dos termos e condições de terceiros”, disse Savage. “Se for um terceiro em que o aplicativo é armazenado em seus próprios servidores, queremos ter certeza de que os dados do estado estejam protegidos.”

Jack Martin, diretor de informações do Condado de Anne Arundel, disse que gerencia mais de 200 prédios em uma rede sem fio e sistemas de chamada de emergência. Ele disse que o condado não tem seus próprios servidores de dados e contrata serviços de nuvem do norte da Virgínia.

Martin disse que o momento da IA ​​generativa é diferente dos avanços tecnológicos anteriores, como a pesquisa do Google.

“As empresas geralmente não liberam software beta. Elas geralmente esperam até que esteja completo. Claramente, [AI] não está totalmente cozido. Ele tem muito potencial, mas algo que é diferente sobre isso em comparação com o lançamento original do Google é que não recebemos o beta do Google”, disse Martin.

Martin disse que, assim como Baltimore City, as agências governamentais do Condado de Anne Arundel que buscam usar IA generativa devem se registrar em seu escritório e concordar com pesquisas sobre como ela está funcionando. Ele disse que a tecnologia ajudou a resumir e classificar solicitações 311 e a fazer pesquisas de feedback, mas uma tentativa de criar um banco de dados para ajudar os contratados a descobrir quais licenças eles precisavam falhou.

Nishant Shah, consultor sênior de IA no gabinete de Savage, disse que o estado também está explorando como usar IA para encurtar o tempo de resposta dos pedidos de autorização.

Martin disse que os resultados imprevisíveis ainda são um sinal de alerta.

“Desde o início dos tempos, você constrói software para ter uma resposta completamente previsível. Quando os usuários realizam uma determinada transação, eles estão obtendo uma resposta muito específica a cada vez — isso é engenharia”, disse Martin. “Isso é completamente diferente do que estamos acostumados.”