IA privada: percebendo o valor da IA ​​no governo e ao mesmo tempo controlando os custos e riscos da inovação #ÚltimasNotícias

Autores:
Massimiliano Palmas, Diretor de Pesquisa, Insights Governamentais
Arão Walker, Gerente de Pesquisa, Estratégia de Confiança e Resiliência do Governo

Postagem de convidado do IDC

Os governos federal, estadual, local e tribal perceberam os benefícios da IA ​​há anos – especialmente em agências fiscais e fiscais¹agências de saúde e serviços humanos_²segurança interna³e a defesa e inteligência⁴ comunidade. Os elementos fundamentais da IA ​​generativa (GenAI) desenvolveram-se ao longo da última década; no entanto, o advento das ferramentas GenAI para o consumidor, com capacidades multimodais e fáceis de utilizar, despertou o interesse entre os líderes tecnológicos governamentais globais. À medida que compreenderam as oportunidades da GenAI, as agências governamentais começaram a definir um roteiro para aumentar a produtividade dos funcionários, melhorar a experiência dos cidadãos, integrar dados, melhorar a resiliência digital e, eventualmente, automatizar processos de ponta a ponta através da orquestração multiagente.

Os líderes governamentais concluíram rapidamente que “o uso irresponsável (da IA) poderia exacerbar os danos sociais, como a fraude, a discriminação, o preconceito e a desinformação; deslocar e enfraquecer os trabalhadores; sufocar a concorrência; e representam riscos para a segurança nacional.”⁵ Portanto, vários governos emitiram diretrizes para garantir o uso responsável da IA, incluindo (mas não limitado a):

• A Ordem Executiva dos EUA sobre o Desenvolvimento e Uso Seguro, Protegido e Confiável de Inteligência Artificial, afirmando que o governo federal deve liderar na gestão “dos riscos do uso de IA pelo próprio Governo Federal e aumentar sua capacidade interna para regular, governar e apoiar o uso responsável da IA”
• A Estrutura de Gestão de Risco de IA do NIST dos EUA, que visa ajudar o setor privado e os governos a “incorporar considerações de confiabilidade no projeto, desenvolvimento, implantação e uso de sistemas de IA”⁶
• A Lei de IA da UE, aprovada em 2024, padroniza os requisitos para soluções de IA no mercado, proíbe a IA em certos sistemas de alto risco, cria requisitos de transparência e aplica-se à UE e a quaisquer fornecedores ou empresas de países terceiros que coloquem sistemas de IA na UE. mercado. A Comissão Europeia também criou o Gabinete de IA da UE, que visa coordenar, desenvolver, implementar e fazer cumprir as políticas de IA em toda a UE.
• A lei abrangente sobre IA da Coreia do Sul, que está sob revisão pela Assembleia Nacional, inclui um quadro regulamentar, normas sobre direitos de autor de conteúdos gerados por IA e garante o acesso dos programadores às tecnologias de IA. O objetivo é promover o crescimento da indústria de IA da Coreia, ao mesmo tempo que impõe requisitos mais rigorosos aos sistemas de alto risco.
• O G7 lançou o Processo de IA de Hiroshima sob a presidência do Japão em 2023, é um quadro político abrangente centrado na análise do risco da IA, no desenvolvimento de princípios orientadores para a IA, na criação de um código de conduta e na promoção da cooperação em apoio ao desenvolvimento responsável de soluções de IA.

Estas políticas deram um impulso adicional aos investimentos dos governos em IA e aceleraram o desejo dos líderes governamentais de trabalhar com parceiros tecnológicos para identificar plataformas e infraestruturas específicas de IA que maximizam o valor do investimento, controlando simultaneamente custos e riscos.

Fazendo escolhas estratégicas de implantação para maximizar o valor da IA ​​e, ao mesmo tempo, controlar os riscos e custos da inovação

À medida que cresce a necessidade de implementar IA de forma responsável, em infraestruturas de alto desempenho, escaláveis ​​e seguras e em plataformas ágeis de desenvolvimento de dados e aplicações, os líderes tecnológicos governamentais, incluindo os diretores de inteligência artificial (CAIOs) e os diretores de dados (CDOs), têm trabalhado com CIOs e CTOs para explorar caminhos alternativos para padronizar políticas de governança e adotar IA com segurança.

Os líderes empresariais e de TI do governo estão explorando recursos privados de IA para serem implantados no local ou em ambientes sandbox ou hospedados. A IDC define IA privada como o uso de infraestrutura de datacenter empresarial e recursos de estrutura de IA por profissionais de TI para desenvolver/implantar fluxos de trabalho de IA/ML específicos da empresa. A IA privada pode incluir fornecedores interconectados ou instalações de propriedade da empresa que podem hospedar os ativos do datacenter. Ao usar IA privada, as empresas também procurarão plataformas de IA que suportem opções de implantação híbrida que lhes permitam controlar o desenvolvimento e o uso de modelos.

A tecnologia governamental e os líderes empresariais que investem em capacidades privadas de IA fazem-no para maximizar:

1. Controle sobre localização, conformidade, acesso e segurança dos dados. Em todo o mundo, os decisores políticos estão a aumentar os requisitos de soberania digital. De acordo com o IDC Soberania Digital pesquisa, 45% dos executivos de TI do governo reconhecem a necessidade de manter um equilíbrio desafiador entre a inovação em IA e a soberania digital. A IA privada permite que CAIOs governamentais e outros líderes tenham controle direto sobre procedimentos e ferramentas para controlar a governança, a soberania e a segurança dos dados.
2. Previsibilidade das despesas de capital. Embora “a aquisição mais rápida de ferramentas de IA generativa possa não ser uma nova aquisição, ou ser tão simples quanto usar um contrato de plataforma de nuvem existente para acessar ferramentas de IA generativa”, deve-se reconhecer que, além das assinaturas de nuvem, os provedores de serviços de nuvem cobram pelo uso, níveis em destaque e muito mais, aumentando o risco de perder o controle dos custos.
3. Propriedade de escolhas arquitetônicas estratégicas sobre infraestrutura de TI, dados, modelos e aplicativos. Embora mais de 60% dos governos a nível mundial pensem que a GenAI já está a perturbar significativamente as suas organizações ou o fará nos próximos 18 meses,⁷ a maioria deles está nos estágios iniciais dessa jornada. Portanto, é imperativo garantir que a modelagem, a codificação e outros componentes arquitetônicos sejam à prova de futuro. A IA privada fornece aos líderes de TI do governo um caminho para controlar melhor os riscos de aprisionamento. Adotar uma abordagem de plataforma normalmente permite mais flexibilidade para utilizar ferramentas e APIs de vários fornecedores e atualizar serviços sem interrupções. As plataformas fornecem melhor dimensionamento da nuvem e menores requisitos de recursos ao reunir a infraestrutura de IA.

Principais considerações para os governos que investem em IA privada

A IA privada pode ajudar os CAIOs governamentais e outros líderes de TI a acelerar o tempo de obtenção de valor da IA ​​e da GenAI, ao mesmo tempo que controlam os seus riscos e custos. À medida que os líderes adotam a IA privada, devem considerar as seguintes áreas de investimento:

1. A necessidade de investir em capacidade e competências para traduzir as políticas nacionais em soluções que lhes permitam implementar IA privada com controlos de governação de dados e soluções de segurança cibernética apropriados
2. A necessidade de alinhar capacidades privadas de IA com casos de uso que possuem atributos, como escalabilidade previsível e requisitos de desempenho, e múltiplas dependências de interoperabilidade que justificam o investimento
3. A necessidade de investir em IA e arquitetura de dados e competências de engenharia que possibilitem os melhores recursos da categoria em plataformas privadas de IA e integrem-nas a cargas de trabalho executadas em outros ambientes

Os líderes também devem considerar os benefícios de uma abordagem de plataforma que permita maior flexibilidade para experimentar e utilizar novos modelos e serviços de IA à medida que as condições do mercado mudam. Essas plataformas devem vir com ferramentas e automação integradas, reduzindo significativamente a necessidade de manter conjuntos de habilidades internas especializadas para garantir o sucesso. Ao investir estrategicamente nestas áreas e ao alavancar uma abordagem de plataforma, os CAIOs governamentais e os líderes de TI podem maximizar os benefícios da IA ​​privada, ao mesmo tempo que gerem eficazmente os seus riscos e custos.

Conclusão

A IDC acredita que os mercados de IA e GenAI do setor público continuarão a crescer rapidamente nos próximos anos, com base em casos de uso emergentes que demonstram a capacidade da tecnologia de ajudar as organizações governamentais a alcançar os resultados de missão desejados.

As soluções privadas de IA podem ajudar as organizações governamentais a capacitar cidadãos e funcionários com melhor usabilidade e automação, navegar na IA de forma responsável e maximizar os retornos sobre os investimentos em IA, ao mesmo tempo em que implantam com segurança a IA privada, sem aumentar o risco de perda de dados confidenciais, para garantir que soluções inovadoras sejam seguras e à prova de futuro.