A UE publica o primeiro projeto de orientação regulamentar para modelos de IA de uso geral #ÚltimasNotícias #tecnologia

Na quinta-feira, a União Europeia publicou o seu primeiro rascunho de um Código de Prática para modelos de IA de uso geral (GPAI). O documento, que não será finalizado até maio, estabelece diretrizes para o gerenciamento de riscos – e dá às empresas um plano para cumprir e evitar penalidades pesadas. A Lei de IA da UE entrou em vigor em 1º de agosto, mas deixou espaço para definir as especificidades dos regulamentos GPAI no futuro. Este rascunho (via TechCrunch) é a primeira tentativa de esclarecer o que se espera desses modelos mais avançados, dando às partes interessadas tempo para enviar feedback e refiná-los antes de entrarem em ação.

GPAIs são aqueles treinados com um poder computacional total superior a 10²⁵ FLOPs. As empresas que deverão se enquadrar nas diretrizes da UE incluem OpenAI, Google, Meta, Anthropic e Mistral. Mas essa lista pode crescer.

O documento aborda diversas áreas essenciais para os criadores de GPAI: transparência, conformidade com direitos autorais, avaliação de riscos e mitigação de riscos técnicos/de governança. Este rascunho de 36 páginas cobre muito terreno (e provavelmente aumentará muito antes de ser finalizado), mas vários destaques se destacam.

O código enfatiza a transparência no desenvolvimento de IA e exige que as empresas de IA forneçam informações sobre os rastreadores da web que usaram para treinar seus modelos – uma preocupação fundamental para detentores de direitos autorais e criadores. A secção de avaliação de riscos visa prevenir ofensas cibernéticas, discriminação generalizada e perda de controlo sobre a IA (o momento senciente “isso se tornou desonesto” em um milhão de filmes de ficção científica ruins).

Espera-se que os fabricantes de IA adoptem um Quadro de Segurança e Protecção (SSF) para decompor as suas políticas de gestão de riscos e mitigá-las proporcionalmente aos seus riscos sistémicos. As regras também abrangem áreas técnicas como a proteção de dados de modelos, o fornecimento de controlos de acesso à prova de falhas e a reavaliação contínua da sua eficácia. Finalmente, a secção de governação procura a responsabilização dentro das próprias empresas, exigindo uma avaliação contínua dos riscos e trazendo especialistas externos sempre que necessário.

Tal como outras regulamentações relacionadas com a tecnologia da UE, as empresas que infringem a Lei da IA ​​podem esperar penalidades severas. Podem ser multados até 35 milhões de euros (atualmente 36,8 milhões de dólares) ou até sete por cento dos seus lucros anuais globais, o que for maior.

As partes interessadas são convidadas a enviar comentários através da plataforma Futurium dedicada até 28 de novembro para ajudar a refinar o próximo rascunho. As regras deverão ser finalizadas até 1º de maio de 2025.