A Microsoft afirma que sua ferramenta de segurança de IA não apenas encontra erros, mas também os corrige #ÚltimasNotícias #tecnologia

A Microsoft está lançando um novo recurso chamado “correção” que se baseia nos esforços da empresa para combater imprecisões de IA. Os clientes que usam o Microsoft Azure para alimentar seus sistemas de IA agora podem usar a capacidade de detectar e reescrever automaticamente conteúdo incorreto em saídas de IA.

O recurso de correção está disponível em versão prévia como parte do Azure AI Studio — um conjunto de ferramentas de segurança projetadas para detectar vulnerabilidades, encontrar “alucinações” e bloquear prompts maliciosos. Uma vez habilitado, o sistema de correção escaneará e identificará imprecisões na saída de IA comparando-a com o material de origem de um cliente.

A partir daí, ele destacará o erro, fornecerá informações sobre o motivo pelo qual ele está incorreto e reescreverá o conteúdo em questão — tudo “antes que o usuário consiga ver” a imprecisão. Embora isso pareça uma maneira útil de abordar o absurdo frequentemente defendido pelos modelos de IA, pode não ser uma solução totalmente confiável.

A Vertex AI, plataforma de nuvem do Google para empresas que desenvolvem sistemas de IA, tem um recurso que “fundamenta” modelos de IA verificando resultados em relação à Pesquisa Google, aos dados da própria empresa e (em breve) a conjuntos de dados de terceiros.

Em uma declaração para TechCrunchum porta-voz da Microsoft disse que o sistema de “correção” usa “pequenos modelos de linguagem e grandes modelos de linguagem para alinhar saídas com documentos de aterramento”, o que significa que ele também não é imune a erros. “É importante notar que a detecção de aterramento não resolve a ‘precisão’, mas ajuda a alinhar saídas de IA generativas com documentos de aterramento”, disse a Microsoft TechCrunch.