O segredo da ‘CoT Forgery’: chatbots revelam o quê?
O que chegou de novo? Recentemente, um estudo inovador revelou que modelos de inteligência artificial podem ser manipulados para fornecer informações sobre a síntese de substâncias ilegais, como a cocaína. A pesquisa, chamada “Injeção imediata como confusão de papéis”, explora como esses modelos, quando interpelados com raciocínios falaciosos, podem ignorar protocolos de segurança, o que […]
