A nomeação do solene de curso do Tropa, que foi o líder mais vetusto da US Cybercom, ocorre no momento em que a OpenAI tenta reprimir as críticas às suas práticas de segurança – inclusive de alguns dos atuais e ex-funcionários da empresa que alegam que o operário do ChatGPT prioriza os lucros sobre a segurança dos seus produtos. A empresa está sob crescente escrutínio depois o êxodo de vários funcionários importantes e uma epístola pública que apelou a mudanças radicais nas suas práticas.
“A OpenAI ocupa um papel único, enfrentando ameaças cibernéticas ao mesmo tempo em que é pioneira em tecnologia transformadora que pode revolucionar a forma uma vez que as instituições as combatem”, disse Nakasone ao Post em enviado. “Estou ansioso para estribar a empresa na salvaguarda de suas inovações e, ao mesmo tempo, aproveitá-las para beneficiar a sociedade em universal.”
Em meio à reação pública, a OpenAI disse que está contratando mais engenheiros de segurança e aumentando a transparência sobre sua abordagem para proteger os sistemas que impulsionam suas pesquisas. Na semana passada, um ex-funcionário, Leopold Aschenbrenner, disse num podcast que tinha escrito um memorando para o juízo da OpenAI no ano pretérito porque sentia que a segurança da empresa era “notoriamente insuficiente” para impedir um governo estrangeiro de assumir o controlo da sua tecnologia através de hackers.
SEJA PEGADO
Histórias para mantê-lo informado
Pesquisadores de segurança também apontaram que os chatbots são vulneráveis a ataques de “injeção imediata”, nos quais hackers podem invadir o sistema de computador de uma empresa por meio de um chatbot conectado aos seus bancos de dados internos. Algumas empresas também proíbem seus funcionários de usar o ChatGPT por temerem que a OpenAI possa não ser capaz de proteger adequadamente as informações confidenciais inseridas em seu chatbot.
Nakasone se junta ao juízo da OpenAI depois uma mudança dramática no juízo. Num envolvente regulamentar mais rigoroso e em esforços crescentes para digitalizar os serviços governamentais e militares, as empresas tecnológicas procuram cada vez mais membros do juízo com experiência militar. O juízo da Amazon inclui Keith Alexander, que anteriormente foi comandante do Comando Cibernético dos EUA e diretor da NSA. O Google Public Sector, uma partilha da empresa que se concentra na venda de serviços em nuvem para governos, também tem generais aposentados em seu juízo. (O fundador da Amazon, Jeff Bezos, é proprietário do The Washington Post.)
Até janeiro, a OpenAI proibia o uso de seus produtos para “militares e guerra”. A empresa afirma que a proibição foi removida para permitir usos militares alinhados com seus valores, incluindo ajuda humanitária em desastres e base a veteranos.
“Nossas políticas proibiram consistentemente o uso de nossas ferramentas, incluindo nossa API e ChatGPT, para ‘desenvolver ou usar armas, magoar outras pessoas ou destruir propriedades’”, disse a porta-voz da OpenAI, Liz Bourgeois. “Isso não mudou.” Nakasone não respondeu a um pedido de observação.
Nakasone traz para o juízo uma profunda experiência em Washington, à medida que a empresa tenta erigir uma estratégia de relações governamentais mais sofisticada e transmitir aos legisladores a mensagem de que as empresas de IA dos EUA são um baluarte contra a China.
“Queremos ter certeza de que as empresas americanas… tenham a liderança na inovação desta tecnologia, que considero a tecnologia disruptiva deste século”, disse Nakasone quando questionado sobre IA durante uma recente entrevista ao Post Live.