Ilya Sutskever, cofundador e ex-cientista-chefe da OpenAI, está iniciando uma novidade empresa de IA focada em segurança. Em uma postagem na quarta-feira, Sutskever revelou a Safe Superintelligence Inc. (SSI), uma startup com “um objetivo e um resultado:” gerar um sistema de IA seguro e poderoso.
O proclamação descreve a SSI porquê uma startup que “aborda a segurança e as capacidades em conjunto”, permitindo que a empresa avance rapidamente no seu sistema de IA, ao mesmo tempo que dá prioridade à segurança. Ele também labareda a atenção para a pressão externa que as equipes de IA de empresas porquê OpenAI, Google e Microsoft frequentemente enfrentam, dizendo que o “foco uno” da empresa permite evitar “distração por sobrecarga de gerenciamento ou ciclos de resultado”.
“Nosso padrão de negócios significa que a segurança, a proteção e o progresso estão todos isolados das pressões comerciais de limitado prazo”, diz o proclamação. “Dessa forma, podemos escalar em tranquilidade.” Além de Sutskever, a SSI é cofundada por Daniel Gross, ex-líder de IA da Apple, e Daniel Levy, que anteriormente trabalhou porquê membro da equipe técnica da OpenAI.
À medida que a OpenAI avança com parcerias com a Apple e a Microsoft, provavelmente não veremos a SSI fazendo isso tão cedo. Durante uma entrevista com BloombergSutskever diz que o primeiro resultado da SSI será uma superinteligência segura e que a empresa “não fará mais zero” até portanto.