Veja porquê a OpenAI determinará o quão poderosos são seus sistemas de IA #ÚltimasNotícias

A OpenAI criou uma graduação interna para monitorar o progresso que seus grandes modelos de linguagem estão fazendo em direção à perceptibilidade sintético universal, ou IA com perceptibilidade semelhante à humana, disse um porta-voz Bloomberg.

Os chatbots de hoje, porquê o ChatGPT, estão no Nível 1. A OpenAI afirma que está se aproximando do Nível 2, definido porquê um sistema que pode resolver problemas básicos no nível de uma pessoa com doutorado. O Nível 3 se refere a agentes de IA capazes de tomar ações em nome de um usuário. O Nível 4 envolve IA que pode fabricar novas inovações. O Nível 5, a lanço final para atingir a AGI, é a IA que pode executar o trabalho de organizações inteiras de pessoas. A OpenAI definiu anteriormente a AGI porquê “um sistema altamente autônomo que supera os humanos na maioria das tarefas economicamente valiosas”.

A estrutura única da OpenAI é centrada em torno de sua missão de atingir a AGI, e porquê a OpenAI define a AGI é importante. A empresa disse que “se um projeto desempenado a valores e consciente da segurança chegar perto de edificar a AGI” antes da OpenAI, ela se compromete a não competir com o projeto e largar tudo para ajudar. A formulação disso no regimento da OpenAI é vaga, deixando espaço para o julgamento da entidade com fins lucrativos (governada pela organização sem fins lucrativos), mas uma graduação na qual a OpenAI pode testar a si mesma e aos concorrentes pode ajudar a ditar quando a AGI é alcançada em termos mais claros.

Ainda assim, a AGI ainda está muito distante: serão necessários bilhões e bilhões de dólares em poder computacional para atingir a AGI, se tanto. Os cronogramas de especialistas, e até mesmo da OpenAI, variam muito. Em outubro de 2023, o CEO da OpenAI, Sam Altman, disse que estamos “cinco anos, mais ou menos”, antes de atingir a AGI.

Esta novidade graduação de classificação, embora ainda em desenvolvimento, foi introduzida um dia posteriormente a OpenAI anunciar sua colaboração com o Laboratório Pátrio de Los Alamos, que visa explorar porquê modelos avançados de IA porquê o GPT-4o podem facilitar com segurança na pesquisa biocientífica. Um gerente de programa em Los Alamos, responsável pelo portfólio de biologia de segurança pátrio e fundamental para prometer a parceria com a OpenAI, disse A Orla que o objetivo é testar as capacidades do GPT-4o e estabelecer um conjunto de fatores de segurança e outros para o governo dos EUA. Eventualmente, modelos públicos ou privados podem ser testados em relação a esses fatores para calcular seus próprios modelos.

Em maio, a OpenAI dissolveu sua equipe de segurança depois que o líder do grupo, o cofundador da OpenAI Ilya Sutskever, deixou a empresa. Jan Leike, um pesquisador-chave da OpenAI, renunciou logo posteriormente declarar em um post que “a cultura e os processos de segurança ficaram em segundo projecto em relação aos produtos brilhantes” na empresa. Embora a OpenAI tenha rejeitado que esse fosse o caso, alguns estão preocupados com o que isso significa se a empresa de veste atingir a AGI.

A OpenAI não forneceu detalhes sobre porquê atribui modelos a esses níveis internos (e recusou A Orlasolicitação de glosa da). No entanto, os líderes da empresa demonstraram um projeto de pesquisa usando o protótipo de IA GPT-4 durante uma reunião universal na quinta-feira e acreditam que levante projeto apresenta algumas novas habilidades que exibem raciocínio semelhante ao humano, de conformidade com Bloomberg.

Essa graduação pode ajudar a fornecer uma definição estrita de progresso, em vez de deixá-la oportunidade para tradução. Por exemplo, a CTO da OpenAI, Mira Murati, disse em uma entrevista em junho que os modelos em seus laboratórios não são muito melhores do que o que o público já tem. Enquanto isso, o CEO Sam Altman disse no final do ano pretérito que a empresa recentemente “empurrou o véu da ignorância para trás”, o que significa que os modelos são notavelmente mais inteligentes.