OpenAI é a primeira empresa que a Apple pede ajuda. Consciente de que estava a permanecer para trás na corrida da lucidez sintético, a multinacional recorreu aos criadores do ChatGPT para integrar esta tecnologia nos seus dispositivos. Um congraçamento que imediatamente levantou questões sobre a segurança dos dados armazenados em iPhones, iPads e Macs e o aproximação que a OpenAI terá a eles.
Em menos de dois anos desde sua subida à nomeada com ChatGPT, a empresa de Sam Altman acumulou inúmeras polêmicas por suas práticas de obtenção de dados para treinar sua lucidez sintético. Entre eles, a OpenAI reconheceu que violou os direitos de responsável ao incluir material protegido nos dados de formação (e foi denunciada por isso pelo The New York Times e pelos sindicatos de escritores e autores) e ignorou as regras do YouTube que proíbem a transcrição dos vídeos. vídeos de usuários para somar esse material ao ChatGPT.
Um grande número de empresas de tecnologia, empresas de consultoria ou escritórios de advocacia proibiram seus funcionários de inserir dados pessoais ou confidenciais no ChatGPT devido a dúvidas sobre o que a OpenAI poderia fazer com esses dados. Na UE, uma investigação realizada pelos reguladores de privacidade europeus, na qual participa a Escritório Espanhola de Proteção de Dados, está a investigar o que a sua IA faz com as informações pessoais que obtém dos utilizadores e se as utiliza para formação sem a sua permissão.
Nesta situação, a Apple anunciou que o ChatGPT terá aproximação aos seus dispositivos para aprimorar o Siri e as ferramentas de escrita de todo o seu sistema operacional. Conforme explicou Tim Cook esta segunda-feira, a Siri poderá responder mensagens maquinalmente, grafar notas, compilar cadeias de e-mail ou consultar outras aplicações e somar para o utilizador o que se passa nelas.
A lucidez sintético da Apple também poderá gravar uma relação e transcrever a conversa. Outra de suas capacidades será executar ações em diversos aplicativos ao comando do usuário, uma vez que reproduzir o podcast que um colega nos enviou no WhatsApp em um aplicativo de áudio.
Todas essas funções exigem um enorme conta dos dados pessoais do usuário. Talvez consciente da má reputação que a OpenAI conquistou, a Apple colocou um dos focos da apresentação na “segurança” de todo leste novo sistema, que “estabelece um novo padrão na privacidade da lucidez sintético”. Apesar disso, dúvidas sobre o congraçamento surgiram poucos minutos depois a sua apresentação.
O mais veemente foi Elon Musk, que considera o contrato entre a Apple e a OpenAI “uma violação de segurança incabível”. O magnata ameaçou banir os aparelhos do operário de suas empresas (Tesla, SpaceX ou impedir que o aparelho se conecte ao exterior.
“É claramente absurdo que a Apple não seja inteligente o suficiente para criar a sua própria IA, mas seja de alguma forma capaz de garantir que a OpenAI protegerá a sua segurança e privacidade. A Apple não tem ideia do que acontece quando entrega seus dados à OpenAI. “Eles estão traindo você”, escreveu Musk em X.
A posição do magnata é marcada pela desconfiança que sente em relação à atual OpenAI. Musk fez parte da equipe fundadora da organização, que nasceu como um laboratório de pesquisa em inteligência artificial dedicado a evitar que ela se tornasse uma ameaça à humanidade e a compartilhar abertamente suas descobertas com o resto do mundo. Após sua saída da gestão por conflito de interesses com seu cargo na Tesla (que também desenvolve IA), a OpenAI foi liderada por Altman e transformada em uma empresa tradicional. Musk denunciou a organização e Altman por leste motivo.
No entanto, Musk não é o único que levantou dúvidas sobre o processamento de dados dos novos dispositivos Apple.
A “nuvem privada”
A novidade lucidez sintético da Apple alimentada por OpenAI estará disponível exclusivamente nos modelos mais recentes de iPhone e iPad devido aos seus importantes requisitos técnicos. Ainda assim, grande secção da computação necessária será feita fora dos dispositivos. Leste roupa tem levantado dúvidas entre os especialistas em privacidade e representa uma mudança nas práticas tradicionais da Apple, que prioriza os dados remanescentes em seus dispositivos uma vez que medida de segurança.
A empresa chamou essa computação externa de “Computação em Nuvem Privada”. “Ele enviará exclusivamente os dados necessários para processar a tarefa nos servidores de chips da Apple. Quando essas solicitações são enviadas por meio do Private Cloud Compute, os dados não são armazenados e não podem ser acessados pela Apple. Eles são usados exclusivamente para responder às solicitações dos usuários”, disse ele.
“A computação em nuvem privada da Apple levanta muitas questões sobre uma vez que a Apple define privacidade e confidencialidade. Não são a mesma coisa”, disse Pat Walshe, um dos mais renomados advogados de privacidade da Europa e mentor do Parecer da Europa.
“É claro que muito pensamento foi dedicado ao design. Aguardo com expectativa que os investigadores testem as suas várias afirmações e promessas. Para mim, há muito a considerar. A Apple cedeu à pressão de governos no passado, como o da China. “Que salvaguardas existem para evitar que os direitos humanos fundamentais das pessoas sejam comprometidos face à pressão governamental que possa ser exercida sobre a Apple?”, acrescentou Walshe.
“Existem muitas arestas”
Matthew Green, professor de criptografia na Universidade Johns Hopkins, destacou que “há muitas arestas vivas que poderiam subsistir em um sistema uma vez que leste”. “Falhas de hardware. Problemas com estrutura de mitigação criptográfica. Explorações de software engenhosas [programas que aprovechan una brecha en el sistema]. Muitos deles serão difíceis de serem detectados pelos pesquisadores de segurança”, resumiu.
“Até onde eu sei, a Apple não tem planos explícitos de anunciar quando seus dados saem do dispositivo para Private Cloud Compute”, acrescentou o técnico X, enfatizando que os planos da empresa são que sua novidade IA venha habilitada por padrão: “Você nem necessariamente serão informados de que está acontecendo. Isso simplesmente acontecerá. Magicamente”.
Outra preocupação expressada por Green é o roupa de que a privacidade dos proprietários de dispositivos Apple passará a ser controlada pela empresa. “Para a maioria das pessoas, o maior inimigo não são os superespiões, mas a empresa que lhes vendeu o seu dispositivo/software. Leste sistema representa um compromisso real por secção da Apple de não ‘espionar’ os seus dados. É um grande compromisso”, destaca.
A Apple anunciou que essas ferramentas estarão disponíveis no outono para proprietários de iPhone 15 Pro, iPhone 15 Pro Max e iPad e Mac com M1 e ulterior, que tenham Siri e o linguagem do dispositivo configurados para inglês dos EUA. A empresa não esclareceu se a novidade IA estará disponível na Europa a partir do seu lançamento.