Apple, Microsoft e Google estão anunciando uma novidade era do que descrevem uma vez que smartphones e computadores com perceptibilidade sintético. Os dispositivos, dizem eles, automatizarão tarefas uma vez que editar fotos e desejar feliz natalício a um colega.
Mas para que isso funcione, essas empresas precisam de um tanto de você: mais dados.
Neste novo paradigma, o seu computador Windows fará uma conquista de tela de tudo o que você faz a cada poucos segundos. Um iPhone reunirá informações de muitos aplicativos que você usa. E um telefone Android pode ouvir uma chamada em tempo real para alertá-lo sobre uma fraude.
Esta é uma informação que você está disposto a compartilhar?
Esta mudança tem implicações significativas para a nossa privacidade. Para fornecer os novos serviços personalizados, as empresas e os seus dispositivos precisam de um chegada mais persistente e íntimo aos nossos dados do que antes. No pretérito, a forma uma vez que usávamos aplicativos e extraíamos arquivos e fotos em telefones e computadores era relativamente isolada. A IA precisa de uma visão universal para conectar os pontos entre o que fazemos em aplicativos, sites e comunicações, dizem especialistas em segurança.
“Sinto-me seguro em fornecer essas informações a esta empresa?” Cliff Steinhauer, diretor da National Cybersecurity Alliance, uma organização sem fins lucrativos com foco em segurança cibernética, falou sobre as estratégias de IA das empresas.
Tudo isso está acontecendo porque o ChatGPT da OpenAI revolucionou a indústria de tecnologia há quase dois anos. Desde portanto, Apple, Google, Microsoft e outros reformularam suas estratégias de produtos, investindo bilhões em novos serviços sob o termo abrangente de IA. Eles estão convencidos de que esse novo tipo de interface de computação — que estuda incessantemente o que você está fazendo para oferecer assistência — se tornará indispensável.
O maior risco potencial de segurança com esta mudança decorre de uma mudança sutil que ocorre na forma uma vez que nossos novos dispositivos funcionam, dizem os especialistas. Porquê a IA pode automatizar ações complexas – uma vez que remover objetos indesejados de uma foto – às vezes requer mais poder computacional do que nossos telefones podem suportar. Isso significa que mais dados pessoais podem ter que transpor de nossos telefones para serem tratados em outro lugar.
As informações estão sendo transmitidas para a chamada nuvem, rede de servidores que processa as solicitações. Mal as informações chegam à nuvem, elas podem ser vistas por outras pessoas, incluindo funcionários da empresa, malfeitores e agências governamentais. E embora alguns dos nossos dados tenham sempre sido armazenados na nuvem, os nossos dados mais profundamente pessoais e íntimos que antes estavam somente à nossa vista – fotos, mensagens e e-mails – agora podem ser conectados e analisados por uma empresa nos seus servidores.
As empresas de tecnologia dizem que não mediram esforços para proteger os dados das pessoas.
Por enquanto, é importante entender o que acontecerá com nossas informações quando usarmos ferramentas de IA, por isso obtive mais informações das empresas sobre suas práticas de dados e entrevistei especialistas em segurança. Pretendo esperar e ver se as tecnologias funcionam muito antes de resolver se vale a pena compartilhar meus dados.
Cá está o que você deve saber.
Perceptibilidade da Apple
A Apple anunciou recentemente o Apple Intelligence, um conjunto de serviços de IA e sua primeira grande ingresso na corrida da IA.
Os novos serviços de IA serão integrados aos iPhones, iPads e Macs mais rápidos a partir deste outono. As pessoas poderão usá-lo para remover involuntariamente objetos indesejados de fotos, fabricar resumos de artigos da web e redigir respostas a mensagens de texto e e-mails. A Apple também está reformulando seu assistente de voz, Siri, para torná-lo mais comunicativo e dar chegada a dados em vários aplicativos.
Durante a conferência da Apple neste mês, quando apresentou o Apple Intelligence, o vice-presidente sênior de engenharia de software da empresa, Craig Federighi, compartilhou uma vez que isso poderia funcionar: Federighi recebeu um e-mail de um colega pedindo-lhe para diferir uma reunião, mas ele estava deveria ver uma peça naquela noite estrelada por sua filha. Seu telefone portanto abriu seu calendário, um documento contendo detalhes sobre a peça e um aplicativo de mapas para prever se ele chegaria moroso à peça caso concordasse com um encontro mais tarde.
A Apple disse que está se esforçando para processar a maior segmento dos dados de IA diretamente em seus telefones e computadores, o que impediria que outros, incluindo a Apple, tivessem chegada às informações. Mas para tarefas que precisam ser enviadas aos servidores, disse a Apple, ela desenvolveu salvaguardas, incluindo embaralhar os dados por meio de criptografia e excluí-los imediatamente.
A Apple também implementou medidas para que seus funcionários não tenham chegada aos dados, disse a empresa. A Apple também disse que permitiria que pesquisadores de segurança auditassem sua tecnologia para prometer que ela cumprisse suas promessas.
O compromisso da Apple de expelir os dados dos usuários de seus servidores a diferencia de outras empresas que guardam dados. Mas a Apple não está clara sobre quais novas solicitações Siri poderiam ser enviadas aos servidores da empresa, disse Matthew Green, pesquisador de segurança e professor associado de ciência da computação na Universidade Johns Hopkins, que foi informado pela Apple sobre sua novidade tecnologia. Qualquer coisa que saia do seu dispositivo é inerentemente menos segura, disse ele.
A Apple disse que quando o Apple Intelligence for lançado, os usuários poderão ver um relatório de quais solicitações estão saindo do dispositivo para serem processadas na nuvem.
Laptops de IA da Microsoft
A Microsoft está trazendo IA para os laptops antigos.
Na semana passada, ela começou a lançar computadores Windows chamados Copilot+ PC, que custam a partir de US$ 1.000. Os computadores contêm um novo tipo de chip e outros equipamentos que, segundo a Microsoft, manterão seus dados privados e seguros. Os PCs podem gerar imagens e reescrever documentos, entre outros novos recursos alimentados por IA.
A empresa também introduziu o Recall, um novo sistema para ajudar os usuários a encontrar rapidamente documentos e arquivos nos quais trabalharam, e-mails que leram ou sites que navegaram. A Microsoft compara o Recall a ter uma memória fotográfica embutida no seu PC.
Para usá-lo, você pode digitar frases casuais, uma vez que “Estou pensando em uma videochamada que tive com Joe recentemente, quando ele segurava uma caneca de moca ‘I Love New York’”. O computador irá portanto restabelecer a gravação da videochamada contendo esses detalhes.
Para conseguir isso, o Recall tira capturas de tela a cada cinco segundos do que o usuário está fazendo na máquina e compila essas imagens em um banco de dados pesquisável. Os instantâneos são armazenados e analisados diretamente no PC, de modo que os dados não são revisados pela Microsoft ou usados para melhorar sua IA, disse a empresa.
Ainda assim, os pesquisadores de segurança alertaram sobre riscos potenciais, explicando que os dados poderiam facilmente expor tudo o que você já digitou ou visualizou se fosse hackeado. Em resposta, a Microsoft, que pretendia lançar o Recall na semana passada, adiou o seu lançamento indefinidamente.
Os PCs vêm equipados com o novo sistema operacional Windows 11 da Microsoft. Possui múltiplas camadas de segurança, disse David Weston, executivo da empresa que supervisiona a segurança.
IA do Google
O Google também anunciou no mês pretérito um conjunto de serviços de IA.
Uma de suas maiores revelações foi um novo detector de golpes com tecnologia de IA para chamadas telefônicas. A utensílio escuta ligações em tempo real e, se o chamador parecer um golpista em potencial (por exemplo, se o chamador solicitar um PIN bancário), a empresa notificará você. O Google disse que as pessoas teriam que ativar o detector de golpes, que é totalmente operado pelo telefone. Isso significa que o Google não ouvirá as ligações.
O Google anunciou outro recurso, o Ask Photos, que exige o envio de informações aos servidores da empresa. Os usuários podem fazer perguntas uma vez que “Quando minha filha aprendeu a nadar?” para trazer à tona as primeiras imagens de seu fruto nadando.
O Google disse que seus funcionários poderiam, em casos raros, revisar as conversas do Ask Photos e os dados das fotos para mourejar com abusos ou danos, e as informações também poderiam ser usadas para ajudar a melhorar seu aplicativo de fotos. Em outras palavras, sua pergunta e a foto de seu fruto nadando podem ser usadas para ajudar outros pais a encontrar imagens de seus filhos nadando.
O Google disse que sua nuvem foi bloqueada com tecnologias de segurança uma vez que criptografia e protocolos para limitar o chegada dos funcionários aos dados.
“Nossa abordagem de proteção à privacidade se aplica aos nossos recursos de IA, não importa se eles são alimentados no dispositivo ou na nuvem”, disse Suzanne Frey, executiva do Google que supervisiona a crédito e a privacidade, em um enviado.
Mas Green, o pesquisador de segurança, disse que a abordagem do Google em relação à privacidade da IA parecia relativamente opaca.
“Não sabor da teoria de que minhas fotos e pesquisas muito pessoais vão para uma nuvem que não está sob meu controle”, disse ele.