Descubra como treinar IA no MacBook além das limitações da Apple

O que chegou de novo?

Uma descoberta empolgante para a Apple Silicon foi feita por um desenvolvedor, que conseguiu contornar as restrições do Neural Engine (ANE) do chip M4. Agora, é possível treinar modelos de IA diretamente no dispositivo, uma funcionalidade que a Apple até agora mantinha bloqueada.

Por dentro da máquina (Análise Técnica)

Tradicionalmente, o Neural Engine nos chips M4 é otimizado para a execução de modelos pré-treinados, mas a recente engenharia reversa realizada pelo especialista @0x0SojalSec revelou que é possível desbloquear até 15,8 TFLOPS de potência computacional para o treinamento completo de modelos, incluindo a retropropagação em redes neurais de transformadores. Em vez de usar as frameworks Core ML ou Metal da Apple, esta equipe desenvolveu uma Model Intermediate Language (MIL) personalizada, permitindo uma comunicação direta com o Neural Engine. Este método mantém todos os dados em RAM, evitando os atrasos associados ao armazenamento, o que resulta num processo de treinamento muito mais rápido e eficiente. Quando ocorrem falhas, um comando exec() reinicia o processo, permitindo checkpoints e continuidade do treinamento.

Os testes iniciais demonstraram que é realmente possível treinar redes neurais no hardware ANE com mínimas dependências adicionais. Os resultados são impressionantes, com a conclusão de etapas de treinamento de transformadores em milissegundos nos chips M4. É importante sublinhar que, embora a Apple não tenha habilitado oficialmente esta funcionalidade, esta descoberta revela um potencial oculto significativo nestes chips, muito além do que a maioria acreditava ser possível.

Vale a pena o investimento?

Esta inovação representa uma grande oportunidade para a comunidade de IA, pois permite que Macs e iPads convencionais se tornem máquinas de treinamento local mais capazes, reduzindo a dependência de serviços em nuvem. Para os interessados em experimentação em IA ou em aplicações de machine learning, é uma “boa oportunidade” considerar a importação de dispositivos com chip M4, especialmente devido ao seu custo-benefício em comparação com sistemas de hardware mais caros dedicados ao treinamento de modelos.

Veredito do Técnico

A engenharia reversa do Neural Engine M4 abre um novo leque de possibilidades na experimentação de IA, reafirmando que ainda existe muito a descobrir no ecossistema Apple.