Abriendo la caja negra: unos investigadores desbloquean el Neural Engine de Apple para entrenar IA

Durante años, el Neural Engine de Apple (ANE) ha sido un componente especializado de los chips de Mac e iPhone pensado solo para inferencia: un carril rápido para ejecutar IA, pero un callejón sin salida para construirla. Como Apple no ofrece documentación pública para el entrenamiento, los desarrolladores se han visto obligados a depender de GPU que consumen mucha energía incluso para pequeñas tareas de ajuste fino (fine-tuning). Ese muro por fin ha caído gracias a un investigador independiente que encontró la forma de ejecutar bucles de entrenamiento directamente en el hardware.

Sorteando al guardián de CoreML

El proyecto, liderado por el investigador maderix, evita por completo el framework oficial CoreML de Apple. En lugar de usar herramientas soportadas, la metodología recurre a API privadas no documentadas como _ANEClient para compilar programas en memoria usando Model Intermediate Language (MIL). Al pasar los datos a través de búferes de memoria compartida, el sistema puede realizar las multiplicaciones de matrices y las funciones de activación complejas necesarias para las redes neuronales.\n\nAunque Apple anuncia el ANE del M4 con 38 TOPS, esta investigación revela un rendimiento real de aproximadamente 19 TFLOPS en precisión FP16. Este nivel de rendimiento se logra incrustando los pesos directamente en los programas compilados como constantes. Supone un cambio fundamental en cómo entendemos la arquitectura de Apple Silicon y lo que su silicio oculto puede llegar a hacer.

Por qué la eficiencia importa para la IA local

Las implicaciones para el consumo energético son enormes. El Neural Engine del M4 ofrece unos 6.6 TFLOPS por vatio, lo que lo hace más de 80 veces más eficiente que una GPU NVIDIA A100 de nivel empresarial en tareas concretas. Esta eficiencia permite un aprendizaje local siempre activo y un ajuste fino sin agotar la batería de un portátil ni necesitar un servidor dedicado.\n\nSin embargo, por ahora el enfoque sigue siendo un experimento híbrido. Aunque el ANE se encarga de la parte pesada de las pasadas hacia delante y hacia atrás, los gradientes de los pesos todavía se calculan en la CPU con las librerías Accelerate de Apple. Esto crea un posible cuello de botella, pero marca la primera vez que las verdaderas capacidades del ANE quedan expuestas más allá de las estrictas barreras de software de Apple.

“Esta eficiencia permite un aprendizaje local siempre activo y un ajuste fino sin agotar la batería de un portátil ni necesitar un servidor dedicado.”