The Specialty News
IA

Inkling 2 Mini, de Thinking Machines, cabe en 20 GB y funciona en un portátil

El laboratorio de Mira Murati publicó el modelo de 26.400 millones de parámetros con pesos abiertos, y cualquier Mac con 32 GB de memoria puede ejecutarlo sin conexión.

Por The Specialty News DeskEditado por 4 min read
Inkling 2 Mini, de Thinking Machines, cabe en 20 GB y funciona en un portátil
Foto: Thinking Machines Lab

En un MacBook Pro en modo avión, sin ninguna conexión a internet, un nuevo modelo de IA escribió un simulador de vuelo que funciona. Ese modelo es Inkling 2 Mini, que Thinking Machines Lab publicó el viernes con pesos abiertos: 26.400 millones de parámetros en unos 20 GB, lo bastante pequeño para cualquier Mac con 32 GB de memoria. Para los desarrolladores que quieren un buen asistente de programación sin enviar ni una línea de código a la nube, un portátil acaba de bastar.

Tres vueltas por las capas intermedias

La mayoría de los modelos de lenguaje pasan cada token por sus capas una sola vez, de arriba abajo. Inkling 2 Mini da dos vueltas más. Sus 24 capas están en cuatro bloques de seis: el primero y el último se ejecutan una vez, y las 12 capas del medio se ejecutan tres veces por cada token, así que 24 capas guardadas hacen el trabajo de 48.

La idea es pensar más dentro del modelo y menos sobre el papel. Un modelo de razonamiento suele resolver un problema escribiendo largas cadenas de texto intermedio, y cada uno de esos tokens cuesta tiempo y memoria. El bucle traslada parte de ese trabajo a las pasadas extra.

“El bucle permite que un modelo piense más y escriba menos.”— Mira Murati

El laboratorio introdujo los bucles poco a poco durante el entrenamiento mediante una compuerta aprendida, y cada pasada lee un breve mensaje que deja la anterior. Lo más difícil fue reducir un modelo tan capaz al tamaño de un portátil.

De 594.000 millones de parámetros a 26.400 millones

De 594.000 millones de parámetros a 26.400 millones
Foto: Thinking Machines Lab

A principios de este mes, Thinking Machines publicó Inkling 2 Small, con 594.000 millones de parámetros. «Algunos pensaron que Inkling 2 Small era demasiado grande con 594B de parámetros», escribió el laboratorio en X. Mini es la respuesta.

Partió de la familia principal de modelos del laboratorio. El equipo podó dos tercios de los expertos, conservó los 128 más usados en cada capa de un total de 384 y después recuperó el modelo con 1 billón de tokens destilados de un Inkling interno más grande, seguidos de 2,2 billones de tokens de aprendizaje por refuerzo.

El tamaño se debe tanto a la precisión como a la poda. La mayoría de los pesos se entrenaron y se ejecutan de forma nativa en NVFP4, un formato numérico de 4 bits, con las cuatro últimas capas en MXFP8. Como el modelo nunca tiene que comprimirse después del entrenamiento, no se pierde nada en la conversión.

Todo funciona en un MacBook o un Mac Mini con al menos 32 GB de RAM a través de Ollama, y en el ordenador de escritorio DGX Spark de Nvidia. ¿Y qué puede hacer una vez instalado?

Un simulador de vuelo hecho en modo avión

En las pruebas del propio laboratorio, Inkling 2 Mini logra un 48,2 % en DeepSWE, una prueba de tareas reales de ingeniería de software, frente al 42,2 % de Qwen3.8-27B, de Alibaba, y un 79,2 % en SWE-bench Verified. En el Intelligence Index de Artificial Analysis empata con Qwen3.8-27B a 20,1, y Artificial Analysis midió cada una de sus tareas en 0,59 dólares y 9 minutos, frente a 3,53 dólares y 38,2 minutos de Qwen.

Investigadores de Stanford que lo ejecutaron en un DGX Spark le dieron 0,703 en su medida de inteligencia por vatio, frente a 0,430 de Qwen3.6-35B-A3B. En otra de las demostraciones del laboratorio, un solo MacBook sin conexión movía Thinkyville, un pueblo en pixel art con 20 vecinos, cada uno dirigido por el modelo.

Los pesos están en Hugging Face con licencia Apache 2.0 y una ventana de contexto de hasta 1 millón de tokens, y el modelo ya funciona en Tinker, el servicio del laboratorio para ejecutar y ajustar modelos. Un hospital que no puede enviar historias clínicas a la nube y un desarrollador en un vuelo largo tienen ahora la misma opción.

Un modelo abierto de programación de primer nivel ya cabe en 20 gigabytes, y funciona con el wifi apagado.

Same Index Score, 6x Cheaper

A visual summary of this story

The Brief

Mantén la curiosidad

IA y tecnología: qué cambia y por qué importa.
Tu selección diaria, en inglés o español.

Gratis para siempre. Cancela cuando quieras.

Conversación

Inicia la conversación

No necesitas cuenta. Los comentarios se revisan automáticamente: mantén el respeto.

Más historias

Seguir leyendo