The Specialty NewsCloudflare libera 100 terabytes de RAM con un ajuste de 533 bytes y expone una paradoja de las grandes tecnológicas
Un ajuste microscópico en la caché DNS de 1.1.1.1 provocó un aumento de velocidad del 19 por ciento y reavivó un feroz debate sobre la optimización prematura.
Al eliminar un único campo de capacidad no utilizado de una estructura de datos de Rust, Cloudflare recuperó instantáneamente 15 terabytes de RAM. Cinco sutiles ajustes estructurales más tarde, redujeron una sola entrada de caché DNS en 533 bytes. A escala planetaria, esos ajustes microscópicos se acumularon para liberar una cantidad asombrosa de memoria a nivel global. El software suele tratarse como algo abstracto y sin peso, pero este cambio demostró exactamente lo pesado que es en realidad el código.
La geometría del silicio
El resolutor 1.1.1.1 de Cloudflare opera una plataforma masiva conocida internamente como Big Pineapple. Alberga aproximadamente 250.000 millones de entradas de caché DNS activas en cualquier momento dado. Cuando un conjunto de datos es tan masivo, las comodidades estándar de los lenguajes de programación de alto nivel se convierten en una grave carga financiera.
El ingeniero de sistemas Sebastiaan Neuteboom y su equipo comenzaron a buscar relleno (padding), brechas de alineación de memoria y desplazamientos de punteros en Rust. Se dieron cuenta de que los contenedores de datos estándar reservan memoria oculta para poder crecer más adelante. Pero las entradas de la caché DNS son completamente inmutables. Al cambiar a contenedores de tamaño exacto (boxes), comprimir punteros de ocho bytes en desplazamientos de dos bytes y empaquetar booleanos en banderas de bits (bitflags), el equipo eliminó la saturación estructural.
Los ingenieros implementaron discretamente las nuevas estructuras de memoria en mayo de 2026. Para julio, los paneles de control mostraban una caída del consumo de memoria en un patrón perfecto de escalones. El equipo liberó 100 terabytes de memoria, lo que equivale exactamente a llenar por completo las ranuras de RAM física dentro de 130 de los servidores Gen 13 de Cloudflare. Sin embargo, el triunfo técnico atrajo de inmediato a un público sumamente escéptico.
La trampa de la eficiencia anticipada
Cuando Cloudflare publicó los detalles técnicos en agosto, se posicionó rápidamente en la cima de Hacker News. La pregunta inmediata de los críticos fue contundente: ¿por qué una empresa de infraestructura masiva utilizaba estructuras de datos genéricas y voluminosas en la ruta más crítica de internet en primer lugar? Algunos ingenieros argumentaron que el equipo debería haber utilizado arenas de memoria sin procesar (raw memory arenas) o asignadores personalizados desde el primer día, en lugar de esperar ocho años para solucionarlo.
Esta crítica resalta un fallo estructural persistente en el desarrollo de software corporativo. Rara vez se asciende a los ingenieros por construir algo perfectamente eficiente desde el principio. Se les asciende, y ganan un estatus legendario, por ahorrar enormes cantidades de dinero al solucionar ineficiencias años más tarde, cuando la escala empieza a doler.
“Se te recompensa por hacer trabajo de eficiencia bajo demanda, no de forma anticipada.”— scottlamb
El bando pragmático de "lanzar primero" respondió de inmediato. Si Cloudflare hubiera diseñado a mano estas estructuras de bytes hiperdensas en 2018, la rigidez resultante podría haberles impedido añadir características nuevas cruciales como DNS-over-HTTPS o el filtrado familiar. Tienes que sobrevivir lo suficiente como para tener un problema de escala antes de poder solucionarlo. Y la propia solución trajo consigo un efecto secundario totalmente inesperado.
La paradoja de la localidad
La informática convencional sugiere que la hipercompresión de la memoria ralentiza un sistema. Por lo general, la CPU tiene que consumir ciclos adicionales para desempaquetar los datos estrechamente agrupados. Pero Big Pineapple no se ralentizó.
Debido a que las estructuras de datos eran significativamente más pequeñas, encajaban mucho más cerca unas de otras en el hardware. Este empaquetamiento compacto mejoró drásticamente la localidad de la memoria, lo que provocó que las tasas de acierto de la caché de la CPU se dispararan. El rendimiento de inserción aumentó en un 43 por ciento y la latencia de búsqueda disminuyó un 19 por ciento. Optimizar para la memoria resultó ser optimizar para la velocidad pura.
Este margen recién descubierto permite a Cloudflare admitir EDNS Client Subnet, una función que requiere que la caché almacene miles de variaciones regionales para un solo dominio, todo ello sin necesidad de adquirir hardware nuevo. La lección va mucho más allá de la programación en Rust o los protocolos DNS. A escala planetaria, dejas de escribir código y comienzas a gestionar la geometría física del silicio.
Lo que dice la gente
“errors are back down down to near zero after some more optimizations + allocating more resources thank you to the @Cloudflare team for jumping in and enabling that inference is a quirky workload with some unique challenges - post on that soon”
“We're now doing around 20,000 Omarchy ISO downloads PER DAY!! I'm oh so happy that we have @eastdakota on as a Founding Patron, and that we're serving from @Cloudflare's amazing CDN. Otherwise we'd be toast! That's well over 100TB/day. Just for ISO. Packages are extra.”
“OX Alpha is hosted in America!! 🇺🇸 I sent 49 identical one-token requests from 7 Cloudflare regions, rotated the order to control for load and matched every response to OpenRouter’s per-generation server timing. This isolated the geographic network floor: ATL: 57 ms DFW: 76 ms”
How 533 Bytes Freed 100TB
The Brief
Mantén la curiosidad
IA y tecnología: qué cambia y por qué importa.
Tu selección diaria, en inglés o español.
Gratis para siempre. Cancela cuando quieras.
Más historias
Conversación
Inicia la conversación