The Specialty NewsDos ingenieros y un enjambre de IA reemplazan AWS DynamoDB, ahorrando $100M anuales
Un equipo microscópico construyó una base de datos de búsqueda personalizada en ocho semanas, recortando los tiempos de recuperación de datos en 5.6x sin alquilar espacio genérico en la nube
Dos ingenieros humanos acaban de desmantelar una pieza fundamental de la arquitectura en la nube de Amazon y la reemplazaron en ocho semanas. No escribieron la nueva base de datos distribuida línea por línea. En su lugar, actuaron como comandantes de flota, dirigiendo un enjambre de cientos de agentes de IA persistentes para construir un sistema personalizado que reduce la latencia de recuperación de datos de Perplexity a 5.6 milisegundos. Es una prueba de concepto para una nueva era de la ingeniería, donde una pequeña empresa puede construir infraestructura especializada sin una gran plantilla.
Comandando el enjambre
El CEO de Perplexity, Aravind Srinivas, reconoció que la búsqueda nativa de IA procesa los datos de manera diferente a la búsqueda clásica. DynamoDB de Amazon, aunque potente, es un producto de talla única. Adaptar la carga de trabajo específica de Perplexity para que encajara en un espacio genérico en la nube estaba añadiendo milisegundos a las consultas de los usuarios y actuando como un impuesto sobre el crecimiento de la empresa. Para construir una pila independiente, diseñaron CobbleDB, un almacén clave-valor interno optimizado puramente para recuperaciones rápidas de contenido web.
Lograr que se construyera requirió un cambio en la forma en que se hace el software. Los dos ingenieros del proyecto no escribieron manualmente el complejo código de sistemas distribuidos necesario para un estado duradero y la recuperación en tiempo de consulta. Sus trabajos pasaron a definir el alcance, supervisar y controlar los resultados de un enjambre de agentes de IA a nivel de infraestructura.
“Construimos un reemplazo para AWS DynamoDB, una base de datos clave-valor para recuperaciones rápidas de contenido web. Esto se hizo con dos ingenieros y cientos de agentes informáticos persistentes durante dos meses.”— Aravind Srinivas
Conseguir que un asistente de IA escriba código repetitivo de aplicaciones es rutina hoy en día. Confiar en un enjambre no supervisado para generar la infraestructura profunda que mantiene en línea un motor de búsqueda requiere un nivel de verificación completamente diferente, lo que lleva a un cambio estructural en la economía de la nube.
Escapando del impuesto de la nube
El paso a una arquitectura personalizada da sus frutos al instante en velocidad bruta. Al separar el procesamiento de documentos de la ingesta y ajustar la base de datos exactamente a su carga de trabajo, el nuevo sistema redujo drásticamente la latencia media de lectura por lotes en 5.6x, cayendo de 31.4 a 5.60 milisegundos. Los usuarios obtienen respuestas más rápido porque el motor de búsqueda ya no tiene que negociar con un entorno de nube generalizado.
Esa cifra representa una vía de escape de la trampa estándar de la computación en la nube. Históricamente, construir una base de datos distribuida a medida requería un equipo de ingeniería dedicado y altamente especializado, convirtiéndolo en un lujo reservado para los monopolios tecnológicos. Cualquier otra empresa en crecimiento tenía que aceptar el lado de la compra en la disyuntiva de construir o comprar, pagando tarifas elevadas por servicios gestionados. El enjambre de agentes democratizó efectivamente la capacidad de construir infraestructura empresarial personalizada. Ahora, la pregunta abierta pasa de cómo escribir el código a cómo mantenerlo.
Qué pasa a las 3 AM
Dejar AWS significa cancelar la garantía externa. Si CobbleDB se cae en medio de la noche, los ingenieros humanos tienen que depurar código autónomo escrito por agentes sin un ticket de soporte de Amazon. La próxima frontera operativa es construir artefactos robustos de verificación humana para que los equipos puedan mantener y auditar con confianza lo que construyen sus flotas para la seguridad a largo plazo.
Incluso con esos obstáculos de mantenimiento, el equilibrio de poder ha cambiado. Las startups ahora pueden permitirse construir una arquitectura a medida que mantiene el rendimiento alto y los márgenes amplios. La unidad de ejecución de una empresa tecnológica ha cambiado fundamentalmente: un equipo pequeño con un plan claro y un enjambre persistente ahora puede construir exactamente lo que necesita, conservando las mejoras de rendimiento para sus usuarios y los ahorros para sí mismos.
Lo que dice la gente
“Ok this is starting to feel like a f*cking disaster. The CEO of Anthropic just published an article admitting AI is already building the next generation of AI by itself. He says within 6 to 12 months a rogue swarm could take over the entire internet and cause hundreds of”
“[Writing this in a personal capacity, not on behalf of my employer (Anthropic).] Jacob’s thread is very worth reading. Here’s my birds-eye view of the situation with risks from AI: 1. AI developers believe their technology could cause human extinction (or similarly bad”
“If Sam Altman, Dario Amodei, and Elon Musk all agree that we have to slow down - and now - something serious clearly happened with a frontier AI model. Journalists should be digging in to this. We aren’t getting the whole story here.”
Custom DB Saves Perplexity $100M
The Brief
Mantén la curiosidad
IA y tecnología: qué cambia y por qué importa.
Tu selección diaria, en inglés o español.
Gratis para siempre. Cancela cuando quieras.
Más historias
Conversación
Inicia la conversación