The Specialty News
IA

Dragos rastrea 2 millones de prompts señuelo y OpenRouter expulsa a tres proveedores de IA

HD Moore, creador de Metasploit, sembró un secreto único en cada prompt durante cinco meses, y OpenRouter hará ahora esa misma comprobación con sus proveedores de forma continua.

Por The Specialty News DeskEditado por 4 min read
Dragos rastrea 2 millones de prompts señuelo y OpenRouter expulsa a tres proveedores de IA
Foto: Dragos

Durante cinco meses, Dragos envió unos dos millones de prompts a servicios de IA, cada uno con un secreto que no existía en ningún otro sitio: una clave de AWS que funcionaba, un nombre de host, una dirección web. Después observó dónde aparecían esos secretos. Este fin de semana, OpenRouter, el mercado que reparte las peticiones de los desarrolladores entre decenas de proveedores de modelos, expulsó a tres proveedores y retiró a 125 endpoints su sello de retención cero de datos. Para cualquiera que envíe código, contratos o datos de clientes a un modelo, la promesa de quién puede leer un prompt por fin se pone a prueba en lugar de darse por buena.

Dos millones de secretos, cada uno usado una sola vez

El experimento es obra de HD Moore, el investigador que creó Metasploit, la herramienta de pruebas de intrusión con la que aprendió una generación de equipos de seguridad, y hoy director de investigación de Dragos. La idea es antigua y sencilla. Un token canario es una credencial o un enlace que existe en un único lugar, así que en cuanto alguien lo usa, sabes de dónde salió.

El equipo de Moore llevó ese truco a la cadena de suministro de la IA. Cada petición sembrada llevaba su propia clave de AWS, su nombre DNS y su URL, todos apuntando de vuelta a Dragos. Las claves de AWS eran reales, ligadas a cuentas vacías con registro completo, y cada uso podía asociarse al prompt, el modelo, el enrutador y el ajuste de privacidad exactos que lo habían transportado.

Eso es más o menos un prompt cada siete segundos, día y noche, de julio a noviembre. Un enlace a una imagen dentro de cada petición indicaba además qué máquinas lo descargaban, lo que permitió al equipo trazar unas 2.000 rutas del cliente al modelo. La mayoría de los secretos se quedaron donde se enviaron. Los que se movieron contaron una historia.

Tres proveedores, un chat de Feishu y cinco canarios

El primer incidente llegó a mediados de julio. En noviembre, Dragos tenía pruebas de que los datos de al menos tres proveedores de alojamiento de IA habían quedado expuestos. En el caso más grande, alguien se llevó un par de cientos de las claves de AWS sembradas y las usó en decenas de miles de llamadas a la API contra cuentas que Dragos vigilaba.

Otros hallazgos no implicaron ninguna intrusión. Varios revendedores de un mercado de inferencia podían ver y guardar los prompts de los clientes con el registro normal. Los sistemas de un laboratorio chino de IA, cuyo nombre no se ha dado, descargaron las URL secretas de más de la mitad de los prompts enviados a sus modelos entre julio y octubre, incluidos unos dos tercios de las peticiones marcadas como «sin recogida de datos» o de retención cero. En un caso, un enlace secreto de un prompt apareció en un chat de trabajo de Feishu 24 días después y se abrió desde seis dispositivos en Pekín y Shanghái en dos minutos.

“Un ajuste de privacidad solo obliga al primer salto.”— HD Moore

Together AI, uno de los mayores proveedores de modelos abiertos, publicó su propia versión el sábado. Su consejero delegado, Vipul Ved Prakash, explicó que un agente de programación con IA que trabajaba en un repositorio público de GitHub subió una credencial de acceso a un almacén privado de muestras de prompts de junio y julio. El escaneo automático lo detectó y el cambio se revirtió, pero alguien de fuera ya había usado la credencial para descargar las muestras y probar las claves que contenían. Cinco de esas claves eran canarios de Dragos, justo el tipo de uso que el experimento estaba pensado para detectar. ¿Y ahora qué pasa?

De un experimento a un control permanente

La respuesta de OpenRouter va más allá de cortar relaciones. La empresa dice que no encontró ninguna intrusión en OpenRouter y que ha avisado a todos los clientes que pueden estar afectados. Ahora adapta el método de los investigadores para hacer las mismas comprobaciones de forma continua, verifica las rutas de red para detectar proveedores que reenvían peticiones a terceros sin decirlo y exigirá una validación antes de que cualquier endpoint vuelva a la lista de retención cero. Algunos de los 125 se retiraron por precaución, no por un problema confirmado.

«A medida que integremos técnicas de prueba similares en OpenRouter, seguiremos subiendo el listón, y los proveedores que quieran estar en OpenRouter tendrán que alcanzarlo», escribió la empresa.

Together ha hecho que la retención cero de datos sea el ajuste por defecto de las cuentas nuevas, ha pasado a credenciales de corta duración, revisa cada pull request en busca de secretos y ha actualizado sus normas para los agentes de programación con IA. Novita y Phala han publicado sus propias notas sobre incidentes, y Dragos dice que ya trabaja con una docena de proveedores.

Para los desarrolladores, el consejo de Moore es práctico: aloja tú mismo los modelos si puedes permitírtelo; si no, ve directamente a un proveedor de primer nivel, elige a mano los proveedores que hay detrás de un enrutador y siembra tu propio canario en el contexto que envían tus agentes. Hasta este mes, un ajuste de privacidad en la IA era una casilla en la que había que confiar. Ahora hay una prueba para comprobarlo, y el mayor enrutador acaba de convertir aprobarla en el precio de entrada.

Five Months From Canary to Cutoff

A visual summary of this story

The Brief

Mantén la curiosidad

IA y tecnología: qué cambia y por qué importa.
Tu selección diaria, en inglés o español.

Gratis para siempre. Cancela cuando quieras.

Conversación

Inicia la conversación

No necesitas cuenta. Los comentarios se revisan automáticamente: mantén el respeto.

Más historias

Seguir leyendo