Dragos suit 2 millions de prompts leurres et OpenRouter écarte trois fournisseurs d'IA
HD Moore, créateur de Metasploit, a glissé un secret unique dans chaque prompt pendant cinq mois, et OpenRouter fera désormais ce même contrôle en continu chez ses fournisseurs.

Pendant cinq mois, Dragos a envoyé environ deux millions de prompts à des services d'IA, chacun porteur d'un secret qui n'existait nulle part ailleurs : une clé AWS fonctionnelle, un nom d'hôte, une adresse web. Puis l'entreprise a observé où ces secrets réapparaissaient. Ce week-end, OpenRouter, la place de marché qui répartit les requêtes des développeurs entre des dizaines d'hébergeurs de modèles, a écarté trois fournisseurs et retiré à 125 endpoints leur label de conservation zéro des données. Pour quiconque envoie du code, des contrats ou des données clients à un modèle, la promesse sur qui peut lire un prompt est enfin vérifiée au lieu d'être admise de confiance.
Deux millions de secrets, chacun utilisé une seule fois
L'expérience est signée HD Moore, le chercheur qui a créé Metasploit, la boîte à outils de tests d'intrusion sur laquelle s'est formée une génération d'équipes de sécurité, aujourd'hui directeur de la recherche de Dragos. L'idée est ancienne et simple. Un jeton canari est un identifiant ou un lien qui n'existe qu'à un seul endroit : dès que quelqu'un l'utilise, on sait d'où il vient.
L'équipe de Moore a appliqué cette astuce à la chaîne d'approvisionnement de l'IA. Chaque requête marquée contenait sa propre clé AWS, son nom DNS et son URL, tous renvoyant vers Dragos. Les clés AWS étaient réelles, liées à des comptes vides entièrement journalisés, et chaque utilisation pouvait être rattachée au prompt, au modèle, au routeur et au réglage de confidentialité exacts qui l'avaient transportée.
Cela fait à peu près un prompt toutes les sept secondes, jour et nuit, de juillet à novembre. Un lien vers une image dans chaque requête signalait en outre quelles machines la téléchargeaient, ce qui a permis à l'équipe de tracer environ 2 000 routes du client au modèle. La plupart des secrets sont restés là où ils avaient été envoyés. Ceux qui ont bougé racontent une histoire.
Trois fournisseurs, un chat Feishu et cinq canaris
Le premier incident est survenu à la mi-juillet. En novembre, Dragos disposait de preuves que les données d'au moins trois hébergeurs d'IA avaient été exposées. Dans le cas le plus important, quelqu'un a récupéré quelques centaines des clés AWS semées et s'en est servi pour des dizaines de milliers d'appels d'API vers des comptes que Dragos surveillait.
D'autres constats ne supposaient aucune intrusion. Plusieurs revendeurs d'une place de marché d'inférence pouvaient voir et conserver les prompts des clients grâce à la simple journalisation. Les systèmes d'un laboratoire d'IA chinois, dont le nom n'a pas été donné, ont téléchargé les URL secrètes de plus de la moitié des prompts envoyés à ses modèles entre juillet et octobre, dont environ deux tiers des requêtes marquées « aucune collecte de données » ou conservation zéro. Dans un cas, un lien secret issu d'un prompt a été publié dans un chat professionnel Feishu 24 jours plus tard, puis ouvert depuis six appareils à Pékin et à Shanghai en deux minutes.
“Un réglage de confidentialité n'engage que le premier saut.”— HD Moore
Together AI, l'un des plus grands hébergeurs de modèles ouverts, a publié sa propre version samedi. Son PDG, Vipul Ved Prakash, a expliqué qu'un agent de programmation IA travaillant sur un dépôt GitHub public avait publié un identifiant donnant accès à un stockage privé d'échantillons de prompts de juin et juillet. L'analyse automatique l'a repéré et la modification a été annulée, mais un tiers avait déjà utilisé l'identifiant pour télécharger les échantillons et tester les clés qu'ils contenaient. Cinq de ces clés étaient des canaris de Dragos, exactement le type d'usage que l'expérience devait repérer. Alors, que se passe-t-il maintenant ?
D'une expérience à un contrôle permanent
La réponse d'OpenRouter va plus loin qu'une rupture. L'entreprise affirme n'avoir constaté aucune intrusion chez OpenRouter et a prévenu tous les clients potentiellement concernés. Elle adapte désormais la méthode des chercheurs pour mener les mêmes vérifications en continu, contrôle les chemins réseau pour repérer les fournisseurs qui transmettent discrètement des requêtes à des tiers, et exigera une validation avant qu'un endpoint ne revienne sur la liste de conservation zéro. Une partie des 125 a été retirée par précaution, et non pour un problème confirmé.
« À mesure que nous intégrerons des techniques de test similaires dans OpenRouter, nous continuerons à relever le niveau, et les fournisseurs qui veulent être sur OpenRouter devront l'atteindre », a écrit l'entreprise.
Together a fait de la conservation zéro des données le réglage par défaut des nouveaux comptes, est passé à des identifiants de courte durée, vérifie chaque pull request à la recherche de secrets et a mis à jour ses règles pour les agents de programmation IA. Novita et Phala ont publié leurs propres notes d'incident, et Dragos indique travailler désormais avec une douzaine de fournisseurs.
Pour les développeurs, le conseil de Moore est pratique : héberger les modèles soi-même si on en a les moyens, sinon passer directement par un fournisseur de premier rang, choisir à la main les hébergeurs derrière un routeur et glisser son propre canari dans le contexte qu'envoient ses agents. Jusqu'à ce mois-ci, un réglage de confidentialité dans l'IA était une case à laquelle on faisait confiance. Il existe désormais un test pour la vérifier, et le plus grand routeur vient d'en faire le prix d'entrée.
Five Months From Canary to Cutoff
The Brief
Restez curieux
IA et technologie : ce qui change et pourquoi cela compte.
Votre sélection quotidienne, en anglais ou en espagnol.
Gratuit pour toujours. Désabonnement à tout moment.
Plus d'articles

The Specialty News





Conversation
Lancer la conversation