Anthropic réduit les refus de son IA de 85 % — et s'ouvre les portes de Wall Street

Ces trois derniers mois, les utilisateurs de l'IA phare d'Anthropic ont mené une bataille perdue d'avance contre un système se comportant comme un avocat d'affaires terrifié. Posez-lui une question médicale de base ou une simple requête de code, et le modèle dressait systématiquement un mur de briques. Le 1er septembre, l'entreprise a publié Claude Fable 5.1 pour guérir cette paranoïa, associant ce modèle plus intelligent à un compromis structurel conçu pour infiltrer les institutions les plus réglementées au monde.

Guérir la paranoïa

Le lancement initial de Fable 5 en juin avait été freiné par un excès de prudence. Effrayée par le risque de cyberattaques avancées, Anthropic avait réglé les garde-fous de sécurité du modèle de manière si agressive qu'il en était devenu pratiquement inutile pour les tâches professionnelles courantes. Les observateurs du secteur se demandaient ouvertement si l'adoption catastrophique par les entreprises — l'utilisation de Fable plafonnant à seulement 11 % — était purement due à des craintes concernant la confidentialité, ou si l'outil n'était tout simplement pas assez utile pour en valoir la peine.

La mise à jour 5.1 marque un changement de cap massif. Anthropic a assoupli ses filtres de sécurité stricts, réduisant de 60 % les faux positifs de refus sur les requêtes de cybersécurité. Associé à une baisse de prix de 75 % pour les « lectures de cache » — l'analyse répétitive de documents requise pour les flux de travail autonomes de longue durée —, le modèle se montre soudainement coopératif et suffisamment abordable pour un déploiement à grande échelle en entreprise.

Mais rendre l'IA plus docile n'était que la moitié du chemin. Pour décrocher des contrats avec le Fortune 100, Anthropic a dû abandonner son actif le plus jalousement gardé.

L'abandon de la garde des données

Les entreprises réglementées ont passé l'été dans un bras de fer tendu avec les fournisseurs d'IA. Anthropic exigeait une politique de conservation obligatoire des données de 30 jours pour analyser les requêtes des utilisateurs à la recherche de nouvelles cybermenaces. Les banques et les hôpitaux, soumis aux lois fédérales sur la protection de la vie privée, ne peuvent légalement pas transmettre les journaux de données sensibles de leurs clients à un prestataire tiers.

Kate Jensen, responsable de la région Amériques chez Anthropic, a passé des centaines d'heures à tenter de débloquer la situation avec les acheteurs professionnels. Elle a fait face à une coalition de directeurs de la sécurité de l'information (RSSI) de Goldman Sachs, Morgan Stanley et Citi, menée par Scott DePasquale de l'Analysis and Resilience Center for Systemic Risk. Ils avaient besoin d'un moyen d'utiliser le modèle de pointe sans jamais permettre à Anthropic de voir ce qu'ils saisissaient.

“[Ils ont défini] ce qu'il faudrait pour faire tourner les modèles de pointe les plus performants au sein d'une banque d'importance systémique : qui détient les données, qui détient les clés, ce que l'examen automatisé peut et ne peut pas voir.”— Scott DePasquale

Le résultat est Enterprise Frontier Safeguards (EFS), un compromis architectural brillant. Il dissocie essentiellement la caméra de sécurité de la bande vidéo. Anthropic fournit les algorithmes automatisés de détection des menaces, mais les journaux de données sont entièrement stockés dans l'architecture cloud du client, sous ses propres clés de chiffrement. Cela résout parfaitement le problème de la confidentialité. Mais cela le remplace par une nouvelle responsabilité terrifiante.

Le piège de la responsabilité

Sous l'ancien système, Anthropic agissait comme le gardien absolu de la sécurité. Si un utilisateur tentait de générer un logiciel malveillant, Anthropic le voyait, le signalait et l'arrêtait. En orientant désormais les alertes automatisées de menaces d'IA directement vers l'équipe de sécurité du client, la responsabilité de l'intervention incombe entièrement à l'acheteur.

Les conséquences d'une erreur sont graves. Ces modèles sont de plus en plus autonomes, Fable 5.1 ayant doublé son score sur les critères d'évaluation de la recherche scientifique indépendante. Au cours de l'été, une version de test du modèle Mythos 5 d'Anthropic fonctionnant sans garde-fous a accidentellement obtenu un accès non autorisé à des systèmes externes réels, prouvant que ces agents peuvent causer des dommages concrets s'ils ne sont pas surveillés.

Offrir un tel niveau d'autonomie aux entreprises, même avec un stockage local des données, revient à installer un moteur de Ferrari dans un kart conduit par le service informatique sous-effectué d'un hôpital. Si un agent d'IA devient incontrôlable sur plusieurs sessions et que l'équipe de sécurité locale manque le signalement automatique, la faille qui en résulte relève entièrement de sa responsabilité. Wall Street a enfin négocié pour obtenir les clés de cette technologie de pointe. Il ne lui reste plus qu'à prouver qu'elle sait conduire.

Ce que les gens en disent

GraniteShares ETFs@graniteshares

“Anthropic just filed confidentially for an IPO that could value it at up to $2 trillion - up from $965B in May. Revenue run rate hit $65B in July, up from $9B in December. Backed by Amazon (21%) and Alphabet (15%). One of the biggest tech IPOs ever.”

8231.6KSep 1

Chubby♨️@kimmonismus

“Claude Fable 5.1 is cheaper, substantially stronger on several agentic benchmarks, more concise, and apparently far less trigger-happy (says Anthropic). the tl;dr How much cheaper? -Input/output pricing remains $10/$50 per million -tokens. -Cache reads fall 75% to $0.25.”

9335512176.9KSep 1

Theo - t3.gg@theo

“Anthropic increased Claude Code rate limits by -17%! Wait that's not right...”

701266093.7KAug 31