Anthropic retire d'urgence ses modèles IA jugés trop dangereux

Le retrait brutal

Anthropic a reçu vendredi soir une directive du secrétaire au Commerce américain ordonnant le retrait immédiat de Fable 5 et Mythos 5. Les deux modèles, lancés quelques jours plus tôt, ont été supprimés de l'interface en quelques heures. Fable 5 était déjà utilisé par des centaines de millions de personnes. Mythos 5, sa version sans restrictions, tournait chez environ 200 entreprises et agences gouvernementales.

La directive émane de Howard Lutnick, secrétaire au Commerce. Selon Axios, il a agi après avoir appris qu'une entreprise utilisatrice avait contourné les sécurités de Fable 5 — les mêmes censées bloquer les usages dangereux en cybersécurité et en biologie.

Une directive vague, des conséquences claires

AnthropicNote que le gouvernement n'a pas détaillé ses motifs précis de préoccupation. En revanche, la directive exige que l'accès soit coupé pour tous les ressortissants étrangers, tant à l'intérieur qu'à l'extérieur des États-Unis. Cela inclut les employés étrangers d'Anthropic dans ses bureaux de San Francisco.

La startup qualifie la manœuvre de « désactivation brutale » et parle d'un malentendu.

Anthropic conteste le raisonnement

La startup soutient qu'un potentiel contournement des mesures de sécurité ne justifie pas le rappel d'un produit déployé auprès de centaines de millions de personnes. Elle avertit que si ce standard était appliqué à tous les fournisseurs d'IA, il paralyserait essentiellement tous les nouveaux déploiements de modèles.

L'argument porte : aucun modèle d'IA au monde ne résiste indéfiniment aux tentatives de contournement. Appliquer ce critère de manière uniforme rendrait tout déploiement impossible.

Une fragilité stratégique exposée

Cette crise révèle l'extrême fragilité de la position d'Anthropic face à Washington. La startup avait déjà perdu les contrats du Pentagone après avoir refusé de lever ses restrictions sur la surveillance de masse. Elle prépare actuellement son entrée en Bourse. Et voilà que le gouvernement américain peut lui ordonner de débrancher son produit phare du jour au lendemain.

La promesse brisée

Fable 5 était le premier modèle de la famille Mythos rendu public, avec des filtres sur la biologie, la chimie et la cybersécurité. Mythos 5, la version complète sans bridage, était réservée à un cercle restreint d'organisations sélectionnées.

Anthropicavait construit sa crédibilité sur l'idée qu'un modèle puissant pouvait être déployé de manière sûre grâce à de solides garde-fous. Le contournement signalé à Lutnick pulvérise cette promesse.

Vers une résolution ?

Anthropic affirme qu'elle travaille au rétablissement de l'accès. Les autres modèles Claude restent disponibles. Toutefois, le mal est fait. Des entreprises, des développeurs et des chercheurs qui avaient intégré Fable 5 dans leurs flux de travail se retrouvent sans outil du jour au lendemain.