Le ministère américain du Commerce exige qu’Anthropic suspende les modèles d’IA Fable 5 et Mythos pour les utilisateurs étrangers après la divulgation de failles de sécurité

Le Bureau de l’industrie et de la sécurité (BIS) du département américain du Commerce a publié, à la mi-juin, une ordonnance administrative exigeant qu’Anthropic suspende l’accès API à son modèle phare Fable 5 et à son modèle orienté cybersécurité Mythos pour des ressortissants étrangers, y compris des clients à l’étranger et du personnel non américain. Anthropic n’a eu que 90 minutes pour s’y conformer et, n’arrivant pas à vérifier instantanément les nationalités des utilisateurs à l’échelle mondiale, a coupé les deux modèles dans le monde entier, y compris pour des alliés Five Eyes et l’UK AI Safety Institute. Cette mesure marque le premier bannissement administratif américain visant des modèles d’IA déployés publiquement, faisant évoluer la régulation des restrictions liées aux puces vers le contrôle de l’accès aux modèles.

La restriction a été déclenchée après que des chercheurs d’Amazon ont identifié une vulnérabilité potentielle de jailbreak dans Fable 5, permettant de contourner des classificateurs de sécurité afin de révéler des capacités d’analyse du réseau. D’après le vice-président de la commission sénatoriale du renseignement, Mark Warner, des responsables de la NSA ont indiqué que Mythos avait pénétré en quelques heures des tests de systèmes classifiés lors d’exercices de red team. Anthropic prévoit de rétablir l’accès à Fable 5 pour les citoyens américains d’ici le 8 juillet, avec des mécanismes de vérification d’identité en place.