Das US-Handelsministerium verlangt von Anthropic, Fable 5- und Mythos-AI-Modelle für ausländische Nutzer auszusetzen, nachdem Sicherheitslücken bekannt geworden sind

Das US-Handelsministerium, konkret das Bureau of Industry and Security (BIS), erließ Mitte Juni eine verwaltungsrechtliche Anordnung, die Anthropic dazu verpflichtete, den API-Zugriff auf sein Flaggschiff-Modell Fable 5 sowie auf das auf Cybersicherheit ausgerichtete Modell Mythos für ausländische Staatsangehörige zu unterbrechen – einschließlich ausländischer Kunden im Ausland und nicht in den USA beschäftigter Mitarbeitender. Anthropic erhielt nur 90 Minuten zur Umsetzung und, da es die Staatsangehörigkeiten der Nutzer weltweit nicht sofort verifizieren konnte, schaltete es beide Modelle weltweit ab. Das traf selbst Five-Eyes-Partnerländer und das UK AI Safety Institute. Die Maßnahme ist das erste US-Verbot per Verwaltung gegen öffentlich eingesetzte KI-Modelle und verschiebt die Regulierung von Chip-Beschränkungen hin zur Kontrolle des Modellzugangs.

Die Einschränkung wurde ausgelöst, nachdem Amazon-Forscher in Fable 5 eine potenzielle Jailbreak-Schwachstelle entdeckt hatten, die Sicherheitsklassifizierer umgeht, um Fähigkeiten zur Netzwerkanalyse offenzulegen. Laut dem stellvertretenden Vorsitzenden des Senate Intelligence Committee, Mark Warner, hätten NSA-Beamte erklärt, Mythos habe bei Red-Team-Übungen in nur wenigen Stunden die Tests für klassifizierte Systeme durchdrungen. Anthropic plant, den Zugang zu Fable 5 für US-Bürger bis zum 8. Juli wiederherzustellen, wobei Identitätsprüfungsmechanismen in Kraft treten sollen.