De regering‑Trump heeft de toegang tot Anthropic’s meest geavanceerde ai‑modellen Mythos en Fable voor alle niet-Amerikaanse burgers opgeschort, of die nu in de VS dan wel daarbuiten werken. Nadat Amazon‑ceo Andy Jassy alarm sloeg over mogelijke misbruik-scenario’s, besloot de Amerikaanse overheid meteen tot een exportcontrole.
De brief waarin Washington de richtlijn aankondigde, bevat geen nadere details over de aard van de bezorgdheid over de nationale veiligheid. Volgens Anthropic denkt de overheid een methode te hebben ontdekt om Fable 5 te omzeilen, ofwel te ‘jailbreaken’. Anthropic zegt een demonstratie te hebben bekeken van deze specifieke ai-techniek, waarmee een klein aantal reeds bekende, kleine kwetsbaarheden werden geïdentificeerd. ‘Deze kwetsbaarheden lijken relatief eenvoudig en we hebben vastgesteld dat andere openbaar beschikbare modellen ze ook kunnen opsporen zonder dat een omzeiling nodig is.’
Maar het Amerikaanse ai-bedrijf waarschuwde onlangs zelf voor de verdere ontwikkeling van geavanceerde ai. Dit gaat zo snel dat systemen binnenkort zichzelf kunnen verbeteren zonder menselijke tussenkomst. Eind mei werd bekend dat Mythos bij het project Glasswing al tienduizenden kwetsbaarheden had opgespoord. De CISO Community Nederland waarschuwde daar meermalen voor. Anthropic zei zelf dat hun model te krachtig en risicovol is. Maar nu de Amerikaanse overheid de buitenlandse toegang blokkeert, zegt Anthropic het een misverstand is.
Oren laten hangen
Om technische redenen heeft Anthropic beide ai-modellen tijdelijk helemaal afgesloten; dus ook voor Amerikanen. Andere modellen van Claude zijn wel toegankelijk. Het ai-bedrijf wil zo snel mogelijk Mythos en Fable weer openstellen.
Volgens de Wall Street Journal heeft de regering in Washington de oren laten hangen naar Amazon, overigens een grote investeerder in Anthropic. De zakenkrant citeert ingewijden die zeggen dat Amazon‑onderzoekers aantoonden dat het Fable 5‑model onder specifieke omstandigheden informatie kon vrijgeven die bruikbaar is voor cyberaanvallen. Amazon-topman Andy Jassy zou dit hebben gemeld aan hoge Amerikaanse functionarissen, onder wie minister van Financiën Scott Bessent. Amazon wil hier niet in detail op ingaan.
Politisering
Afgelopen weekeinde regende het kritiek op de nieuwe Amerikaanse richtlijn. Gevreesd wordt voor een politisering van het ai-beleid die Europese gebruikers van beide ai-modellen op achterstand zet. Op 11 juni waarschuwde een groep Europese ai-experts waaronder assistent-professor (MIT) en ai-onderzoeker (DeepMind) Michiel Bakker wat er zou gebeuren als de VS de toegang tot frontier-ai zou stoppen.
Tot hun ontzetting werd hun toekomstscenario al na een paar dagen bewaarheid. Volgens Bakker moet Europa toegang hebben tot de beste ai-modellen. En dat streven wordt nu al doorkruist.
