Ein brisanter Vorgang erschüttert die KI-Branche: Nach einem Bericht des Wall Street Journal war es offenbar Amazon-CEO Andy Jassy persönlich, der durch Gespräche mit hochrangigen US-Regierungsvertretern den Anstoß für ein weitreichendes Exportkontrollverbot gegen zwei KI-Modelle des Unternehmens Anthropic gab. Betroffen sind die Modelle Fable 5 und Mythos 5, zu denen Anthropic infolge einer behördlichen Direktive den weltweiten Zugang abrupt gesperrt hat.
Amazons Sicherheitsforschung als Auslöser
Laut dem Bericht führten interne Sicherheitsforscher bei Amazon gezielte Tests mit Anthropics Claude-Modell Fable 5 durch. Dabei sollen sie durch eine Abfolge speziell konstruierter Prompts in der Lage gewesen sein, Informationen aus dem Modell zu extrahieren, die potenziell für Cyberangriffe nutzbar wären. Diese Erkenntnisse wurden in einem internen Forschungspapier dokumentiert. Jassy soll die Ergebnisse anschließend direkt an US-Finanzminister Scott Bessent sowie weitere Regierungsbeamte weitergegeben haben. Kurz darauf erließ die US-Regierung eine Exportkontrolldirektive, die Anthropic dazu zwang, den Zugang zu den betroffenen Modellen weltweit zu unterbinden.
Komplexes Geflecht aus Partnerschaft und Wettbewerb
Der Vorgang ist aus mehreren Gründen bemerkenswert. Amazon ist gleichzeitig einer der wichtigsten Investoren und Cloud-Partner von Anthropic – das Unternehmen hat mehrere Milliarden Dollar in den KI-Entwickler gesteckt und integriert dessen Modelle tief in seine AWS-Plattform. Gleichzeitig konkurriert Amazon im KI-Bereich mit eigenen Modellen und Diensten. Dass ausgerechnet Amazon-Forscher Sicherheitslücken im Partnerunternehmen aufdecken und diese direkt an Regierungsstellen kommunizieren, wirft Fragen über die Natur dieser Zusammenarbeit auf. Ein Amazon-Sprecher bestätigte lediglich, dass es „nicht ungewöhnlich" sei, dass Regierungen das Unternehmen zu potenziellen Sicherheitsrisiken konsultieren – Details zu diesen Gesprächen wolle man jedoch nicht kommentieren.
Einordnung: KI-Sicherheit als regulatorisches Schlachtfeld
Der Fall verdeutlicht, wie schnell sicherheitstechnische Erkenntnisse über KI-Modelle politische und regulatorische Konsequenzen nach sich ziehen können. Sogenannte Jailbreaking-Techniken – also das gezielte Umgehen von Sicherheitsfiltern durch manipulierte Eingaben – sind seit Jahren ein zentrales Thema in der KI-Sicherheitsforschung. Dass ein Großkonzern wie Amazon solche Methoden systematisch auf Modelle eines Partnerunternehmens anwendet und die Ergebnisse an staatliche Stellen weitergibt, ist jedoch ein Novum und dürfte die Debatte über verantwortungsvolle KI-Offenlegung (Responsible Disclosure) neu entfachen.
Für Nutzer und Unternehmen, die auf Fable 5 oder Mythos 5 setzen, bedeutet das Exportverbot einen abrupten Wegfall wichtiger Werkzeuge. Anthropic steht nun unter Druck, die Sicherheitslücken zu schließen und gegenüber Regulierern Transparenz zu demonstrieren – während Amazon sich dem Vorwurf ausgesetzt sieht, einen Geschäftspartner durch gezielte Weitergabe von Forschungsergebnissen in Bedrängnis gebracht zu haben. Wie sich dieser Konflikt auf die strategische Partnerschaft beider Unternehmen auswirkt, bleibt abzuwarten.
Quellen: The Verge · TechCrunch