Auf dem hochriskanten Terrain der nationalen Sicherheit wird der Zeitrahmen für eine Systemverletzung traditionell in wochen-, monate- oder sogar jahrelanger mühevoller Aufklärungsarbeit gemessen. Eine aktuelle Enthüllung über Anthropic’s fortschrittlichstes Modell der künstlichen Intelligenz, Mythos, hat diesen Zeitrahmen jedoch auf wenige Stunden verkürzt. Während eines genehmigten Testlaufs, der in Zusammenarbeit mit US-Geheimdiensten durchgeführt wurde, identifizierte das Mythos-Modell Berichten zufolge kritische Schwachstellen in hochsensiblen und geheimen Regierungssystemen mit einer Geschwindigkeit, die das Verteidigungsestablishment unvorbereitet traf. Der Vorfall hat nicht nur die erschreckende Effizienz generativer KI in der Cyberkriegsführung verdeutlicht, sondern auch einen legislativen und regulatorischen Flächenbrand ausgelöst, der den Einsatz genau jener Werkzeuge zu stoppen droht, die diese Systeme eigentlich schützen sollen.
Die Enthüllung kam während einer Anhörung des Senatsausschusses für Banken, Wohnungsbau und städtische Angelegenheiten ans Licht, bei der Senator Mark Warner aus Virginia einen erschütternden Bericht über die Leistung des Modells abgab. Unter Berufung auf General Joshua Rudd, den Leiter der National Security Agency (NSA) und des U.S. Cyber Command, merkte Warner an, dass das KI-Tool an einem einzigen Nachmittag in fast alle ihm präsentierten geheimen Systeme eingebrochen sei. Dies war kein langsamer, iterativer Prozess von Versuch und Irrtum, sondern eine rasante Identifizierung architektonischer Schwächen, die menschlichen Prüfern und früheren automatisierten Scannern jahrzehntelang verborgen geblieben waren. Die Geschwindigkeit dieser Entdeckung legt nahe, dass LLMs wie Mythos über eine latente Fähigkeit verfügen, komplexe Logikflüsse abzubilden und nicht-lineare Fehler auf eine Weise zu identifizieren, die die Landschaft der digitalen Befestigung grundlegend verändert.
Die Architektur von Mythos und die Logik der Verwundbarkeit
Um zu verstehen, wie ein KI-Modell solche Ergebnisse erzielen kann, muss man die mechanischen Unterschiede zwischen Standard-Sprachmodellen und den spezialisierten Schlussfolgerungsfähigkeiten betrachten, die Anthropic in die Mythos-Serie integriert hat. Im Gegensatz zu seinem Vorgänger Fable, der für einen breiteren öffentlichen Nutzen und Sicherheitsabgleiche konzipiert wurde, wurde Mythos mit einem Fokus auf tiefe logische Schlussfolgerungen und mehrstufige Problemlösung entwickelt. Aus technischer Sicht ist das Auffinden einer Schwachstelle in einem geheimen System im Wesentlichen die Aufgabe, eine unbehandelte Ausnahme oder einen übersehenen Zustand in einer riesigen, miteinander verbundenen Software-Lieferkette zu identifizieren. Während ein menschliches Team Tage damit verbringen könnte, ein Speicherleck oder falsch konfigurierte Berechtigungen aufzuspüren, nutzt Mythos seinen massiven Parametersatz, um Millionen von Interaktionspermutationen gleichzeitig zu simulieren.
Die technische Brillanz von Mythos liegt in seiner Mustererkennung von Legacy-Code. Viele geheime US-Systeme basieren auf älteren Softwarearchitekturen, die seit fast vierzig Jahren immer wieder mit Patches versehen und ergänzt wurden. Diese Schichten erzeugen eine „Zerbrechlichkeit“ innerhalb des Systems – versteckte Reibungspunkte, an denen moderne Sicherheitsprotokolle schlecht mit alten Codebasen interagieren. Mythos scheint ein hochpräzises internes Modell dieser architektonischen Widersprüche entwickelt zu haben. Durch das Einlesen der strukturellen Logik eines Systems kann die KI vorhersagen, wo ein Fehler wahrscheinlich auftreten wird, noch bevor sie überhaupt einen Scan einleitet. Diese prädiktive Kapazität ist es, die die Arbeit von Wochen auf wenige Stunden reduzierte; die KI suchte nicht nur nach Löchern, sie leitete deren Position mathematisch aus den inhärenten Designfehlern des Systems ab.
Projekt Glasswing und die Ethik des Red Teamings
Die Schwachstellen wurden im Rahmen einer Initiative namens Project Glasswing entdeckt. Dieses Programm wurde als kooperativer Rahmen zwischen Anthropic, anderen Tech-Giganten und US-Geheimdiensten etabliert, um kritische Infrastrukturen einem „Red Teaming“ zu unterziehen. Red Teaming ist die Praxis, ein System mit den Augen eines Gegners zu betrachten, um dessen Schwächen zu finden. Project Glasswing sollte das ultimative Sicherheitsnetz sein, um sicherzustellen, dass die Regierung zuerst darüber Bescheid weiß, wenn ein so leistungsfähiges Modell wie Mythos ein System knacken kann. Der Erfolg des Projekts hat jedoch ein Paradoxon geschaffen: Je effektiver die KI das System durch das Finden seiner Fehler verteidigt, desto gefährlicher erscheint die KI selbst für die Regulierungsbehörden, die sie beaufsichtigen.
Interne Quellen deuten darauf hin, dass die Tests im Rahmen von Project Glasswing nicht auf einfaches Passwortknacken oder Phishing-Simulationen beschränkt waren. Stattdessen beinhalteten sie, dass die KI verschlüsselte Datenströme analysierte und neuartige Methoden zur Privilegieneskalation vorschlug – Techniken, die noch nie in der bestehenden Cybersicherheitsliteratur dokumentiert waren. Obwohl ein US-Beamter klarstellte, dass das Identifizieren einer Schwachstelle nicht dasselbe ist wie deren Ausnutzung, ist dieser Unterschied im digitalen Bereich oft nur gering. Sobald der Pfad identifiziert ist, ist die Ausführung oft ein triviales Skript. Diese Erkenntnis veranlasste die NSA und andere Behörden dazu, die Risiken zu überdenken, ein so mächtiges Werkzeug in einer kommerziellen Umgebung zuzulassen, selbst in einer so sicherheitsorientierten wie der von Anthropic.
Regulatorische Peitsche und das Verbot des ausländischen Zugriffs
Nach diesen Erkenntnissen handelte die Trump-Administration mit für sie untypischer Geschwindigkeit, um die Technologie einzuschränken. Es wurde eine Executive Order unterzeichnet, die einen Überprüfungsrahmen für alle fortschrittlichen KI-Systeme etablierte und eine einmonatige nationale Sicherheitsüberprüfung vor jeder öffentlichen Veröffentlichung vorschrieb. Noch bedeutender war eine spezifische Richtlinie, die Anthropic dazu verpflichtete, ausländischen Staatsangehörigen den Zugriff auf seine neuesten Modelle, Mythos 5 und Fable 5, zu verwehren. Die Logik der Regierung wurzelt in einer traditionellen Eindämmungsstrategie: Wenn das Werkzeug derart potent ist, muss es innerhalb der Grenzen der Vereinigten Staaten und ihrer engsten Verbündeten gehalten werden, um zu verhindern, dass Gegner wie China oder Russland ähnliche Modelle verwenden, um die gleichen Risse in der amerikanischen Rüstung zu finden.
Ist das Cybersicherheitsverbot kontraproduktiv?
Die Reaktion der Industrie auf das harte Durchgreifen der Regierung stieß auf lautstarken Widerstand. Ein Bündnis aus über 100 Cybersicherheitsexperten und Führungskräften von Unternehmen wie Adobe und Nvidia sandte kürzlich einen Brief an die Regierung, in dem eine Rücknahme der Richtlinie gefordert wurde. Ihr Argument ist pragmatisch: Indem die fortschrittlichsten KI-Tools vom Markt genommen werden, entwaffnet die Regierung effektiv die Verteidiger, ohne etwas gegen die Entwicklung ähnlicher Modelle durch Gegner zu unternehmen. Diese Experten argumentieren, dass Mythos zwar „ziemlich gut“ darin ist, Softwarefehler zu finden, aber nicht in einer Weise „einzigartig gut“, die ein totales Verbot rechtfertigt. Andere Open-Source-Modelle und staatlich finanzierte Projekte in Konkurrenznationen werden unweigerlich das gleiche Leistungsniveau erreichen.
Der Kern der Debatte ist die Frage, ob wir in ein Zeitalter eingetreten sind, in dem der einzige Schutz gegen KI-gesteuerte Angriffe ein KI-gesteuerter Schild ist. Wenn amerikanischen Cybersicherheitsfirmen der Zugriff auf Modelle wie Mythos verweigert wird, sind sie gezwungen, sich auf langsamere, menschzentrierte Methoden zu verlassen, die mit automatisierten Exploits unmöglich Schritt halten können. In der Welt der industriellen Automatisierung und des Lieferkettenmanagements, wo eine einzige Schwachstelle den weltweiten Versand stoppen oder ein Stromnetz lahmlegen kann, ist der Verlust eines fortschrittlichen Diagnosewerkzeugs ein schwerer Schlag. Die Unterzeichner des Briefes halten daran fest, dass die beste Verteidigung ein robustes, transparentes Ökosystem ist, in dem die besten Modelle genutzt werden, um die weltweite Software ständig zu überprüfen und zu patchen. Sie betrachten den derzeitigen Weg der Regierung als einen Rückzug in eine Denkweise der „Sicherheit durch Obskurität“, die im Zeitalter der generativen Intelligenz nicht länger haltbar ist.
Kommentare
Noch keine Kommentare. Seien Sie der Erste!