Google: Erstmals baut eine KI ganz ohne Menschen aus Sicherheitsupdates Angriffe

Googles Threat Intelligence Group hat auf einem offenen Server ein KI-System namens exploit_agent gefunden. Es vergleicht Software vor und nach Sicherheitsupdates, baut daraus selbstständig Angriffscode und setzt ihn auch gleich ein. Laut Google ist das der erste beobachtete Fall eines vollständig autonomen KI-Angriffs in freier Wildbahn.

Branche 16. Nov. 2026 6 Min. Lesezeit Quelle: Techmeme
Symbolbild, KI-generiert

Worum es geht

Die Google Threat Intelligence Group (GTIG), Googles Abteilung für die Analyse von Cyberbedrohungen, hat am 16. November 2026 ihren vierteljährlichen Bericht über den Missbrauch von KI durch Angreifer veröffentlicht. Der Titel lautet „Agentic Threat Activity Crosses a Significant Threshold“, auf Deutsch etwa: Angriffe durch KI-Agenten überschreiten eine wichtige Schwelle. Im Mittelpunkt steht ein Fund, den Google als Premiere bezeichnet: Zum ersten Mal haben die Forscher beobachtet, dass Angreifer ein KI-Framework ganz ohne Menschen in der Schleife betrieben haben. Das System hat Sicherheitsupdates ausgewertet, daraus Exploits gebaut – also Programmcode, der eine Schwachstelle gezielt ausnutzt – und diese automatisch gegen echte Ziele eingesetzt.

Das Framework heißt exploit_agent. Gefunden wurde es auf einem ungeschützten Staging-Server, also einem Vorbereitungsrechner des Angreifers, der versehentlich offen im Netz stand. Darüber berichten unter anderem SiliconANGLE und das spanischsprachige Portal DiarioBitcoin.

So funktioniert exploit_agent

Die Idee dahinter ist simpel. Wenn ein Softwarehersteller eine Sicherheitslücke schließt, ändert er bestimmte Stellen im Code. Wer die Version vor dem Update mit der Version danach vergleicht, sieht, wo nachgebessert wurde, und kann daraus ableiten, welcher Fehler dort steckte. Fachleute nennen das Patch-Diffing, auf Deutsch etwa Differenzanalyse. Bisher war das mühsame Handarbeit für erfahrene Sicherheitsforscher.

Laut GTIG hat exploit_agent diesen Schritt komplett automatisiert. Das System vergleicht laufend den Code beliebter Webanwendungen vor und nach jeder Patch-Ankündigung. Findet es eine wahrscheinliche Schwachstelle, schreibt es einen Exploit und führt ihn sofort aus. Dafür war es an mehrere große Sprachmodelle angebunden: an Frontier-Modelle, also die leistungsstärksten kommerziellen KI-Modelle, und an Modelle, die der Betreiber auf eigener Hardware laufen ließ. Welche Modelle das genau waren, nennt der Bericht laut DiarioBitcoin nicht.

DiarioBitcoin ordnet ein, was daran neu ist: Das System hat nicht nur Hypothesen geliefert oder Tests vorgeschlagen, über die dann ein Mensch entscheidet. Es hat die ganze Kette von der Analyse bis zum Angriff selbst ausgeführt. Genau das unterscheidet den Fall von der bisher üblichen Nutzung, bei der Angreifer einem Chatbot Fragen stellen und die Antworten selbst prüfen.

Was sonst noch auf dem Server lag

Auf demselben Server fanden die Forscher gestohlene Daten von Opfern und mehrere Skripte für die Zeit nach dem Einbruch. Damit ließen sich interne Netzwerke auskundschaften, Passwörter per Brute Force (stumpfes Durchprobieren) knacken und Webshells installieren. Webshells sind kleine Programme, die einem Angreifer dauerhaft eine Hintertür auf einem Webserver offenhalten. Ein Skript entfernte sogar Webshells, die konkurrierende Angreifer hinterlassen hatten. Der Betreiber wollte die übernommenen Server also offenbar für sich allein behalten.

Laut Opfer-Telemetrie interessierte sich der Betreiber vor allem für französische Websites aus Medien, Unterhaltung und Bildung. In der Konfigurationsdatei steht ein russischer Kommentar, der den Einrichtenden anweist, die Schlüssel „genau hier einzutragen, nicht im Chat“. DiarioBitcoin weist darauf hin, dass russischsprachige Werkzeuge allein noch nicht verraten, wer hinter dem Angriff steckt. Eine Zuordnung zu einem Staat leistet der Bericht nicht. Auch die Namen der Opfer, die Menge der gestohlenen Daten und die untersuchte Software bleiben offen.

Warum Angreifer auf bekannte Lücken setzen

Im Bericht zwei Monate zuvor hatte GTIG noch geschrieben, man habe keine vollautonomen Angriffsketten gegen echte Ziele beobachtet. Das hat sich im letzten Quartal geändert. Google erwartet, dass Angreifer Sprachmodelle eher auf N-Day-Lücken ansetzen als nach Zero-Days zu suchen. N-Day-Lücken sind öffentlich bekannt und bereits gepatcht, aber noch nicht überall geschlossen. Zero-Days sind Lücken, die der Hersteller noch nicht kennt. Der Grund: Zu einer gepatchten Lücke gibt es eine begrenzte, klar abgesteckte Menge Material, nämlich den geänderten Code. Das ist für eine KI leichter abzuarbeiten als die offene Suche nach unbekannten Fehlern. Daneben erwähnt Google laut DiarioBitcoin aber auch den ersten bekannten Fall, in dem ein Angreifer einen mit KI entwickelten Zero-Day-Exploit im echten Einsatz verwendet hat.

Wie schnell die Zeit zwischen der Veröffentlichung einer Lücke und dem ersten funktionierenden Angriff schrumpft, zeigt der Bericht an zwei Schwachstellen in Druckverwaltungsservern von PaperCut. Sie wurden Ende August verkettet und als Zero-Days ausgenutzt. Sicherheitsforscher und die Firma Huntress Labs haben mit Sprachmodellen innerhalb eines Tages nach Bekanntwerden funktionierende Exploits gebaut. Eine Kampagne, die GreyNoise Intelligence vier Tage nach der Veröffentlichung beobachtet hat, soll ihre Exploits ebenfalls mit Sprachmodellen gebaut haben und traf Hunderte Organisationen. In einem Fall erreichten die Angreifer laut GreyNoise innerhalb von Minuten die Rechte eines Domänenadministrators, also die Kontrolle über das gesamte Firmennetz.

Weitere Funde: Pentest-Frameworks, Fake-Profile, manipuliertes Claude Code

Der Bericht beschreibt außerdem, wie Angreifer frei verfügbare Pentest-Frameworks mit KI-Agenten missbrauchen. Solche Werkzeuge sind eigentlich für Penetrationstests gedacht, bei denen Fachleute im Auftrag einer Firma deren Systeme angreifen, um Schwachstellen zu finden. Bei einem Einbruch in der US-Luft- und Raumfahrtbranche wurde das Multi-Agenten-Framework CAIRN beobachtet. Ein anderer Akteur nutzte von Ende August bis Anfang Oktober eine angepasste Plattform auf Basis von PentAGI, um zahlreiche Organisationen in Asien nach Schwachstellen abzusuchen. DiarioBitcoin nennt zusätzlich ARTEX, CyberStrikeAI und HexStrike AI. Laut GTIG experimentieren damit sowohl finanziell motivierte Kriminelle als auch mutmaßliche Spionagegruppen, einige davon mit Verbindungen nach China. Ein kleiner Trost: Weil diese Frameworks ungebremst und ohne Rücksicht auf Unauffälligkeit arbeiten, hinterlassen sie viele Spuren und sind deshalb bisher relativ leicht zu entdecken.

Auch bei Einflusskampagnen geht KI-Nutzung inzwischen weit über das Schreiben von Beiträgen hinaus. Ein kommerzieller Dienstleister baute mithilfe der Gemini-API eine schlüsselfertige Plattform, die über Cloud-Handyfarmen mehr als 100.000 Social-Media-Konten steuern sollte. Eine andere Plattform zielte auf die politische Stimmung in Europa und im Nahen Osten. Ihre Prompts verlangten gezielt Kamerafehler, damit die erzeugten Fotos wie echte Smartphone-Bilder aussehen.

Besonders brisant ist der Fall der mutmaßlich nordkoreanischen Gruppe UNC6836. Sie sprach Kryptofirmen in Nordamerika und Europa über gefälschte Recruiter-Profile an. Die Profilfotos trugen Googles SynthID-Wasserzeichen, eine unsichtbare Markierung für KI-generierte Bilder, und waren also mit Google-Werkzeugen erstellt. Später manipulierte die Gruppe in internen Code-Repositories die Dateien .claude/settings.json. Damit lud Anthropics Programmierassistent Claude Code bei jedem Start die Hintertür SOMBERMEME herunter. Google hat nach eigenen Angaben die Konten und Ressourcen gesperrt, die mit dem gefundenen Gemini-Missbrauch zu tun hatten. Google DeepMind hat mit den Erkenntnissen seine Klassifikatoren verbessert, also die Filter, die Missbrauch automatisch erkennen sollen.

Einordnung

Der Fund von exploit_agent bestätigt, wovor Sicherheitsforscher seit Längerem warnen: Die Zeit zwischen einem Sicherheitsupdate und dem ersten Angriff auf ungepatchte Systeme schrumpft. Wenn eine KI rund um die Uhr Updates auswertet und daraus automatisch Angriffe baut, reichen Wochen oder auch nur Tage bis zum Einspielen eines Patches nicht mehr. Für Betreiber von Webanwendungen heißt das: Updates sofort einspielen und verdächtige Zugriffe überwachen. Ein Patch schützt nur, wenn er auch installiert ist – und seine Veröffentlichung verrät Angreifern gleichzeitig, wo sie suchen müssen.

Der Fall zeigt aber nicht, dass jede KI jede Lücke allein ausnutzen kann oder dass Menschen aus Angriffskampagnen verschwunden sind. Das betont auch DiarioBitcoin. Beschrieben wird ein einzelnes Framework auf einem einzelnen offenen Server. Wie viele Opfer es gab, welche Modelle im Einsatz waren und wie erfolgreich das System insgesamt war, lässt der Bericht offen. Außerdem ist Google selbst Anbieter von KI-Modellen und Sicherheitsdiensten, und die Fallzahlen lassen sich von außen nicht überprüfen. Auffällig ist, dass mehrere Fälle direkt Werkzeuge großer KI-Anbieter betreffen: Gemini-API, SynthID-markierte Bilder und Claude Code. Die Sicherheitsmechanismen der Anbieter greifen offenbar oft erst im Nachhinein.

Quellen

#cybersicherheit#google#ki-agenten#exploits#missbrauch
Originalquelle lesen

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.