Mit Claude auf dem Laptop: Forscher findet über 100 schwere Lücken im Code britischer Behörden

Worum es geht

Der Sicherheitsforscher Chris Nesbitt-Smith von der britischen Firma ControlPlane hat öffentlich zugänglichen Programmcode der britischen Verwaltung durchsucht. Das Ergebnis: mehr als 100 schwere Schwachstellen. Er schaute sich 349 Code-Sammlungen (sogenannte Repositorys, also Projektordner mit Quellcode, meist auf der Plattform GitHub) von 33 öffentlichen Organisationen an und fand in rund zwei Dritteln davon Probleme. Zuerst berichtete das US-Magazin Wired darüber, später griffen unter anderem Infobae und TechBooky die Geschichte auf.

Als Werkzeug nutzte Nesbitt-Smith die KI-Modelle Claude Opus und Claude Sonnet von Anthropic. Das waren keine Spezialversionen, sondern die Varianten, die jeder Kunde bekommt. Er arbeitete damit auf einem normalen Laptop. Gemeldet hat er die Lücken an die betroffenen Stellen, und laut Wired sind sie inzwischen alle behoben. Manche Funde liegen schon Monate zurück: Einige Meldungen stammen aus dem Juni, eine aus dem August.

Der schlimmste Fund: ein Schlüssel, der nie ablief

Am gefährlichsten war eine Panne beim Planning Inspectorate, der Behörde, die in England Fragen der Flächennutzung und Bauplanung bearbeitet. Sie hatte versehentlich einen Zugangsschlüssel für Microsoft Entra ID auf GitHub hochgeladen. Entra ID ist der Dienst, mit dem Microsoft regelt, wer in einer Organisation worauf zugreifen darf. Die Datei verschwand zwar später aus der aktuellen Fassung des Projekts. Laut ControlPlane ließ sie sich aber 18 Monate lang über einen alten Commit weiter abrufen. Ein Commit ist ein gespeicherter Zwischenstand in der Versionsgeschichte, und diese Geschichte bleibt bei GitHub normalerweise vollständig erhalten.

Der Schlüssel war noch gültig, lief offenbar nie ab und hatte sehr weitreichende Rechte. Laut Nesbitt-Smith hätte man damit „gottgleichen“ Lese- und Schreibzugriff auf alle SharePoint-Seiten und alle privaten OneDrive-Konten der Beschäftigten gehabt, einschließlich der Personalakten. SharePoint und OneDrive sind Microsofts Dienste zum Speichern und Teilen von Dateien. Erreichbar gewesen wären außerdem Bibliotheken mit Beweismaterial, das wegen eines Legal Hold aufbewahrt werden muss, also unter rechtlicher Sicherungspflicht steht. Es geht dabei um gesetzlich vorgeschriebene Planungsverfahren und Widersprüche.

„Die Möglichkeit, sie mit Ransomware anzugreifen, alle Daten zu verschlüsseln oder einfach alle Daten zu stehlen, war mehr als gegeben“, sagte Nesbitt-Smith zu Wired.

Ransomware ist Schadsoftware, die Daten verschlüsselt und erst gegen Lösegeld wieder freigibt. TechBooky betont, dass hier nur von möglichem Zugriff die Rede ist. ControlPlane habe die Berechtigungen nur mit begrenzten Tests geprüft, die nichts verändern, und keine echten Dateien abgegriffen. Ein Sprecher der Behörde sagte Wired, die eigenen Überwachungssysteme hätten die Aktivität des Forschers im August sofort bemerkt. Man habe den Vorfall schon als Cybervorfall behandelt, als ControlPlane sich meldete. Rund 20 Minuten nach dem Hinweis sei die Lücke geschlossen gewesen, und einen Datenabfluss habe es nicht gegeben. Man habe Systeme und Abläufe verbessert und sei dem Forscher dankbar.

TechBooky zieht daraus eine allgemeine Lehre: Wer ein Passwort oder einen Schlüssel aus der neuesten Fassung eines Repositorys löscht, hat ihn damit noch nicht ungültig gemacht. Der Schlüssel muss beim Anbieter selbst gesperrt werden, also dort, wo er ausgestellt wurde.

Weitere Lücken bei Bildungsministerium und Schottland

Mehrere Schwachstellen steckten im Code des englischen Bildungsministeriums. Laut Wired betrafen sie:

• einen Beschaffungsdienst, über den Schulen einkaufen,
• ein Bewerbungsportal für Lehrkräfte mit persönlichen Daten, Abschlüssen, Berufslaufbahn und Ausweisdokumenten,
• das zentrale Register der staatlich geförderten Ausbildungs- und Lehrstellenanbieter in England.

Beim Beschaffungsformular für Schulen konnte laut TechBooky jeder, der die Kennnummer einer Anfrage kannte, diese Anfrage ohne Anmeldung ändern. Das ist ein klassischer Fehler bei der Zugriffskontrolle: Das System prüfte nicht, ob die Anfrage auch der Person gehört, die sie bearbeitet. Das Ministerium hat die Lücke im Juli geschlossen.

Im Open-Data-Portal der schottischen Regierung lag ein Administrator-Schlüssel ohne Ablaufdatum direkt im JavaScript-Code, den jeder Browser beim Aufruf der Seite herunterlädt. So konnte jeder Besucher Informationen zu Admin-Konten lesen und ohne Anmeldung die Einstellungen der Seite ändern. ControlPlane meldete das am 23. Juni über das offizielle Meldeprogramm der schottischen Regierung für Sicherheitslücken. Am 25. Juni nahm der Betreiber das Portal endgültig vom Netz, weil er es ohnehin nicht mehr brauchte.

Keine Hacker-Magie, sondern Schlamperei

Nesbitt-Smith betont, dass es hier nicht um raffinierte KI-Angriffe geht.

„Nichts davon hat das Niveau an Raffinesse, über das sich die allgemeinen Medien bei Cyberangriffen Sorgen machen. Das ist alles dummes Zeug“, sagte er Wired.

Viele der Fehler hätte nach seinen Worten ein routinemäßiger IT-Sicherheitscheck finden müssen. Typisch waren Zugangsdaten mit viel zu vielen Rechten und fehlende Berechtigungsprüfungen. Die KI hat diese Fehler nicht erzeugt und auch keine neue Angriffsmethode erfunden. Sie hat einem einzelnen Forscher geholfen, eine sehr große Menge Code schnell nach Hinweisen zu durchsuchen. TechBooky weist darauf hin, dass Angreifer dieselben Werkzeuge nutzen können, Verteidiger aber ebenso. Die Zahlen beschreiben außerdem nur die Stichprobe des Forschers und sind keine Bestandsaufnahme aller britischen Verwaltungsdienste.

Amanda Brock, Chefin des gemeinnützigen Branchenverbands OpenUK, sieht die Ursache nicht im offenen Code. Das Problem beim Planning Inspectorate sei „interne Haushaltsführung beim Einsatz öffentlicher Werkzeuge“. Die Daten seien offengelegt worden, weil man keinen guten Prozess befolgt habe. „Das ist kein Sicherheitsproblem von Open Source.“

Streit um offenen Code: Zumachen ist keine Lösung

Seit rund zehn Jahren veröffentlicht die britische Regierung Code, der mit Steuergeld entsteht, standardmäßig offen. Das gilt unter anderem für das Gesundheitsministerium, das Innenministerium und Kommunen. Dahinter stehen Transparenz und Kostenersparnis, denn andere Stellen können den Code wiederverwenden. Wegen knapper Budgets haben laut Wired aber mehrere Behörden Wartung und Pflege ihrer Technik vernachlässigt.

Inzwischen fordern manche, wieder weniger Code zu veröffentlichen, weil KI die Suche nach Lücken stark beschleunigt. Der Gesundheitsdienst NHS soll seine Technikteams im Mai angewiesen haben, sich wegen solcher Sicherheitsbedenken von Open-Source-Code abzuwenden.

Nesbitt-Smith hält das für den falschen Weg. Code zu verstecken, ohne vorher die Fehler zu beheben, sei das „schlimmste Szenario“. Forscher wie er könnten die Lücken dann nicht mehr finden. Angreifer hätten die Repositorys aber vermutlich längst kopiert und behielten den Zugriff. Zudem lenke ein plötzliches Schließen erst recht Aufmerksamkeit auf die Schwachstellen:

„Wenn du nicht alle Probleme behebst, ziehst du durch das Schließen eher noch mehr Aufmerksamkeit auf dich. Das ist, als würdest du sagen: ‚Hier sind Drachen, aber bitte nicht hinschauen.‘“

Aus Sicht von TechBooky ist die vernünftige Antwort eine andere: Repositorys automatisch nach Geheimnissen wie Passwörtern und Schlüsseln durchsuchen, Berechtigungen so knapp wie möglich halten, prüfen, wem ein Datensatz gehört, und offengelegte Schlüssel direkt beim Anbieter sperren.

Einordnung

Der Fall zeigt sehr konkret, was sich durch KI in der IT-Sicherheit ändert. Allgemein verfügbare Sprachmodelle machen es billig und schnell, Hunderte Code-Sammlungen auf Flüchtigkeitsfehler zu durchsuchen. Das kann ein Forscher mit gutem Willen tun, aber genauso ein Angreifer. Neu sind nicht die Fehler: Vergessene Zugangsdaten und fehlende Rechteprüfungen gehören zu den ältesten Problemen der Branche. Neu ist, wie wenig Aufwand es kostet, sie im großen Stil zu finden. Dadurch wird die Zeit knapper, die Behörden bleibt, ihre Fehler selbst zu entdecken.

An der Geschichte bleibt einiges unscharf. Die Zahl von mehr als 100 schweren Lücken stammt vom Forscher selbst, eine unabhängige Prüfung gibt es nicht. Wie groß der Anteil der KI an den Funden genau war, bleibt offen. Positiv fällt auf, dass das Planning Inspectorate den Zugriff selbst bemerkte und schnell reagierte. Dass der gefährliche Schlüssel aber 18 Monate lang offen herumlag, zeigt, wo das eigentliche Problem liegt. Transparenz ersetzt keine Wartung. Für öffentlichen Code gelten dieselben Regeln beim Umgang mit Zugangsdaten, beim Testen und beim Melden von Lücken wie für privaten Code. Die Debatte, ob Behörden ihren Code wieder verstecken sollen, dürfte mit solchen Fällen trotzdem lauter werden.