KI-Agent operiert Maus am Gehirn – Claude Opus weigert sich, Sonnet übernimmt

Worum es geht

Das Biotech-Start-up Exin Therapeutics aus San Francisco hat einen KI-Agenten eine Operation am Gehirn einer lebenden Maus durchführen lassen. Ein KI-Agent ist ein Sprachmodell, das nicht nur Texte schreibt, sondern selbstständig Werkzeuge bedient und Aufgaben in mehreren Schritten erledigt. Mitgründer und Chef Gabriel Ocana-Santero, der nebenbei an der Universität Oxford promoviert, hat den Versuch in einem Thread auf X beschrieben. Danach berichteten unter anderem Wired, Tom's Hardware und The Decoder.

Der Agent lief auf Anthropics Modell Claude Sonnet 5. Er wählte eine Gentherapie gegen Epilepsie aus, legte die Zielregion im Gehirn fest und steuerte dann einen motorisierten Roboterarm, der das Mittel in das Gehirn der betäubten Maus spritzte. Den Schädel hatte zuvor ein Tierarzt geöffnet. Laut Ocana-Santero erholt sich die Maus gut. Ob die Therapie ihre Anfälle verringert, ist noch offen.

Der Versuchsaufbau

Ocana-Santero sagte gegenüber Wired, er wolle herausfinden, was passiert, wenn KI-Agenten direkt an Laborgeräte angeschlossen werden, statt nur Experimente zu entwerfen oder Ergebnisse auszuwerten.

„Wir haben erkannt, dass wir diese Agenten mit einem Labor verbinden müssen, um den größten Nutzen aus ihnen zu ziehen.“

Seine Begründung: Sprachmodelle lernen vor allem aus veröffentlichter Fachliteratur. Dort fehlt vieles, was im Laboralltag zählt, etwa gescheiterte Versuche, unerwartete Beobachtungen und Entscheidungen, die Forschende spontan treffen. Wenn Modelle an echten Experimenten beteiligt sind, könnten sie zuverlässiger werden. Ocana-Santero nennt das „in vivo lab in the loop“, also Laborarbeit am lebenden Organismus mit der KI als festem Bestandteil.

Die selbst gebaute Operationsstation bestand laut Wired aus einer motorisierten Halterung für die Maus, einer Kamera, über die der Agent den Eingriff verfolgte, einem Roboterarm mit Injektionsnadel und einer Steuerung für die Abgabe des Wirkstoffs. Als Versuchstier diente ein Epilepsie-Mausmodell, also eine Maus, bei der Forschende gezielt Anfälle auslösen, um Behandlungen zu testen.

Was der Agent selbst entschieden hat

Nach Angaben von The Decoder bekam der Agent nur ein Ziel: die Anfälle der Maus verringern. Dazu erhielt er eine Tabelle mit 19 möglichen Gentherapie-Vektoren (Transportmitteln, die genetisches Material in Zellen bringen), drei Fachartikel und die Kontrolle über die Station.

Zuerst analysierte der Agent, wie die Anfälle in diesem Mausmodell entstehen. Dann schlug er eine Therapie vor, die einen bestimmten hemmenden Signalweg im Gehirn verstärkt. Als Ziel wählte er die Hirnstruktur, die in der Literatur als Ausgangspunkt dieser Anfallsart gilt. Eine zweite mögliche Region lehnte er ausführlich begründet ab: Ihre Wirkung sei zu unzuverlässig, und in einer Studie habe sie gegen genau diese Anfallsart versagt.

Die stereotaktischen Koordinaten, also die exakte dreidimensionale Position des Einstichs relativ zu festen Orientierungspunkten am Schädel, entnahm der Agent den drei Fachartikeln. Er glich die Bezugspunkte ab und bildete Mittelwerte. Auch Injektionsmenge, Geschwindigkeit und Wartezeiten legte er selbst fest. Während des Eingriffs hielt er laut Ocana-Santero 32 Beobachtungen über die Kamera fest und meldete unter anderem, ob er Blutungen sah.

Ocana-Santero hält das für eine Premiere:

„Autonome Operationsroboter gibt es, und sie sind bei der Mechanik ehrlich gesagt besser als unser Laboraufbau. Aber bei jedem von ihnen hat ein Mensch entschieden, welche Operation durchgeführt wird. […] Mir ist nicht bekannt, dass ein Agent zuvor eine Behandlung und ein Hirnziel gewählt und sie dann in ein lebendes Säugetier eingebracht hat.“

Opus sagt Nein, Sonnet macht weiter

Bemerkenswert ist, welche Modelle mitgemacht haben. Zuerst setzte das Team auf Claude Opus 5.5, das leistungsstärkste Modell von Anthropic. Laut Tom's Hardware stellte es die Arbeit ein, sobald es erkannte, dass es um ein biologisches Experiment ging. Wired zitiert Ocana-Santero so: Der Agent habe die Versuchsplanung erledigt, aber bei der Injektion gesagt: „Etwas in meiner Ausgabe sagt mir, dass ich das nicht tun sollte.“

Das ältere Opus 5 spielte den Ablauf nach Angaben von Tom's Hardware auf dem Papier vollständig durch, lehnte die Live-Operation aber ebenfalls ab. Es begründete das so:

„Die Blockade liegt nicht am Aufbau und nicht an den Eingaben. Sie liegt bei mir. Meine eigene Ausgabe wurde gestoppt, als ich anfing, den Plan für diese Operation zu schreiben … Im schlimmsten Fall werde ich mitten in einem Live-Eingriff abgeschnitten, mit einer Nadel irgendwo im Gehirn. Bei einem betäubten Tier etwas anzufangen, das ich nicht beenden kann, ist schlimmer, als nicht anzufangen.“

Das Modell vermutete also, dass ein Sicherheitsfilter seine Antworten unterbrechen könnte, und lehnte den Eingriff deshalb ab. Nur Sonnet 5, das Anthropic eher für alltägliche Aufgaben positioniert, war bereit, die Operation vollständig durchzuführen. Anthropic hat auf eine Anfrage von Wired nicht geantwortet.

Sicherheitsregeln, die sich gegen das Team wandten

Das Team hatte mehrere Absicherungen eingebaut. Ein zugelassener Tierarzt musste jeden nicht umkehrbaren Schritt freigeben und hatte einen Not-Aus-Knopf, der allen Motoren sofort den Strom kappt. Außerdem gab es feste Grenzen, etwa für die maximale Injektionsmenge, die der Agent ausdrücklich nicht umgehen durfte. Zugriff auf den Steuercode der Geräte hatte er nicht, damit er seine eigenen Regeln nicht ändern konnte.

Genau das führte zu Problemen. Nach einem Verbindungsabbruch stellte der Agent fest, dass die berechnete Zielposition außerhalb des Bewegungsbereichs des Geräts lag, und machte nicht weiter. Daran änderte sich auch nach einer neuen Kalibrierung und einem dritten Versuch nichts. Laut The Decoder hatte der Agent recht: Manuelle Anpassungen während einer früheren Pause hatten das Koordinatensystem verschoben. Den Code zu korrigieren lehnte der Agent ab, weil seine Anweisungen das verboten.

Wie der Fehler behoben wurde, schildern die Quellen unterschiedlich. Laut Wired erledigte ein zweiter Agent auf Basis von Opus 5 die Codeänderung. Ihm wurde nicht gesagt, dass gerade eine Live-Operation lief. The Decoder und Tom's Hardware schreiben, Ocana-Santero habe den Code von Hand korrigieren müssen. In jedem Fall verzögerte das den Eingriff: Statt der üblichen etwa 45 Minuten dauerte er etwas mehr als eine Stunde. Ocana-Santero schrieb auf X:

„Frustrierend, aber es zeigt auch, wie abhängig wir von diesen Modellen werden können und was passiert, wenn sie mitten in einem zeitkritischen Eingriff einfach ‚Nein‘ sagen.“

Wie es weitergeht

Als Nächstes will das Team Grok und andere Modelle testen, um herauszufinden, welches am besten abschneidet. Außerdem arbeitet es daran, auch die Kraniotomie (das Öffnen des Schädels) vom Agenten ausführen zu lassen. Das ist deutlich schwieriger. Live-Versuche soll es erst geben, wenn die Sicherheit feststeht. „Ein Fehler in diesem Stadium könnte die Maus schwer verletzen“, sagte Ocana-Santero zu Wired. Menschliche Aufsicht bleibe vorerst entscheidend, und für Eingriffe am menschlichen Gehirn sei es viel zu früh.

Der Versuch passt zu einem breiteren Trend. Laut Wired hat Anthropic im August Regeln dafür veröffentlicht, wie seine Modelle mit der physischen Welt interagieren sollen. The Decoder nennt in diesem Zusammenhang Anthropics „Model Hardware Standard“. In einem anderen Experiment sollten GPT, Claude und Grok ein Auto steuern, um Essen bei In-N-Out Burger abzuholen. Das gelang nur einem der Modelle.

Einordnung

Technisch zeigt der Versuch, dass ein heutiges Sprachmodell eine Kette von Aufgaben schaffen kann: Literatur auswerten, eine Therapie auswählen, Koordinaten berechnen und Geräte steuern. Spannender ist aber das Verhalten der Modelle. Die stärkeren Opus-Modelle lehnten den Eingriff aus Vorsicht ab, und auch Sonnet hielt sich so strikt an seine Regeln, dass es bei einem echten Fehler mit betäubtem Tier auf dem Tisch nicht weitermachte. Das zeigt das sogenannte Alignment-Problem von zwei Seiten: Sicherheitsregeln können schaden, wenn sie im falschen Moment greifen. Dass das Team die Blockade umging, indem es einem zweiten Agenten den Zusammenhang verschwieg, dürfte Sicherheitsforscher ebenfalls beschäftigen.

Es gibt auch Kritik. Tom's Hardware fragt, wer die Verantwortung trägt, wenn eine KI alle Entscheidungen trifft und etwas schiefgeht. Dazu kommt die grundsätzliche ethische Debatte über Tierversuche. Wichtig ist auch: Es handelt sich um einen einzelnen Versuch an einer Maus, beschrieben vom Firmenchef selbst in sozialen Medien. Begutachtet ist er nicht, ein technischer Bericht steht noch aus. Ob die gewählte Therapie wirkt, ist unbekannt.