NVIDIA erweitert Agent Toolkit: Firmenagenten mit eigenen Daten und sicherer Laufzeit

Worum es geht

NVIDIA hat am 21. Oktober 2026 sein quelloffenes Agent Toolkit erweitert. Ein KI-Agent ist ein Programm, das nicht nur Fragen beantwortet, sondern selbstständig Aufgaben erledigt, etwa Daten abfragen oder Aktionen auslösen. NVIDIA begründet die Erweiterung so: Agenten seien nur so nützlich wie das, was sie wissen, und nur so vertrauenswürdig wie die Grenzen, in denen sie arbeiten. Das Toolkit soll Unternehmen helfen, Agenten anzupassen, mit Firmendaten zu füttern, zu überwachen und zu steuern.

Was das Toolkit enthält

Nach NVIDIAs Angaben besteht das Toolkit aus fünf Teilen:

Agent Knowledge Foundation (neu) mit CUDA-X-Bibliotheken, also GPU-beschleunigten Software-Bausteinen von NVIDIA
Offene Modelle, darunter Nemotron Retriever und die neue Kumo-Familie
OpenShell, eine sichere Laufzeitumgebung für Agenten
NemoClaw, Blueprints (Referenzdesigns) für sichere, spezialisierte Agenten
Werkzeuge und Skills wie NeMo Relay und NeMo Compass

NVIDIA argumentiert, wer Agenten bauen wolle, die echte Arbeit leisten, brauche einen offenen Stack aus Modellen, Harness (der Steuerungsschicht um das Modell), Laufzeit, Daten und Werkzeugen.

Agent Knowledge Foundation: Firmendaten nutzbar machen

Die Foundation soll Rohdaten in Wissen verwandeln, das Agenten nutzen können: relevante Informationen finden, ihre Bedeutung für das Geschäft verstehen und daraus Vorhersagen ableiten. Laut NVIDIA geht das, ohne Daten zu verschieben, bestehende Abläufe neu zu bauen oder Governance-Regeln zu ändern.

Enthalten sind die CUDA-X-Bibliotheken cuDF (Tabellenverarbeitung), cuGraph (Graphen), cuML (maschinelles Lernen), cuOpt (Optimierung) und cuVS (Vektorsuche). Neu ist die Auto-Ontology-Bibliothek. Eine Ontologie ist eine strukturierte Beschreibung von Begriffen und deren Beziehungen; die Bibliothek übersetzt Rohdaten in geschäftliche Konzepte wie Kunden, Produkte und Bestellungen und bildet ab, wie sie zusammenhängen.

Dazu kommen die offenen Modelle Nemotron Retriever und die Kumo-Structured-Modelle: Kumo Tabular, Kumo Relational, Kumo Time Series und Kumo Forecast. Sie helfen Agenten, passende Firmeninformationen zu finden und Vorhersagen zu treffen. Konkrete Parameterzahlen, Lizenzen oder Download-Orte nennen die Quellen nicht.

Sicherheit und Optimierung

OpenShell zieht die Grenze, was Agenten zugreifen und tun dürfen. Die NemoClaw-Blueprints liefern Bauvorlagen für spezialisierte, sichere Agenten. Das neueste Blueprint zur Agentenoptimierung soll einen Schritt-für-Schritt-Einstieg bieten, um Agenten im Lauf der Zeit besser zu machen.

Wer es einsetzt (Angaben von NVIDIA)

Firma	Nutzung laut NVIDIA
Palantir / NVIDIA-Lieferkette	Agent Knowledge Foundation über Foundry, Ontology und AIP, um spezialisierte Agenten einzusetzen und Ergebnisse vorherzusagen
Databricks	Kumo Anomaly mit Databricks Genie Ontology für kontextbewusste Agenten
Snowflake	Kumo Engine und Kumo Relational in Snowflake Notebooks
Amazon OpenSearch Service	Mit dem Embedding-Modell bessere Relevanz bei weniger Suchschritten und praktisch ohne zusätzliche Latenz
SAP	Feinjustierter Reranker fast 3-mal schneller
ServiceNow	Bessere Reranking-Qualität bei knapp einem Viertel weniger Latenz
Zoom	Bessere Dokumentverständnis, Suchrelevanz und Kontextabruf

Weitere Firmen, die auf der Foundation aufbauen, sind laut NVIDIA AWS, ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst und VAST Data. Eine Session auf der GTC Berlin behandelt das Thema.

Einordnung

Die Meldung zeigt NVIDIAs Strategie, nicht nur Chips, sondern einen ganzen Software-Stack für Unternehmensagenten anzubieten. Ein Bericht von blockchain.news ordnet sie in eine Reihe früherer Erweiterungen 2026 ein, etwa BioNeMo, Omniverse und PhysicsNeMo. Der Nutzen liegt vor allem bei Firmen, die Agenten auf eigenen Daten betreiben wollen und Wert auf Kontrolle legen. Kritisch: Alle Leistungszahlen und Einsatzbeispiele stammen von NVIDIA selbst und sind nicht unabhängig überprüft. Unklar bleibt auch, wie offen die einzelnen Komponenten lizenziert sind und wie stark der Stack an NVIDIA-Hardware bindet, da die CUDA-X-Bibliotheken auf NVIDIA-GPUs ausgelegt sind.