Blog
KubeCon North America 2026: KI-Agenten in die Sandbox – was KMU mitnehmen sollten

Vom 9. bis 12. November 2026 traf sich die Cloud-Native-Szene in Salt Lake City zur KubeCon + CloudNativeCon North America. Die Hauptbotschaft war klar: KI-Inferenz und KI-Agenten laufen inzwischen produktiv auf Kubernetes. Die Community baut deshalb vor allem eines: Zäune. Gemeint sind Sandboxes, Richtlinien, Identitäten und Kostenkontrolle. Was davon für kleine und mittlere Unternehmen zählt, ordnen wir hier ein.
Die KubeCon ist die wichtigste Konferenz rund um Kubernetes und die Projekte der Cloud Native Computing Foundation (CNCF). Vor einem Jahr ging es dort noch um die Chance, die in KI-Inferenz liegt. In diesem Jahr ging es um die Praxis: wie man Modelle effizient betreibt, wie man Agenten isoliert, die Code ausführen, und wie man nachweist, welcher Agent eine Aktion ausgelöst hat. Für den Mittelstand ist das keine ferne Hyperscaler-Debatte. Viele dieser Bausteine landen in den nächsten Monaten in Managed-Kubernetes-Angeboten, in Virtualisierungsplattformen und in den KI-Werkzeugen, die Dienstleister bei KMU einsetzen.
Quelle: Linux Foundation: KubeCon + CloudNativeCon North America 2026, CNCF-Pressemitteilung vom 10. November 2026.
TL;DR: KI ist auf Kubernetes angekommen, jetzt geht es um Kontrolle
- Inferenz ist Produktion: Laut CNCF-Chef Jonathan Bryce hat sich der Inferenz-Traffic in acht Monaten vervierfacht. Das Projekt llm-d für verteilte LLM-Inferenz hat Version 1.0 erreicht und ist jetzt CNCF-Projekt.
- Agenten kommen in die Sandbox: Mit OpenShell (NVIDIA), Agent Substrate und gVisor (beide Google) sind neue CNCF-Projekte gestartet, die regeln, worauf KI-Agenten zugreifen dürfen, und sie voneinander isolieren.
- Ungelöst bleibt die Identität: Kubernetes kann bisher nicht sauber nachweisen, welcher Agent eine Aktion ausgelöst hat. Lösungsvorschläge gibt es, Konsens noch nicht.
- VMs bleiben wichtig: KubeVirt ist zum CNCF-Graduated-Projekt aufgestiegen. Bei Unternehmen mit weniger als 500 Beschäftigten laufen laut einer neuen Studie im Schnitt 45 % der Produktivanwendungen in VMs.
- Kosten im Fokus: Agenten warten die meiste Zeit und erzeugen dann Lastspitzen. Effizientes Ruhenlassen, Rightsizing und Kostenzuordnung pro Team waren zentrale Themen.
- Für KMU: Kein Grund, jetzt eigene GPU-Cluster zu bauen. Es ist aber ein guter Zeitpunkt, Regeln für KI-Agenten festzulegen, die Virtualisierungsstrategie zu prüfen und Dienstleister nach Sandboxing und Kostenkontrolle zu fragen.
1. Die Konferenz in Zahlen
Die KubeCon North America fand im Salt Palace Convention Center statt. Der 9. November war wie üblich den Co-located Events vorbehalten. Neu war der Cloud Native AI + Inference Day; dazu kamen unter anderem ArgoCon, BackstageCon, CiliumCon und WasmCon. Im Hauptprogramm gab es erstmals einen eigenen Track für „AI Inference + Agentic“. Die CNCF nutzte die Woche für eine Bilanz ihres Jahres:
| Kennzahl | Wert |
|---|---|
| Cloud-Native-Entwickler weltweit | 21,2 Mio. (plus 5,5 Mio. in zwölf Monaten) |
| Projekte im CNCF-Portfolio | 231, davon 32 im letzten Jahr neu hinzugekommen |
| Teilnehmende an CNCF-Events 2026 | 82.000 in über 50 Ländern |
| Zertifizierte Plattformen im Kubernetes AI Conformance Program | 40 |
| Neue Platinum-Mitglieder | 8, darunter NVIDIA, Broadcom, CoreWeave und OVHcloud |
Quelle: CNCF-Pressemitteilung vom 10. November 2026, CNCF: Programm der KubeCon NA 2026.
2. Hauptbotschaft: Inferenz ist ein normaler Produktions-Workload
CNCF-Executive-Director Jonathan Bryce fasste die Entwicklung in seiner Keynote so zusammen: „Vor einem Jahr haben wir über die Chance gesprochen, die in Inferenz liegt. Heute baut diese Community die Infrastruktur, um Modelle zu trainieren, Inferenz zu betreiben und Agenten an die Arbeit zu bringen.“ Laut Berichten von der Konferenz nannte er zwei Zahlen: Der Inferenz-Traffic über verschiedene Anbieter hinweg habe sich in acht Monaten vervierfacht, und Agenten erzeugten inzwischen rund 70 % des erfassten Inferenz-Traffics.
Technisch zeigte sich das an mehreren Stellen:
- llm-d 1.0: Das Open-Source-Framework für verteilte LLM-Inferenz auf Kubernetes wird von IBM Research, Red Hat, Google Cloud, CoreWeave und NVIDIA gemeinsam gepflegt. Es erreichte am 20. Oktober die Version 1.0 mit stabilen APIs und ist jetzt CNCF-Projekt. Hintergründe dazu finden Sie in unserem Beitrag zu Inference Engineering mit vLLM und llm-d.
- Inferenz-Routing als Standard: Die Gateway API Inference Extension ist seit April allgemein verfügbar. Sie erlaubt Routing, das weiß, welches Modell wo geladen ist und wie ausgelastet der Speicher ist. Mehrere Implementierungen bestehen den Konformitätstest, ein Wechsel des Gateway-Anbieters bleibt also möglich.
- GPU-Zuteilung: Dynamic Resource Allocation (DRA) ist seit Kubernetes 1.34 stabil. Kubernetes 1.37 vom August hat die Unterstützung weiter ausgebaut und bringt Scale-to-Zero beim Horizontal Pod Autoscaler als Beta. In den Vorträgen ging es vor allem darum, teure Beschleuniger besser auszulasten, etwa mit dem Projekt HAMi, das GPUs zwischen Workloads aufteilt.
- Praxisberichte: Uber kündigte an, seine Kubernetes-basierte ML-Plattform Michelangelo als Open Source zu veröffentlichen. Laut Uber laufen darauf über 5.300 Produktivmodelle. In den Inferenz-Sessions berichteten unter anderem OpenAI, AWS und IBM Research, wie sie große Modelle über viele GPUs verteilen.
Quelle: CNCF-Pressemitteilung, SiliconANGLE: At KubeCon 2026, the illusion of AI control meets the reality of implementation, Virtualization Review: KubeCon Salt Lake City Day 2, Kubernetes v1.37 Release-Blog, Superlinked: What I Learned in the Inference Tracks at KubeCon NA 2026.
Was das für ein KMU bedeutet
Die wenigsten mittelständischen Unternehmen werden selbst Sprachmodelle auf GPU-Clustern betreiben. Interessant ist die Entwicklung trotzdem, aus zwei Gründen. Erstens wird der Betrieb offener Modelle im eigenen Rechenzentrum oder bei einem europäischen Anbieter mit offenen Standards einfacher und vergleichbarer. Das ist eine Option für Daten, die nicht zu einem US-Anbieter sollen. Zweitens zeigt die CNCF-Zertifizierung für KI-Plattformen, worauf man bei der Anbieterauswahl achten kann: Wer eine KI-fähige Kubernetes-Plattform einkauft, sollte nach der AI-Conformance-Zertifizierung fragen und damit einen späteren Wechsel offenhalten.
3. Agenten in die Sandbox: das Sicherheitsthema der Woche
Das dominierende Sicherheitsthema war Isolation. In den Keynotes hieß es sinngemäß: Code zu erzeugen ist billig geworden, Vertrauen, Isolation und Sicherheit sind teuer. Agenten sollen deshalb als nicht deterministisch und potenziell nicht vertrauenswürdig behandelt werden. Begrenzt werden sie von außen, statt sich auf ihr Wohlverhalten zu verlassen. Dazu wurden mehrere neue CNCF-Projekte vorgestellt:
- OpenShell (von NVIDIA eingebracht, CNCF Sandbox): Eine Richtlinienschicht, die festlegt, auf welche Dateien, Netzwerke, Zugangsdaten und Daten ein Agent zugreifen darf und an welche Modell-Endpunkte seine Anfragen gehen.
- Agent Substrate (von Google, CNCF Sandbox): Eine Laufzeitumgebung für sehr viele Agenten. Laut Google warten Agenten 90 bis 95 % einer Sitzung auf Modellantworten, externe Dienste oder Menschen. Agent Substrate speichert den Zustand wartender Agenten und gibt die Rechenressourcen frei. Bei Bedarf wird der Agent in unter 500 Millisekunden fortgesetzt.
- gVisor (von Google an die CNCF übergeben): Ein Anwendungskernel im User-Space. Er sorgt dafür, dass nicht vertrauenswürdiger Code den Kernel des Hosts nicht direkt erreicht. Ein ähnlicher Ansatz mit leichtgewichtigen VMs ist Kata Containers.
- Tetragon (Cilium-Projekt): Liz Rice von Isovalent zeigte in ihrer Keynote, wie sich Schutzregeln und Gegenmaßnahmen auf Kernel-Ebene ohne Ausfallzeit ausrollen lassen.
Quelle: Google Open Source Blog: Sandboxing Untrusted AI Agents at Scale, heise online: KubeCon 2026: CNCF aims to make AI agents safer and more efficient, Virtualization Review: KubeCon Salt Lake City Day 1, Isovalent: KubeCon North America 2026 Wrap-Up.
Offene Frage: Welcher Agent war das?
Ein Problem ist noch ungelöst: die Identität von Agenten. Heutige Verfahren wie SPIFFE/SPIRE vergeben Identitäten pro Dienstkonto. Das passt zu austauschbaren Replikaten eines Dienstes, aber nicht zu Agenten, die Kontext und Verlauf sammeln und sich deshalb unterschiedlich verhalten. Diskutiert werden Identitäten pro Agenteninstanz und sitzungsgebundene Tokens. Einen Konsens gibt es noch nicht. Zugleich gilt laut zitierten Branchenstudien: In 72 % der Unternehmen gibt es mehr nicht menschliche als menschliche Identitäten, und 70 % geben KI-Systemen mehr Zugriff als Menschen in vergleichbaren Rollen.
Ein zweites Risiko ist praktischer Natur: Wer jede Agentenaktion freigeben muss, ermüdet. Simone Morellato von Rafay Systems warnte, dass Berechtigungen dann schleichend erweitert werden, bis die Kontrolle nicht mehr greift. Kontrollen müssen also Arbeit abnehmen, sonst werden sie umgangen.
Quelle: Tech Times: Why Kubernetes Cannot Tell Which AI Agent Took Action, SiliconANGLE.
Was das für ein KMU bedeutet
Auch ohne eigenen Kubernetes-Cluster sind KI-Agenten in vielen KMU bereits im Einsatz: als Coding-Assistenten, in n8n- oder Make-Automatisierungen oder als Agenten in ChatGPT, Claude und Copilot. Die Lehre aus Salt Lake City lässt sich direkt übertragen. Ein Agent bekommt nur die Zugänge, die er für seine Aufgabe braucht. Er läuft getrennt von produktiven Systemen. Und es wird protokolliert, was er tut. Der Linux-Foundation-Chef Jim Zemlin wies zudem darauf hin, dass bei einigen Mitgliedsunternehmen Agenten bereits über 80 % des Codes schreiben. Die Folge ist eine Flut von Fehler- und Sicherheitsmeldungen an Open-Source-Projekte. Die Linux Foundation hat dafür das Projekt Akrites mit über 30 Unternehmen gestartet. Für KMU heißt das: Abhängigkeiten von Open-Source-Komponenten werden nicht weniger wichtig, eher wichtiger.
4. VMs sind nicht tot: KubeVirt wird erwachsen
Eine der für den Mittelstand relevantesten Nachrichten hatte wenig mit KI zu tun. KubeVirt, mit dem sich virtuelle Maschinen neben Containern über Kubernetes betreiben lassen, ist zum CNCF-Graduated-Projekt aufgestiegen, der höchsten Reifestufe. Außerdem wurde Broadcoms VM API in die CNCF Sandbox aufgenommen. Sie soll Standardoperationen für VMs über Kubernetes ermöglichen, und zwar für vSphere und andere Hypervisoren.
Passend dazu veröffentlichte Linux Foundation Research am 9. November eine Studie mit 492 Befragten:
- Im Schnitt laufen 53 % der Produktivanwendungen in VMs, bei Unternehmen mit weniger als 500 Beschäftigten 45 %.
- 71 % erwarten, dass ihr VM-Anteil in den nächsten zwölf Monaten etwa gleich bleibt.
- 34 % derjenigen, die ihre VM-Landschaft ausbauen, nennen KI- und Agenten-Workloads als einen Grund, vor allem wegen der stärkeren Isolation.
- Erst 8 % der Befragten mit VMs nutzen KubeVirt.
Quelle: CNCF Blog: Virtual machines remain central to cloud native infrastructure, heise online.
Was das für ein KMU bedeutet
Viele Mittelständler suchen nach der VMware-Übernahme durch Broadcom und den geänderten Lizenzmodellen nach Alternativen. KubeVirt ist mit dem Graduated-Status eine ernsthafte Option, wenn ohnehin Container im Einsatz sind oder geplant werden. Es ist aber kein Selbstläufer: Betrieb, Backup, Netzwerk und Speicher funktionieren anders als in einer klassischen vSphere-Umgebung. Unsere Empfehlung aus der Beratungspraxis: Bewerten Sie KubeVirt neben Proxmox, Hyper-V und Nutanix anhand Ihrer tatsächlichen Workloads, Ihres Teams und Ihrer Supportanforderungen, nicht anhand des Konferenz-Hypes.
5. Kosten: Agenten sind unruhige Mieter
Ein wiederkehrendes Thema waren die Kosten. Agenten haben ein ungewöhnliches Lastprofil: Sie warten lange und erzeugen dann plötzliche CPU- und Speicherspitzen. Statische Größenplanung passt dazu schlecht. Auf der Konferenz wurden verschiedene Ansätze gezeigt:
- Ruhen statt laufen lassen: Agent Substrate gibt Ressourcen wartender Agenten frei. Kubernetes 1.37 bringt Scale-to-Zero beim Autoscaler als Beta.
- Kosten pro Team sichtbar machen: Anbieter wie CloudBolt ordnen GPU-, CPU-, Netzwerk- und Token-Kosten einzelnen Pods und Teams zu und setzen Budgetgrenzen für Agenten.
- Token-Rechnungen: Nutanix berichtete, dass die KI-Coding-Werkzeuge seiner rund 3.000 Entwickler die monatliche Token-Rechnung in den siebenstelligen Bereich getrieben haben. Das Unternehmen investiert deshalb in eigene Inferenz-Kapazität und will 80 % der Tokens selbst erzeugen.
Herstellerangaben wie „70 bis 80 % geringere Infrastrukturkosten“ (ScaleOps) sollten Sie dabei als Marketingaussagen lesen und an Ihren eigenen Daten prüfen.
Quelle: Virtualization Review: Day 1, Virtualization Review: Day 2.
6. Projekt-Updates und neue Zertifizierungen
Neben den KI-Themen meldete die CNCF eine Reihe von Reifegrad-Aufstiegen. Einige davon sind für typische Mittelstandsumgebungen direkt relevant:
| Projekt | Status | Wofür |
|---|---|---|
| OpenTelemetry | Graduated | Herstellerneutrales Sammeln von Logs, Metriken und Traces |
| KubeVirt | Graduated | VMs neben Containern auf Kubernetes |
| Kubeflow, NATS, Karmada, Cloud Native Buildpacks | Graduated | ML-Workflows, Messaging, Multi-Cluster, Container-Builds |
| CloudNativePG | Incubating | Hochverfügbares PostgreSQL auf Kubernetes |
| HAMi | Incubating | GPUs und andere Beschleuniger zwischen Workloads aufteilen |
| OpenShell, Agent Substrate, OpenRL | Sandbox (neu) | Agenten-Richtlinien, Agenten-Laufzeit, Reinforcement-Learning-Training |
Dazu kommen neue Zertifizierungen. Der Certified Kubernetes Networking Engineer (CKNE) ist neu, für 2027 sind der Kubernetes AI Associate (KAIA) und der Certified Kubernetes Inference Engineer (CKIE) angekündigt. Für die Auswahl von Dienstleistern und für die Weiterbildung eigener Mitarbeitender sind das hilfreiche Orientierungspunkte.
Quelle: CNCF-Pressemitteilung, Isovalent: KubeCon NA 2026 Wrap-Up.
7. Einordnung für den Mittelstand
Die KubeCon ist eine Konferenz von Plattformteams für Plattformteams. Vieles, was dort gezeigt wird, betrifft Unternehmen mit Hunderten von Clustern. Trotzdem lassen sich drei Botschaften gut auf KMU übertragen:
- Offene Standards sichern Wahlfreiheit. Bryce betonte, Entwickler sollen bei Modellen, Hardware und Anbietern die Wahl behalten. Für KMU, die digitale Souveränität ernst nehmen, ist ein Stack aus CNCF-Projekten ein Weg, die Abhängigkeit von einzelnen Hyperscalern zu verringern, etwa bei europäischen Cloud-Anbietern oder im eigenen Rechenzentrum.
- KI-Agenten brauchen die gleiche Sorgfalt wie neue Mitarbeitende mit Admin-Rechten. Minimale Berechtigungen, Isolation, Protokollierung und benannte Verantwortliche gelten unabhängig davon, ob der Agent auf Kubernetes oder in einem SaaS-Werkzeug läuft.
- Erst die Grundlagen, dann die KI. SiliconANGLE fasste die Konferenz so zusammen: Der Geschäftswert hängt an der Modernisierung der Anwendungen und nicht am KI-Hype allein. Wer Observability, Updates und Zugriffsrechte nicht im Griff hat, löst das nicht mit Agenten.
Fazit: Die Community baut den Zaun, bevor die Herde wächst
Die KubeCon North America 2026 war keine Konferenz der großen Produktvorstellungen, sondern eine der Reife. KI-Inferenz ist ein normaler Workload geworden, und die Werkzeuge dafür werden standardisiert. KI-Agenten laufen zunehmend produktiv. Die Community investiert deshalb massiv in Sandboxes, Richtlinien und Kostenkontrolle. Offen ist vor allem die Frage, wie sich Handlungen eindeutig einem Agenten zuordnen lassen.
Für den Mittelstand ist das eine gute Nachricht: Die Bausteine für einen kontrollierten KI-Einsatz entstehen offen und herstellerneutral und kommen über Managed-Angebote und Dienstleister auch bei kleineren Unternehmen an. Wer jetzt klare Regeln für Agenten aufstellt und die eigene Plattformstrategie prüft, kann sie gezielt nutzen.
Handlungsempfehlungen
- Geschäftsführung: Eine einfache Richtlinie für KI-Agenten verabschieden: Welche Systeme dürfen Agenten lesen, welche ändern, und welche Aktionen brauchen eine menschliche Freigabe?
- IT-Leitung: Alle Stellen erfassen, an denen Agenten oder Automatisierungen mit Zugangsdaten arbeiten. Dazu zählen Coding-Assistenten, n8n-Workflows und SaaS-Agenten. Prüfen Sie, ob Zugänge minimal, getrennt und protokolliert sind.
- Infrastruktur: Bei anstehenden Entscheidungen zur Virtualisierung KubeVirt als Option neben Proxmox, Hyper-V und Nutanix bewerten, mit einem kleinen Pilot statt einer Großmigration.
- Dienstleister und Einkauf: Bei KI- und Kubernetes-Angeboten nach Sandboxing, Kostenobergrenzen, OpenTelemetry-Unterstützung und der Kubernetes-AI-Conformance-Zertifizierung fragen.
- Finanzen: Token- und GPU-Kosten pro Team oder Anwendungsfall sichtbar machen, bevor die Rechnung überrascht.
Stand: 17. November 2026. Zahlen und Ankündigungen stammen aus den verlinkten Quellen, darunter Mitteilungen der CNCF und Berichte von der Konferenz. Einzelne Angaben aus Keynotes und Herstellergesprächen haben wir aus Konferenzberichten übernommen und nicht unabhängig überprüft. Bewertungen und Empfehlungen sind unsere eigene Beratungseinordnung.