DDN Infinia unterstützt Nebul dabei, den Modellkontext in seiner NVIDIA-basierten KI-Cloud wiederzuverwenden; Tests haben gezeigt, dass die Token-Antworten fast zehnmal schneller sind
DDN, der weltweit führende Anbieter von KI- und Datenintelligenz-Lösungen, gab heute auf der GTC Berlin 2026 bekannt, dass der europäische KI-Cloud-Anbieter Nebul DDN Infinia einsetzt, um die KI-Inferenz für souveräne Workloads in seiner gesamten, auf NVIDIA-Technologie basierenden Infrastruktur zu beschleunigen. Insbesondere wird DDN Infinia zur Speicherung und Wiederverwendung von Schlüssel-Wert-Cache (KV-Cache) eingesetzt, wodurch sich der GPU-Aufwand für die Bereitstellung von KI-Modellen verringert.
In Tests trugDDN dazu bei, dass die souveränen KI-Workloads von Nebul schneller und kostengünstiger zu Ergebnissen gelangten:
- Mit DDN Infinia ist die Zeit bis zum ersten Token fast zehnmal kürzer als mit dem Nebul-eigenen Cache auf CPU und Arbeitsspeicher.
- Bis zu fünfmal schnellere Token-Antworten als bei alternativen Lösungen.
- 2,5-mal mehr Eingabetoken pro Sekunde mit denselben GPUs.
- Die Kosten pro Million eingegebener Token lassen sich um fast 60 senken, indem der Kontext neu geladen statt neu berechnet wird.
Die Tests umfassten Workloads, die von kurzen Eingabeaufforderungen bis hin zu Kontexten mit großen Token-Mengen unter gleichzeitiger Auslastung reichten. Nebul ermittelte die Ergebnisse auf seinen eigenen Plattformen, wobei auf beiden Seiten dieselben acht GPUs, dasselbe Modell und dieselben Workloads zum Einsatz kamen.
Mit dem Einsatz von KI in der Produktion hängt die Inferenzleistung zunehmend davon ab, wie effizient die Infrastruktur die von den GPUs bereits erledigte Arbeit bewahren und wiederverwenden kann. Infinia speichert den KV-Cache so, dass er über die gesamte GPU-Flotte hinweg zugänglich ist, anstatt an einen einzelnen GPU-Server gebunden zu bleiben. Wird eine GPU ausgetauscht oder eine Arbeitslast neu eingeplant, kann der zuvor generierte Kontext wiederhergestellt werden sofern der Schlüssel weiterhin verfügbar ist -, anstatt ihn von Grund auf neu aufbauen zu müssen.
"Jedes Mal, wenn eine GPU einen bereits verarbeiteten Kontext neu aufbaut, verbraucht sie Rechenzyklen für die Wiederholung bereits erledigter Arbeit", erklärte Alex Bouzari, CEO und Mitbegründer von DDN. "Indem Infinia diesen Kontext in der gesamten GPU-Flotte von Nebul verfügbar macht, trägt es zu einer schnelleren Inferenz und einer produktiveren Nutzung der GPU-Kapazität bei, während die Daten gleichzeitig innerhalb der souveränen Umgebung verbleiben."
Verfügbarkeit des KI-Kontexts über den gesamten GPU-Bestand hinweg sicherstellen
DDN Infinia erweitert die Datenkontrollen von Nebul auf den während der Inferenz verwendeten KV-Cache. Der Geltungsbereich von Mandanten, Untermandanten und Datensätzen bleibt mit dem gespeicherten Kontext verknüpft, während die Cache-Kapazität ohne Unterbrechung der Inferenz verwaltet werden kann.
In mandantenfähigen Umgebungen unterstützt DDN Infinia Nebul dabei:
- den Modellkontext über die gesamte GPU-Flotte hinweg wiederherzustellen: Infinia speichert KV-Blöcke außerhalb einzelner GPU-Server, sodass zuvor generierter Kontext wiederhergestellt werden kann, solange der Schlüssel verfügbar bleibt.
- die Mieter-Daten isoliert zu halten: Der Geltungsbereich von Mandanten, Untermandanten und Datensätzen verbleibt Teil des Schlüsselnamensraums, sodass gespeicherte Kontexte zwischen den Mandanten isoliert bleiben.
- die Cache-Auslastung verwalten, ohne die Inferenz zu unterbrechen: Infinia wendet bei zunehmender Auslastung Eviction-Richtlinien auf Datensatz- und Mandantenebene an, wodurch die Inferenz fortgesetzt werden kann, während ältere Cache-Daten entfernt werden.
"KI-Souveränität sollte nicht auf Kosten der Leistung gehen", sagte Arnold Juffer, CEO von Nebul. Mit DDN Infinia können wir den Modellkontext in unserer gesamten GPU-Infrastruktur wiederverwenden, anstatt wertvolle GPU-Zyklen für dessen Neuberechnung aufzuwenden. Das macht die Inferenz schneller und effizienter, während die gesamte KI-Workload innerhalb der souveränen Umgebung verbleibt."
Unterstützung souveräner KI-Workloads in Unternehmensumgebungen
Die Kunden von Nebul veranschaulichen die Arten regulierter und proprietärer KI-Workloads, die die Nachfrage nach einer souveränen KI-Infrastruktur vorantreiben.
Das in den Niederlanden ansässige Unternehmen Centric, ein führender europäischer IT- und Softwareanbieter, dessen Lösungen etwa 70 der niederländischen Kommunen unterstützen, nutzt Nebul, um souveräne KI-Modellinferenz mit Sicherheit und Überwachbarkeit auf Unternehmensniveau durchzuführen. Indem Centric seine KI-Workloads und Daten innerhalb der europäischen Infrastruktur von Nebul belässt, kann das Unternehmen KI in seine Software und Dienstleistungen integrieren und gleichzeitig die für Umgebungen im öffentlichen Sektor erforderliche Kontrolle, Sicherheit und betriebliche Transparenz gewährleisten.
Das in Utrecht ansässige Unternehmen Leukeleu betreibt seinen privaten KI-Assistenten SureGPT auf Nebul, wobei die Daten jedes Kunden unter der Kontrolle des jeweiligen Kunden bleiben. SureGPT wurde für Organisationen entwickelt, die KI für interne Dokumente wie Vorstandsstrategien, Finanzmodelle, Produkt-Roadmaps und andere firmeneigene Informationen nutzen möchten, wobei die Daten jedes Kunden unter der Kontrolle des jeweiligen Kunden bleiben.
Weitere Informationen zu DDN Infinia finden Sie unter www.ddn.com.
Über DDN
DDN ist der weltweit führende Anbieter von Plattformen für KI-Datenspeicherung und Datenmanagement und treibt seit über 20 Jahren Innovationen in den Bereichen HPC, Unternehmensanwendungen und den größten KI-Implementierungen der Welt voran. Mit seinen Plattformen EXA, Infinia und den intelligenten Datenmanagement-Plattformen bietet DDN unübertroffene Leistung, Skalierbarkeit und geschäftlichen Mehrwert für Kunden, die KI-Fabriken der nächsten Generation, Hyperscale-Clouds und Initiativen für souveräne KI aufbauen. DDN ist der vertrauenswürdige Partner für Tausende der datenintensivsten Organisationen weltweit, darunter führende nationale Forschungslabore, Forschungseinrichtungen, Unternehmen, Hyperscaler, Finanzunternehmen und Innovatoren im Bereich autonomer Fahrzeuge. Weitere Informationen finden Sie unter www.ddn.com.
Über Nebul
Nebul ist Europas "Intelligent Cloud": eine integrierte KI- und Cloud-Plattform, die Intelligenz, Infrastruktur und Bereitstellung vereint. Das Unternehmen unterstützt Organisationen dabei, ihre Daten, ihr Wissen und ihre Fachkompetenz in eigene, von ihnen kontrollierte Intelligenz umzuwandeln. Als NVIDIA Elite Partner betreibt Nebul eine SuperCluster-Infrastruktur, die auf NVIDIA-beschleunigter Rechenleistung basiert und für anspruchsvolle Trainings- und Inferenz-Workloads ausgelegt ist. Dies wird mit Modellen, Datenfunktionen, KI-Anwendungen und technischem Support kombiniert, um Kunden von der Implementierung über die Inbetriebnahme bis hin zum dauerhaften Einsatz zu begleiten. Nebul wird in Europa entwickelt und betrieben. Offen für die Welt. Weitere Informationen finden Sie unter: nebul.com
Folgen Sie Nebul: LinkedIn, X und YouTube
Folgen Sie DDN: LinkedIn, X und YouTube
Die Ausgangssprache, in der der Originaltext veröffentlicht wird, ist die offizielle und autorisierte Version. Übersetzungen werden zur besseren Verständigung mitgeliefert. Nur die Sprachversion, die im Original veröffentlicht wurde, ist rechtsgültig. Gleichen Sie deshalb Übersetzungen mit der originalen Sprachversion der Veröffentlichung ab.
Originalversion auf businesswire.com ansehen: https://www.businesswire.com/news/home/20261021680827/de/
Contacts:
DDN Press Relations:
pr@ddn.com
