Was ist eine KI-Fabrik? Warum ein integrierter Stack für die Produktion wichtig ist

Wichtige Erkenntnisse

• Die Verlagerung von KI vom Pilotprojekt in die Produktion profitiert von einer Full-Stack-Architektur, die als ein System funktioniert und nicht als eine Sammlung voneinander getrennter Komponenten.
• Die KI-Architektur in Unternehmen sollte mit dem Anwendungsfall beginnen und dann anhand der Arbeitslastanforderungen und des Ortes, an dem die Daten gespeichert sind, dimensioniert werden.
• Eine KI-Fabrik bietet eine wiederverwendbare Produktionsumgebung, die das Integrationsrisiko, die Kompatibilitätsarbeit und die wiederholte Einrichtung von Plattformen reduzieren kann, wenn KI-Arbeitslasten vom Arbeitsgruppen- auf Unternehmensebene ausgeweitet werden.
• Die Dell AI Factory mit NVIDIA vereint KI-fähige Daten, Rechenleistung, Speicher, Netzwerke, Endgeräte, KI-Software, Sicherheit und Services, um die Entwicklung bis zur Produktion zu unterstützen.

Unternehmen, die KI vom Pilotprojekt in die Produktion überführen, benötigen eine Architektur, die die Arbeitslast über die anfänglichen Tests hinaus unterstützen kann. Eine KI-Fabrik bietet eine wiederverwendbare Umgebung für Bereitstellung und Betrieb, wodurch der Bedarf entfällt, die Plattform neu aufzubauen oder erneut zu verbinden, wenn der Einsatz von KI ausgeweitet wird.

Ein Pilotprojekt kann validieren, ob ein KI-Modell in einer abgeschlossenen Entwicklungsumgebung für einen spezifischen Anwendungsfall ausreichend gut funktioniert. Die Produktion setzt die Anwendung in eine Umgebung mit Unternehmensdaten, Sicherheitskontrollen und kontinuierlichem Bedarf, sodass die umgebende Infrastruktur und Software die laufende Nutzung unterstützen müssen.

KI-Pilotprojekte lassen sich immer einfacher starten, aber in der Produktion verlangsamen sich viele Initiativen. Der Übergang in die Produktion macht Abhängigkeiten sichtbar, die während der frühen Entwicklungsphase unbemerkt bleiben können. Die Herausforderung liegt oft nicht im Modell selbst, sondern in der fragmentierten Architektur darum herum: verstreute Daten, getrennte Infrastruktur, inkompatible Software und betriebliche Prozesse, die nie dafür ausgelegt waren, zusammenzuarbeiten.Wenn jede Schicht unabhängig zusammengesetzt wird, kann der Integrationsaufwand mit der Ausweitung der Bereitstellung zunehmen. 

Eine KI-Fabrik bietet eine wiederholbare Grundlage, die Unternehmen dabei unterstützt, KI-Anwendungsfälle in Produktionsergebnisse umzusetzen und KI-Kapazitäten für bessere Entscheidungen, mehr Kundenwert und Innovation zu nutzen.

Was sollte ein KI-Stack in einem Unternehmen enthalten, um KI vom Pilotprojekt in die Produktion zu überführen?

Ein KI-Stack in einem Unternehmen sollte Produktions-Workloads eine validierte, wiederverwendbare Grundlage bieten, die den Datenzugriff, den Rechenbedarf und den laufenden Betrieb unterstützt, ohne dass Teams jede Schicht einzeln zusammenstellen müssen.

• Datengrundlage: Unternehmensdaten müssen durch Speicher- und Datenmanagement, das mit der Nachfrage Schritt halten kann, für KI-Arbeitslasten aufbereitet, verwaltet und verfügbar gemacht werden.
• Beschleunigte Infrastruktur: Rechenleistung, Speicher und Netzwerke müssen eine passgenaue, validierte und modulare Grundlage bieten, die mit der Nachfrage wächst und gleichzeitig wiederholte Integrationsarbeiten auf Plattformebene reduziert.
• KI-Software und Laufzeitumgebungen: Die Softwareschicht sollte Modellbereitstellung, Bewertung, Bereitstellung und Versionsverwaltung durch eine einheitliche Laufzeit- und Orchestrierungsumgebung unterstützen.
• Sicherheit und Verwaltung: Produktionsabläufe sollten Überwachung, Zugriffskontrollen, Rücksetzverfahren und Vorfallreaktionen umfassen, damit Teams Ausfälle und Modelländerungen nach der Bereitstellung verwalten können.
• Services und Fähigkeiten: Implementierungskompetenz kann die Planung, Bereitstellung und den laufenden Betrieb unterstützen, ersetzt jedoch nicht die technischen Kontrollen, die für den produktiven Einsatz von KI erforderlich sind.

Wie sollten Unternehmen die Architektur für KI in Unternehmen für produktive Arbeitslasten gestalten?

Die Architekturplanung sollte mit dem Anwendungsfall beginnen. Das Modell und der Standort der Daten bestimmen, wo die Verarbeitung stattfindet, während Leistung und Budget festlegen, wie viel Infrastruktur die Arbeitslast benötigt. Die Dimensionierung sollte an die Arbeitslast selbst gebunden bleiben und nicht von einer generischen KI-Konfiguration abhängen.

Eine Workstation kann für die lokale Entwicklung ausreichen, aber größere KI-Aufgaben erfordern möglicherweise mehr Beschleunigerkapazität und eine Infrastruktur mit höherem Durchsatz. Die Platzierung hängt teilweise davon ab, wo sich die Daten befinden. Die Verarbeitung in der Nähe der lokal gespeicherten Daten, in einer souveränen privaten Cloud oder am Edge durchzuführen, kann die Latenzzeit und unnötige Datenbewegungen reduzieren, insbesondere wenn sensible Daten betroffen sind.

Teams sollten das Wachstum bereits vor Abschluss der ersten Bereitstellung in die Planung einbeziehen. Die Infrastruktur sollte mit der Nachfrage wachsen, ohne dass die Teams die Umgebung jedes Mal neu aufbauen müssen, wenn eine Anwendung stärker genutzt wird. Ein einheitlicher Weg von der lokalen Entwicklung zur Unternehmensinfrastruktur kann Nacharbeit reduzieren, und die Kapazitätsplanung sollte Raum für zusätzliche Arbeitslasten lassen, die möglicherweise dieselben Ressourcen teilen.

Die Produktionsarchitektur muss auch einbeziehen, was nach der Bereitstellung geschieht. Teams sollten Zuverlässigkeitsziele festlegen, die Arbeitslastleistung überwachen und planen, wie die Umgebung sich erholt, wenn es zu einem Ausfall kommt. Bewertungen vor der Freigabe und klare Rücksetzverfahren können zur Reduzierung von Risiken beitragen, wenn sich Modelle oder die Infrastruktur ändern.

Was ist eine KI-Fabrik und wie hilft sie Unternehmen dabei, KI zu skalieren?

Eine KI-Fabrik ist eine wiederverwendbare Umgebung zur Entwicklung und zum Betrieb von KI im großen Maßstab. Sie vereint den technischen Stack, die Governance und die Betriebsverfahren, die erforderlich sind, um fokussierte Anwendungsfälle zu unterstützen, Daten aufzubereiten und ein Betriebsmodell für die Produktion zu errichten. Sie hilft Unternehmen auch dabei, bewährte Muster über Geschäftsbereiche hinweg zu erweitern, ohne jedes Projekt als eigenständigen Aufbau zu behandeln. Diese Wiederholbarkeit kann den Einrichtungsaufwand reduzieren, wenn neue Anwendungsfälle hinzugefügt werden.

Eine KI-Fabrik kann einen wiederholbaren Lebenszyklus unterstützen, der folgende Schritte umfasst:

• Aufbereitung und Verwaltung von Daten
• Entwicklung oder Anpassung von Modellen
• Tests und Bewertungen
• Bereitstellung und Betrieb
• Überwachung und Verbesserung

Wie können Unternehmen die Komplexität der Integration bei der Implementierung von KI reduzieren?

Unternehmen können die Integrationskomplexität reduzieren, indem sie die Kernumgebung standardisieren, die in allen KI-Projekten verwendet wird. Validierte Architekturen, wiederholbare Bereitstellungsansätze und Automatisierung können die Integrationsarbeit auf Plattformebene begrenzen, die sonst für jedes Projekt neu aufgebaut wird. Sie beseitigen nicht die Notwendigkeit, die Anwendungen, Daten und Richtlinien eines Unternehmens zu vernetzen; stattdessen bieten sie den Teams eine konsistentere und besser unterstützbare Grundlage, auf der sie aufbauen können.

Integrationspunkte, bei denen eine Standardisierung lohnenswert ist, umfassen:

• Daten- und Anwendungs-Connectoren
• Schnittstellen zur Bereitstellung von Modellen
• Identitäts- und Zugriffskontrollen
• Protokollierung und Überwachung
• Bereitstellungs- und Orchestrierungstools
• Sicherheits- und Governance-Richtlinien

APIs und containerbasierte Microservices bieten Teams eine definierte Möglichkeit, KI-Arbeitslasten zu verpacken und bereitzustellen, während die Orchestrierung Arbeitslasten und Infrastrukturressourcen verwaltet, wenn die Bereitstellungen wachsen.

Ein integrierter Stack eliminiert die Integrationsarbeit nicht. Unternehmen müssen weiterhin ihre eigenen Daten und Anwendungen vernetzen und ihre eigenen Sicherheits- und Governance-Richtlinien anwenden. Reduziert werden kann jedoch die wiederholte plattformweite Einrichtung, die sonst für jedes Projekt neu aufgebaut werden muss.

Was ist die Dell AI Factory mit NVIDIA und wie unterstützt sie Unternehmen dabei, KI in die Produktion zu bringen?

Dell und NVIDIA wenden diesen integrierten Ansatz über den gesamten KI-Entwicklungszyklus hinweg an. 

Dell AI Factory mit NVIDIA bietet Unternehmen einen skalierbaren, KI-fähigen Ausgangspunkt, der den Weg von frühen Pilotprojekten bis zur unternehmensweiten Produktion vereinfacht und dabei hilft, messbare Geschäftsergebnisse und Renditen zu erzielen.Mit KI-fähigen Daten, modularer Architektur, integrierter Automatisierung und einem wachsenden Ökosystem validierter Software-Blueprints können Unternehmen schneller bereitstellen, mit Zuversicht skalieren und den Prozess bei jedem neuen Anwendungsfall wiederholen. 

Datengrundlage

Die Datengrundlage geht die Aufgabe an, verwaltete Unternehmensdaten für produktive KI-Arbeitslasten aufzubereiten und bereitzustellen. Die KI-fähige Datenplattform von Dell verwandelt verstreute Unternehmensdaten in eine einheitliche, KI-fähige Grundlage für strukturierte und unstrukturierte Daten, die von KI-Workloads genutzt werden. Sie hilft Unternehmen, KI vom Anwendungsfall bis zur Produktion zu entwickeln, Innovationen über hybride und Multi-Cloud-Umgebungen hinweg voranzutreiben, DataOps nach ihren eigenen Bedingungen zu skalieren und von Anfang an eine vertrauenswürdige, sichere KI mit Governance aufzubauen. 

Beschleunigte Infrastruktur

Beschleunigte Infrastruktur erfüllt die Leistungs- und Kapazitätsanforderungen, die mit der Verlagerung von KI-Arbeitslasten in die Produktion steigen. PowerEdge-Server mit NVIDIA-Prozessoren bieten beschleunigte Rechenleistung im Rechenzentrum, während Speicher und Netzwerke von Dell die Arbeitslast mit Unternehmensdaten verbinden. Dell Deskside Agentic AI bietet eine produktionsbereite lokale Option für geeignete agentische Workloads für Arbeitsgruppen unter Verwendung von passend dimensionierten Dell-Systemen, NVIDIA-Software, Endpunktsicherheit, Cyberresilienz und Dell Services. Die modulare Architektur der Dell AI Factory mit NVIDIA bietet eine validierte, durchgängige Grundlage, die Unternehmen bei einer vereinfachten Einführung von KI, dem Übergang vom Pilotprojekt zur Produktion sowie der Skalierung von KI- und agentenbasierten Workloads entsprechend den sich entwickelnden Geschäftsanforderungen unterstützt.Unternehmen können mit einer geeigneten Größe starten, einen fokussierten Anwendungsfall nachweisen und durch modulare Grundlagen und Erweiterungsmodule wachsen, wenn Arbeitslasten und Prioritäten zunehmen.

KI-Software

NVIDIA AI Enterprise bietet die Softwarebasis für die Bereitstellung, Orchestrierung, Sicherung und Verwaltung von KI über verschiedene Umgebungen hinweg. Ihr Ökosystem umfasst:

• Entwicklung und Bereitstellung von Agenten: NemoClaw, OpenShell, NIM-Microservices, NeMo-Frameworks und agentische Blueprints
• Verwaltung von Arbeitslasten und Infrastruktur: Run:ai für optimiertes Prozessormanagement und Infrastrukturmanagement-Tools
• Visualisierung und validierte Architektur: Omniverse und validierte Referenzarchitekturen

Diese Tools unterstützen gemeinsam die sichere Entwicklung von Agenten, die Bereitstellung von Modellen, die Orchestrierung von Arbeitslasten, die Datenvisualisierung, die Skalierung der Infrastruktur sowie reproduzierbare KI-Operationen über verschiedene Umgebungen hinweg.

Dell Deskside Agentic AI kombiniert diesen Software-Stack mit lokaler Hardware, um Arbeitsgruppen dabei zu unterstützen, sichere, latenzarme, mehrstufige KI-Workflows in der Nähe ihrer Daten auszuführen. NemoClaw und OpenShell bieten eine geschützte Umgebung für die Entwicklung, das Testen, die Bereitstellung und Verwaltung von Agenten und helfen dabei, sensible Arbeitsabläufe und geistiges Eigentum zu schützen.

Services und Betrieb

Services und Betrieb unterstützen die Implementierung und das laufende Management, nachdem der technische Stack eingerichtet ist. Fachleute von Dell Services können dabei helfen, schneller Ergebnisse in jeder Phase des Lebenszyklus von KI-Lösungen zu erzielen. Implementierungsservices können bei Tests und Integration unterstützen, während Managed Services oder vor Ort tätige Experten nach dem Start betriebliche Aufgaben übernehmen können, wenn sich die Anforderungen ändern.

Die Integration über diese Ebenen hinweg kann die Kompatibilitätstests und die Plattformeinrichtung reduzieren, wenn Projekte in die Produktion übergehen. Unternehmen bleiben verantwortlich für die Anwendungslogik und Governance. Der integrierte Stack bezieht sich stärker auf die Infrastruktur und Softwarekoordination, die diese Verantwortlichkeiten unterstützen.

Planen Sie die Produktion, bevor das Pilotprojekt endet

Das Ziel ist nicht einfach, den heutigen Anwendungsfall einzusetzen. Geschaffen werden soll eine anpassungsfähige Grundlage, die neue Modelle, Daten, Arbeitslasten, Vorschriften und geschäftliche Prioritäten aufnehmen kann, ohne dass neue Investitionen getätigt werden müssen. Diese Grundlage kann Unternehmen dabei helfen, schneller Lösungen umzusetzen, die auf ihre Bedürfnisse abgestimmt sind, und unterstützt so bessere Entscheidungsfindung, stärkere Kundenerlebnisse, einen höheren Wert aus Daten und Personal sowie eine effektivere Nutzung von KI im Tagesgeschäft.

Ein Proof of Concept kann feststellen, ob ein KI-Anwendungsfall unter Testbedingungen funktioniert. Die Produktion führt jedoch zu einem kontinuierlichen Bedarf und einem breiteren Betriebsumfeld.

Entscheidungen, die während der Entwicklung getroffen werden, können diesen Übergang entweder erleichtern oder später einen zusätzlichen Integrationsaufwand verursachen. Die Wiederverwendung desselben Bereitstellungspfads und der Kernplattformkomponenten kann diese Reibungsverluste verringern, wenn die Arbeitslasten wachsen.

KI-Fabriken helfen Unternehmen dabei, von isolierten KI-Projekten zu einem reproduzierbaren Produktionswert überzugehen. Der Vorteil besteht nicht nur in einem integrierten Stack – es ist die Fähigkeit, mit der richtigen Arbeitslast zu beginnen, Unternehmensdaten nutzbar zu machen, KI mit angemessener Kontrolle zu betreiben und das, was funktioniert, auszubauen, während sich die geschäftlichen Prioritäten weiterentwickeln. 

Die wertvollste KI-Investition ist nicht diejenige, die einfach nur am meisten Zeit spart. Es ist diejenige, die diese Gewinne in einen dauerhaften Geschäftswert umwandelt und eine Grundlage schafft, die auf die Zukunft vorbereitet ist.