München, Starnberg, 22. Aug. 2023 - Vereinfachter Weg zu neuralen Netzwerkmodellen wie Generative Pre-trained Transformers und LLMs; Kontrolle über die Daten behalten…

Zur Ankündigung: Nutanix, Spezialist für hybrides Multi-Cloud-Computing, gibt die offizielle Markteinführung seiner Lösung „Nutanix GPT-in-a-Box™“ bekannt. Sie wurde für den Schnellstart innovativer Kundenprojekte zu künstlicher Intelligenz (KI) und maschinellem Lernen (ML) bei voller Datenkontrolle konzipiert. Bei dem  Angebot handelt es sich um eine softwarebasierte Full-Stack-Plattform für den Einsatz von KI-Lösungen. Sie ist laut Anbieter ab sofort verfügbar und enthält Dienste, die Unternehmen bei der Skalierung und Konfigurierung geeigneter Hardware- und Softwareinfrastrukturen helfen können, um ein Set von „Large Language Models“ (LLMs) – unter Nutzung führender Open-Source-Frameworks für KI und „Machine Learning Operations“ (MLOps) auf der Nutanix Cloud Platform™ – bereitstellen zu können. Mit der Lösung steht Kunden eine schlüsselfertige Infrastruktur für den Einsatz von KI-Lösungen zur Verfügung, mit deren Hilfe sie Generative Pre-trained Transformers (GPTs) und LLMs in ihren Edge-Umgebungen und Rechenzentren optimieren und betreiben können.

Zum Hintergrund: Viele Betriebe und Organisationen überlegen gerade, wie sie die Vorteile generativer KI- sowie von KI- und ML-Anwendungen für Kundenservices, Entwicklungsproduktivität, Betriebseffizienz etc. möglichst schnell, einfach und sicher nutzen können. Das gilt insbesondere für Anwendungsfälle, die sie aufgrund von Bedenken bezüglich Datenhoheit, Governance und Privatsphäre nicht in der Public Cloud betreiben können oder wollen.

Von der automatisierten Transkription interner Dokumente über die Hochgeschwindigkeitssuche von Multimediainhalten bis hin zu automatisierten Analysen... Unternehmen erkennen die Chancen von KI, ringen aber mit wachsenden Bedenken wie Verlust von geistigem Eigentum, Einhaltung von Vorschriften und Regularien sowie Datenschutz. Zudem wissen Betroffene, die einen einsatzbereiten KI-Stack aufbauen wollen, oft nicht, wie sie ML-Administratoren und Datenwissenschaftler am besten unterstützen können. Auch bringt die Aussicht auf hohe KI-Investitionskosten die KI- und ML-Strategien von Unternehmen leicht ins Stocken.

Abb: Nutanix GPT-in-a-Box (Bildquelle: Nutanix)

Kommentar Thomas Cornely, Senior Vice President, Product Management bei Nutanix: „Nutanix GPT-in-a-Box ist ein umfassender betriebsbereiter Stack für KI, der darauf abzielt, die zentralen Herausforderungen bei der Einführung generativer KI zu lösen und einen Schnellstart von KI-Innovationen zu ermöglichen.“


Nutanix GPT-in-a-Box beinhaltet:

• Nutanix-Cloud-Infrastructure™-Plattform, die Nutanix-Speicherlösungen Nutanix Files Storage™ und Nutanix Objects Storage™, den Hypervisor Nutanix AHV® und Kubernetes sowie NVIDIA-GPU-Beschleunigungstechnologie. Nutanix-Dienste zur Unterstützung von Kunden bei der Skalierung ihres Clusters und der Bereitstellung eines umfassenden Stacks mit führenden Open-Source-Frameworks für Deep Learning und MLOps, Inferenzserver und ein Set an LLMs wie Llama2, Falcon und MPT

• Möglichkeit für Datenwissenschaftler und ML-Administratoren, diese Modelle unmittelbar mit Anwendungen ihrer Wahl, einer erweiterten Terminal-UI oder einer Standard-CLI zu nutzen

• Möglichkeit, auf der Plattform weitere GPT-Modelle zu betreiben und unter Verwendung interner Daten zu optimieren, die auf den mitgelieferten Nutanix-Files- oder -Objects-Storage-Diensten gehostet werden.

Anwenderkommentar Jon Cosson, CISO bei JM Finn: „Die Nutzung von KI, um unseren Kunden effizienter und effektiver zu helfen, hat für uns höchste Priorität. Als regulierter Finanzdienstleister müssen wir jedoch die volle Kontrolle über unsere Daten behalten. Die Nutanix Cloud Platform bietet die Leistungsstärke, Flexibilität und Sicherheit, die für die sichere Bereitstellung von KI-Workloads erforderlich sind.“

Nutanix in der Open-Source-KI Community

Das Unternehmen beteiligt sich nach eigenen Angaben in vielfältigen Rollen, insbesondere als Mitglied des MLCommons-Beirats für KI-Standards, als Mitbegründer und Mitglied in der technischen Leitung bei der Definition der ML-Storage- und Medicine-Benchmarks sowie als Ko-Vorsitzender der Arbeitsgruppen Kubeflow (MLOps) Training und AutoML bei der Cloud Native Computing Foundation (CNCF). Dazu auch Sarwar Raza, Vice President, Cloud Services, Red Hat: „…Mit der neuen Lösung können gemeinsame Kunden von den Vorteilen von Red Hat OpenShift AI in Kombination mit dem für die KI-Nutzung optimierten Nutanix-Stack profitieren, um mit ihren Innovationen auf einer konsistenten, skalierbaren Open-Source-Basis durchzustarten und gleichzeitig die Kontrolle über ihre Daten zu behalten.“

Fazit: Nutanix GPT-in-a-Box ist eine „gebrauchsfertige“, vom Kunden kontrollierte KI-Infrastruktur für das Edge- oder Core-Rechenzentrum, um KI- und GPT-Modelle zu betreiben und zu optimieren. Gleichzeitig behalten sie die Kontrolle über ihre Daten. Hierfür bietet Nutanix nach eigenen Angaben eine ganze Palette an ergänzenden Sicherheits- und Datenschutzangeboten, die sich optimal für den Schutz von KI-Daten eignen sollen.

Querverweis:

Unser Beitrag > Nutanix Project Beacon: Vision einer hybriden Multi-Cloud als Platform-as-a-Service-Angebot

Unser Beitrag > EU AI Act: TÜV-Verband fordert Klassifizierung von Hochrisiko-KI-Systemen

Unser Blogpost > Speicheranforderungen bei KI-Anwendungen: Randbedingungen und Einsatzkriterien