Die auf hybrides Multicloud-Computing und Datacenter-Lösungen fokussierte Nutanix hat neue Funktionalitäten für "GPT-in-a-Box" lanciert. Dazu gehören unter anderem Integrationen mit den Inference-Microservices Nvidia NIM und der Bibliothek für Large Language Models (LLMs) von Hugging Face. Darüber hinaus hat Nutanix auch das neue "AI Partner Program" vorgestellt. Es zielt darauf ab, durch die Kombination von KI-Lösungen und Servicepartnern Kunden zu unterstützen, die generative KI-Applikationen (GenAI) auf der "Nutanix Cloud Platform" (NCP) und GPT-in-a-Box betreiben, managen und absichern wollen. Bei "Nutanix GPT-in-a-Box" handelt es sich um eine Full-Stack-Lösung, die mit "Nutanix Objects" und "Nutanix Files" für die Speicherung von Modellen und Daten integriert und für die einfache KI-Implementierung in Unternehmen vorkonfiguriert ist.
"Nutanix GPT-in-a-Box hat den Beweis erbracht, dass Unternehmenskunden einen Bedarf an On-premises-Softwarelösungen haben, mit deren Hilfe sich KI-Modelle und Inferenzpunkte auf einfache Art und Weise bereitstellen und managen lassen", erklärt Thomas Cornely, Senior Vice President of Product Management bei der im kalifornischen San José domizilierten Nutanix.
Die angekündigte Version 2.0 von GPT-in-a-Box soll die Verarbeitungsgeschwindigkeit mithilfe von Nvidida weiter beschleunigen und zusätzliche LLMs unterstützen. Ferner sollen sie das Management der Basismodelle weiter vereinfachen und Integrationen zu den Microservices von Nvidia NIM und der LLM-Bibliothek von Hugging Face liefern.
Mit ihrer integrierten grafischen Benutzeroberfläche, der Rollen-basierten Zugriffskontrolle, Auditierbarkeit und Dark-Site-Unterstützung werde sich Version 2.0 von GPT-in-a-Box, neben vielen anderen Vorteilen, durch eine komfortable und einfache Benutzerführung auszeichnen, verspricht Nutanix. Sie enthalte ferner eine Point-and-click-Benutzeroberfläche, um Nvidia NIM bereitzustellen und zu konfigurieren. Die "Nvidia Inference Microservices" (NIM) sind Teil der Softwareplattform "Nvidia AI Enterprise", um KI für den Echtbetrieb zu entwickeln und bereitzustellen. Partnerschaft mit Hugging Face
Nutanix hat auch eine Partnerschaft mit Hugging Face angekündigt mit dem Ziel, einen integrierten Zugang zur Hugging-Face-Bibliothek zu bieten und Kunden dadurch die Möglichkeit zu geben, die darin enthaltenen LLMs auszuführen. Im Rahmen der Zusammenarbeit werden Nutanix und Hugging Face eine eigene Integration zu "Text Generation Inference" entwickeln, der Open-Source-Bibliothek von Hugging Face für die Bereitstellung von LLMs in Produktivumgebungen. Dies ermögliche die Nutzung der Textgenerierungsmodelle, die auf dem Hub von Hugging Face verfügbar sind, auf GPT-in-a-Box in der Version 2.0. Teil dieser Integrationslösung sei ein nahtloser Workflow, um validierte LLMs von Hugging Face bereitzustellen und dabei auf den Nutanix-Support zurückgreifen zu können.
Desweiteren hat Nutanix eigenen Angaben nach zudem ihre Plattform für unstrukturierte Daten durch Verbesserungen bei Leistung, Dichte und Gesamtbetriebskosten (TCO) für die Nutzung von KI- und ML-Algorithmen optimiert. "Nutanix Unified Storage", die Nutanix-Lösung für Software-basierten Storage, unterstütze jetzt eine neue Plattform mit 100 Prozent NVMe-Storage und einem Speichervolumen von über 550 Terabytes sowie einem sequentiellen Lesedurchsatz von bis zu 10 Gigabytes pro Sekunde von einem einzigen Knoten aus, heisst es. Dies entspreche nahezu dem Durchsatz eines 100-Gigabit-Ethernet-Ports und ermögliche schnellere Datenleseoperationen sowie eine effizientere Nutzung von GPU-Ressourcen.
In Zusammenarbeit mit OEM-Anbietern für Serverplattformen hat Nutanix auch die Angebotsauswahl an KI-optimierten GPUs und Dichte-optimierten GPU-Systemen erweitert. Diese KI-optimieren GPUs, einschliesslich der Nvidia-GPUs L40S, H100, L40 und L4, werden jetzt auf GPT-in-a-Box von Nutanix unterstützt, heisst es. Ferner unterstütze Nutanix ab sofort Dichte-optimierte GPU-Systeme von Dell, HPE und Lenovo.
KI-Partnerprogramm von Nutanix
Nutanix hat an anderer Front auch ein neue KI-Partnerprogramm auf die Beine gestellt. Kunden sollen dadurch einen vereinfachten Zugang zu einem erweiterten Ökosystem an KI-Partnern mit dem Ziel erhalten, praxistaugliche generative KI-Lösungen zu liefern. Zu den Szenarien, zu deren Umsetzung das breit gefächerte Partnerökosystem beitragen werde, würden unter anderem automatisierter Betrieb, Cybersicherheit, Betrugserkennung und Kundensupport für unterschiedliche Branchen wie Gesundheitswesen, Finanzdienstleister, Rechtsberatung und Professional Services zählen. Zu den ersten Mitgliedern des neuen Partnerprogramms gehören demnach Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI und UbiOps.
Die neuen Partnerprogramme und ihre Vorteile
- Nutanix AI Ready Validation: Alle Partner sollen die Validierung "Nutanix AI Ready" erhalten und damit die Interoperabilität mit der "Nutanix Cloud Infrastructure", der hyperkonvergenten Infrastruktursoftware von Nutanix, dem Hypervisor "Nutanix AHV" und der "Nutanix Kubernetes Platform", der Cloud-native-Plattform von Nutanix auf Basis von Kubernetes, nachweisen.
- Full-Stack-Lösungen: Programmmitglieder sollen individuelle Produktbroschüren erhalten, in denen die Vorteile der Nutanix- und Partnerlösungen beschrieben sind. Select-Partner erhalten darüber hinaus technische Datenblätter, Best-Practice-Guides oder Referenzarchitekturen, um die Implementierung bei gemeinsamen Kunden zu vereinfachen, heisst es.
- Gemeinsame Werbe- und Go-to-Market-Massnahmen: Partner sollen künftig von Go-to-Market- und nachfragegenerierenden Aktivitäten rund um KI-Szenarien für Unternehmenskunden profitieren. Zusätzlich würden Partner Zugang zu Werbematerial und Go-to-Market-Massnahmen einschliesslich Inhaltserstellung, Blogbeiträgen, Webinaren, Podcasts und anderer Veranstaltungen erhalten, um Bewusstsein und Nachfrage für zentrale Anwendungsszenarien zu schaffen.
GPT-in-a-Box 2.0 von Nutanix wird voraussichtlich in der zweiten Jahreshälfte 2024 verfügbar sein. Die Unterstützung für "Nvidia GPU Direct" und NX-9151 befinden sich zurzeit in der Entwicklung. Die angekündigten zusätzlichen Funktionalitäten in "Nutanix Unified Storage" und "Nutanix Data Lens" sind für Bestandskunden verfügbar.
