VMware Cloud Foundation erhält KI-Modellspeicher

Unternehmensinterne Querelen wie etwa bei OpenAI im letzten Herbst, Sicherheitsbedenken, regulatorische Bestimmungen – all dies sind Gründe, warum Unternehmen ihre KI in lokalen Rechenzentren oder in privaten Clouds unter ihrer vollständigen Kontrolle ausführen wollen.



Neuer Speicher für VMware Private AI



Oder nach Plattformen von Drittanbietern suchen, um sich nicht an einen bestimmten KI- oder Cloud-Anbieter zu binden. Eine dieser Alternativen könnte VMware sein, das mittlerweile zu Broadcom gehört. Um die Attraktivität des eigenen Angebots zu erhöhen, hat Broadcom auf der VMware Explore die Unterstützung eines neuen Modellspeichers für die VMware Private AI Foundation mit Nvidia-Add-on angekündigt. Das Ganze soll auf der VMware-Cloud-Foundation-9-Plattform laufen.



Die gemeinsame Plattform von VMware und Nvidia ist seit Mai dieses Jahres verfügbar. Sie unterstützt die KI-Modelle, Tools und Frameworks von Nvidia. Bei ihrer Erstveröffentlichung ermöglichte die gemeinsame Plattform Unternehmen den Einsatz generativer KI-Anwendungen und enthielt eine Vektordatenbank, sodass Unternehmen mithilfe von Retrieval Augmented Generation (RAG) ihre generative KI dazu bringen konnten, genauere und aktuellere Antworten zu liefern.



Auswahl an KI-Modellen



Mit dem jetzt angekündigten Modell-Store-Manager können Unternehmen ihren Entwicklern eine kuratierte Auswahl an KI-Modellen zur Verfügung stellen und Zugriffskontrollen für diese Modelle einrichten. Auf diese Weise könnten Unternehmen sicherstellen, dass Mitarbeiter nicht einfach allgemeine Large Language Models (LLMs) verwenden, die von Unternehmensseite nicht unterstützt werden.



Unterstützte KI-Modelle



VMware-Anwender können die KI-Modelle von Nvidia sowie Modelle von Hugging Face und anderen Partnern nutzen, darunter das Llama-3-Modell von Meta sowie Modelle von Google und Mistral.



Zu den weiteren neuen Funktionen gehören neben dem Modellspeicher Tools, um Modelle mit integrierten Zugriffskontrollen abzusichern. Ferner werde der Bereitstellungsworkflow optimiert und zusätzlich gebe es Referenz-KI-Workflows für spezielle Anwendungsfälle wie Kundenservice, Arzneimittelforschung und PDF-Datenextraktion, so Broadcom.



Weitere Verbesserungen



Zu den weiteren Verbesserungen der VMware Cloud Foundation gehören:




Die Anzahl der Managementkonsolen für Provisioning Services wurde von über einem Dutzend auf jeweils nur eine einzige Konsole für Betrieb und Automatisierung reduziert.



Eine neue Memory-Tiering-Funktion soll datenintensive Anwendungen wie KI, Datenbanken und Echtzeitanalysen beschleunigen.



Verbesserte Sicherheitsfunktionen, beispielsweise ein einheitliches Sicherheitsmanagement über mehrere VMware-Cloud-Foundation-Deployments hinweg.




Angaben dazu, wann die neuen Features in VMware Cloud Foundation 9 zur Verfügung stehen, machte Broadcom nicht.