Cloudera hat seine Zusammenarbeit mit NVIDIA erweitert. Cloudera Powered by NVIDIA wird unternehmenstaugliche NVIDIA NIM Microservices, die Teil der NVIDIA AI Enterprise Software-Plattform sind, in Cloudera Machine Learning, einen Cloudera Data Platform Service für KI/ML-Workflows, integrieren, um schnelle, sichere und vereinfachte generative KI-Workflows in der Produktion zu ermöglichen. Unternehmensdaten in Kombination mit einer umfassenden Full-Stack-Plattform, die für große Sprachmodelle (LLM) optimiert ist, spielen eine entscheidende Rolle dabei, die generativen KI-Anwendungen eines Unternehmens von der Pilotphase bis zur Produktion voranzutreiben.

Mit den Microservices NVIDIA NIM und NeMo Retriever können Entwickler KI-Modelle mit ihren Geschäftsdaten verknüpfen - einschließlich Text, Bildern und Visualisierungen wie Balkendiagrammen, Liniendiagrammen und Tortendiagrammen - um hochpräzise, kontextbezogene Antworten zu generieren. Entwickler, die diese Microservices nutzen, können Anwendungen über NVIDIA AI Enterprise bereitstellen, das optimierte Laufzeiten für die Erstellung, Anpassung und Bereitstellung von LLMs in Unternehmensqualität bietet. Durch den Einsatz von NVIDIA Microservices wird Cloudera Machine Learning Kunden in die Lage versetzen, den Wert ihrer Unternehmensdaten unter Cloudera-Verwaltung freizusetzen, indem sie hochleistungsfähige KI-Workflows, KI-Plattformsoftware und beschleunigtes Computing zu den Daten bringen - wo immer sie sich befinden. Cloudera wird mehrere Integrationen mit NVIDIA Microservices einführen.

Cloudera Machine Learning wird das Model- und Application-Serving auf Basis von NVIDIA Microservices integrieren, um die Leistung der Modellinferenz bei allen Workloads zu steigern. Mit dieser neuen KI-Modell-Serving-Funktionalität können Kunden Fehlertoleranz, Servicing mit niedriger Latenz und automatische Skalierung für Modelle erreichen, die überall eingesetzt werden - sowohl in öffentlichen als auch in privaten Clouds. Darüber hinaus wird Cloudera Machine Learning integrierte NVIDIA NeMo Retriever Micro Services anbieten, um die Verbindung von benutzerdefinierten LLMs mit Unternehmensdaten zu vereinfachen.

Diese Fähigkeit ermöglicht es Anwendern, Retrieval-Augmented Generation (RAG)-basierte Anwendungen für den Produktionseinsatz zu erstellen. Cloudera hat bereits früher mit NVIDIA zusammengearbeitet, um die GPU-optimierte Datenverarbeitung durch die Integration des NVIDIA RAPIDS Accelerator für Apache Spark in die Cloudera Data Platform zu nutzen. Mit der geplanten Ergänzung durch NVIDIA Microservices und der Integration von NVIDIA AI Enterprise wird die Cloudera Data Platform nun auf einzigartige Weise optimierte End-to-End-Pipelines für hybride KI liefern.