Kalray kündigte Ngenea for AI an, eine neue Version der Kalray Data Acceleration Platform, die speziell auf KI-Datenpipelines abgestimmt ist. Da KI neue Wege für die Aufnahme und den Zugriff auf riesige Datenmengen erfordert, hilft Ngenea for AI Teams, die Leistung zu beschleunigen, die Datenverwaltung zu vereinfachen und ihre Datenbestände für neue KI-gestützte Anwendungsfälle zu öffnen. Ngenea for AI ist das Pendant zu den beiden Ngenea-Editionen für Kunden aus dem Bereich Medien & Unterhaltung bzw. HPC.

Mit dem neuen Ngenea for AI können KI-Innovatoren ihre Ingest-Leistung beschleunigen und auf ihre unstrukturierten Daten aus einem einheitlichen, globalen Namensraum zugreifen. Kalray stellte Ngenea for AI erstmals auf der Dell Technologies World 2024 in Las Vegas vor, wo die Leistung der Software auf Dell-Servern am Kalray-Stand Nr. 1026 zu sehen ist. Dem Markt für generative KI (GenAI) wird in den nächsten 10 Jahren eine jährliche Wachstumsrate (CAGR) von 42% vorausgesagt, so dass er von nur 40 Milliarden Dollar im Jahr 2022 auf 1,3 Billionen Dollar anwachsen wird (Bloomberg Intelligence).

Innovative KI-Konstrukte wie Large Language Models (LLMs) und Retrieval-Augmented Generation (RAG) sowie Anwendungen wie Smart Vision und GenAI stellen jedoch eine Herausforderung für die Fähigkeit von IT-Systemen dar, Daten in und aus ihren riesigen Datenspeichern zu bewegen. Ngenea for AI fügt Datenindizierungs- und Suchfunktionen hinzu, die Benutzer nutzen können, um beliebige Daten mühelos in Smart Vision-, GenAI- und RAG-Anwendungen einzuspeisen. Das neue Angebot ermöglicht es KI-Kunden, ihre vorhandenen Ressourcen beim Einsatz von GenAI-Anwendungen vollständig zu nutzen, unabhängig davon, wo die Daten gespeichert sind.

Diese GenAI- und RAG-Funktionen vereinfachen und automatisieren das, was sonst ein komplexer Arbeitsablauf unter dem Aspekt der Datenverwaltung wäre. Die Ngenea for AI-Plattform umfasst auch eine hochleistungsfähige Speicherebene für die datenintensivsten KI-Workloads. Mit Ngenea können KI-Innovatoren: Beschleunigen Sie KI-Workflows, indem Sie KI-Datenpipelines optimieren und die Gesamtgeschwindigkeit und Effizienz von KI-Operationen verbessern.

Steigern Sie die Leistung der KI-Modelle, indem Sie die Daten schneller an die GPUs weiterleiten, was schnellere Berechnungen und schnellere Erkenntnisse ermöglicht. Profitieren Sie von fortschrittlichen Datenindizierungsfunktionen, mit denen generative KI- und RAG-Anwendungen verfeinerte Suchfunktionen bereitstellen können, die effektivere Abfragen und eine strategischere Nutzung von KI-Modellen ermöglichen. Ermöglichen Sie eine kontrollierte und optimierte Verbindung zwischen Unternehmensdaten und einer Reihe von KI-gestützten Tools von Drittanbietern, um eine nahtlose Integration und Datensynergie zu gewährleisten.

Die optionale Hardware-Beschleunigung über die DPUs von Kalray, einschließlich der TURBOCARD4 (TC4), ermöglicht eine asynchrone Parallelverarbeitung für extrem anspruchsvolle Workflows über eine zu den GPUs komplementäre Architektur.