AMD präsentierte seine neuesten End-to-End-Rechen- und Softwarefunktionen für Microsoft-Kunden und -Entwickler. Durch den Einsatz von AMD Lösungen wie den AMD Instinct MI300X Beschleunigern, der offenen Software ROCm, den Ryzen KI Prozessoren und Software sowie den Alveo MA35D Medienbeschleunigern ist Microsoft in der Lage, eine leistungsstarke Suite von Tools für KI-basierte Implementierungen in zahlreichen Märkten anzubieten. Die neuen Microsoft Azure ND MI300X virtuellen Maschinen (VMs) sind jetzt allgemein verfügbar und bieten Kunden wie Hugging Face Zugang zu beeindruckender Leistung und Effizienz für ihre anspruchsvollsten KI-Workloads.

Die Azure ND MI300x v5 VM-Serie, die bereits im November 2023 in einer Vorschau angekündigt wurde, ist jetzt in der Region Canada Central für Kunden verfügbar, die ihre KI-Workloads ausführen möchten. Diese VMs bieten eine branchenführende Leistung und eine beeindruckende HBM-Kapazität und Speicherbandbreite, so dass Kunden größere Modelle in den GPU-Speicher einbauen und/oder weniger GPUs verwenden können, was letztlich dazu beiträgt, Energie, Kosten und Zeit bis zur Lösung zu sparen. Diese VMs und die ROCm-Software, mit der sie betrieben werden, werden auch für Azure AI Production Workloads verwendet, einschließlich Azure OpenAI Service, und bieten Kunden Zugang zu GPT-3.5 und GPT-4 Modellen.

Mit AMD Instinct MI300X und dem bewährten und einsatzbereiten ROCm Open Software Stack ist Microsoft in der Lage, ein führendes Preis-Leistungs-Verhältnis für GPT-Inferenz-Workloads zu erzielen. Neben den Azure AI-Produktions-Workloads ist Hugging Face einer der ersten Kunden, der diese VMs nutzt. Durch die Portierung ihrer Modelle auf die ND MI300X VMs in nur einem Monat konnte Hugging Face eine beeindruckende Leistung und ein hervorragendes Preis-Leistungs-Verhältnis für ihre Modelle erzielen.

In diesem Zusammenhang können Kunden der ND MI300X VMs die Modelle von Hugging Face auf die VMs übertragen, um NLP-Anwendungen einfach und effizient zu erstellen und einzusetzen. Darüber hinaus können Entwickler die AMD Ryzen KI-Software nutzen, um die KI-Inferenz auf AMD Ryzen KI-betriebenen PCs zu optimieren und einzusetzen. Die Ryzen KI-Software ermöglicht die Ausführung von Anwendungen auf der neuronalen Verarbeitungseinheit (NPU), die auf der AMD XDNA-Architektur basiert, dem ersten dedizierten KI-Verarbeitungssilizium auf einem Windows x86-Prozessor2. Während die Ausführung von KI-Modellen auf einer CPU oder GPU allein den Akku schnell entleeren kann, werden die KI-Modelle bei einem Ryzen KI Power-Laptop auf der eingebetteten NPU ausgeführt, wodurch CPU- und GPU-Ressourcen für andere Rechenaufgaben frei werden.

Dies trägt dazu bei, die Akkulaufzeit deutlich zu verlängern und ermöglicht es Entwicklern, LLM-KI-Workloads auf dem Gerät und gleichzeitige Anwendungen effizient und lokal auszuführen. Microsoft hat sich für den AMD Alveo MA35D Medienbeschleuniger entschieden, um seine umfangreichen Live-Streaming-Video-Workloads zu betreiben, darunter Microsoft Teams, SharePoint Video und andere. Der Alveo MA35D wurde speziell für die Bereitstellung interaktiver Live-Streaming-Dienste in großem Umfang entwickelt und wird Microsoft dabei helfen, eine qualitativ hochwertige Videoerfahrung zu gewährleisten, indem er die Videoverarbeitungslasten, einschließlich Videotranskodierung, -dekodierung, -kodierung und Streaming mit adaptiver Bitrate (ABR), rationalisiert.

Durch den Einsatz des Alveo MA35D Beschleunigers in Servern mit AMD EPYC Prozessoren der 4. Generation erhält Microsoft: Konsolidierung von Servern und Cloud-Infrastruktur: Durch die hohe Kanaldichte, die Energieeffizienz und die extrem niedrige Latenz bei der Videoverarbeitung des Alveo MA35D kann Microsoft die Anzahl der Server, die zur Unterstützung seiner hochvolumigen interaktiven Live-Streaming-Anwendungen erforderlich sind, erheblich reduzieren. Beeindruckende Leistung - Die Alveo MA35D verfügt über ASIC-basierte Videoverarbeitungseinheiten, die den AV1-Komprimierungsstandard und KI-gestützte Videoqualitätsoptimierungen unterstützen, die für ein reibungsloses und nahtloses Videoerlebnis sorgen. Zukunftssichere AV1-Technologie - mit einem Upgrade-Pfad zur Unterstützung neuer Standards wie AV1 bietet die Alveo MA35D Microsoft eine Lösung, die sich an die sich entwickelnden Anforderungen an die Videoverarbeitung anpassen kann.

AMD EPYC Prozessoren der 4. Generation treiben zahlreiche allgemeine, speicherintensive, rechenoptimierte und beschleunigte Rechen-VMs bei Azure an. Diese VMs verdeutlichen das Wachstum und die Nachfrage nach AMD EPYC Prozessoren in der Cloud und bieten eine bis zu 20% bessere Leistung für allgemeine und speicherintensive VMs mit besserem Preis-Leistungs-Verhältnis und eine bis zu 2-fache CPU-Leistung für rechenoptimierte VMs im Vergleich zur vorherigen Generation von AMD EPYC Prozessor-betriebenen VMs bei Azure. Die VM-Serien Dalsv6, Dasv6, Easv6, Falsv6 und Famsv6 sind jetzt in der Vorschau verfügbar und werden in den kommenden Monaten allgemein verfügbar sein.