New Relic kündigt die allgemeine Verfügbarkeit von New Relic AI Monitoring mit einer Reihe leistungsstarker neuer Funktionen an, die den wachsenden Anforderungen von Unternehmen, die KI-Anwendungen entwickeln, gerecht werden. Zu den neuen Funktionen gehören detaillierte Einblicke in die KI-Antwortverfolgung mit Echtzeit-Benutzerfeedback und Modellvergleichen, um die kontinuierliche Verbesserung der Leistung, Qualität und Kosten von KI-Anwendungen voranzutreiben - bei gleichzeitiger Gewährleistung von Datensicherheit und Datenschutz. Mit mehr als 60 Integrationen ist New Relic AI Monitoring eine der umfassendsten Lösungen, die Unternehmen dabei hilft, die Ursache von Problemen mit KI-Anwendungen schneller zu finden, die Einführung von KI zu fördern und sie in jeder Phase ihrer KI-Reise zu unterstützen.

Unternehmen sind bestrebt, KI einzuführen, um ihren Kunden bessere digitale Erlebnisse zu bieten. Laut Gartner werden bis 2026 mehr als 80 % der Unternehmen generative KI-APIs nutzen oder generative KI-gestützte Anwendungen einsetzen. Obwohl es eine starke und wachsende Nachfrage nach KI gibt, tun sich Unternehmen aufgrund der damit verbundenen Komplexität schwer, KI in ihre Technologiepakete einzubinden.

Das KI-Monitoring von New Relic setzt direkt an dieser Herausforderung an und macht es Unternehmen leicht, die Komplexität ihres KI-Stacks zu bewältigen, indem es einen einheitlichen Überblick über ihr gesamtes KI-Ökosystem zusammen mit den übrigen Leistungsdaten bietet. Zu den wichtigsten Funktionen gehören: Automatische Instrumentierung: New Relic Agenten bieten eine einfache Einrichtung für beliebte Frameworks wie OpenAI, AWS Bedrock und LangChain in den Sprachen Python, Node.js, Ruby, Go und .NET. Vollständige KI-Stack-Transparenz: Ganzheitlicher Überblick über die Anwendung, die Infrastruktur und die KI-Schicht, einschließlich KI-Metriken wie Anzahl der Anfragen, Antwortzeit und Token-Nutzung.

KI-Antwort-Ansicht mit Endbenutzer-Feedback: Erkennen Sie schnell Trends und Ausreißer bei KI-Antworten, analysieren Sie die Stimmung und sehen Sie das Feedback der Benutzer in einer einzigen konsolidierten Ansicht. Tiefgreifende Einblicke für jede Antwort: Verfolgen Sie den Lebenszyklus von KI-Antworten mit Tools wie LangChain, um Leistungs- und Qualitätsprobleme wie Verzerrungen, Toxizität und Halluzinationen zu beheben. Verbesserte Datensicherheit: Halten Sie die Sicherheits- und Compliance-Richtlinien Ihres Unternehmens ein, indem Sie sensible Daten (PII) in KI-Anfragen und -Antworten von der Überwachung ausschließen.

Modellvergleich: Vergleichen Sie die Leistung und die Kosten von Basismodellen, die in der Produktion laufen, in einer einzigen Ansicht, um das Modell auszuwählen, das am besten zu den Anforderungen passt. Schnellstart-Integrationen: Eine der umfassendsten Lösungen für die Überwachung des KI-Ökosystems mit 60 Integrationen für kritische Komponenten wie NVIDIA GPUs und Vektordatenbanken wie Pinecone, Weaviate und mehr. Die KI-Überwachung von New Relic ist generell als Teil der All-in-One Observability-Plattform verfügbar und wird im Rahmen des nutzungsbasierten Preismodells angeboten.

Wenden Sie sich an einen New Relic-Kundenbetreuer oder melden Sie sich für ein kostenloses Konto an.