Cisco kündigte Cisco AI Defense an, eine bahnbrechende Lösung zur Ermöglichung und Absicherung der KI-Transformation in Unternehmen. Mit dem Fortschritt der KI-Technologie entstehen neue Sicherheitsbedenken und -bedrohungen in einer beispiellosen Geschwindigkeit, auf die bestehende Sicherheitslösungen nicht vorbereitet sind. Cisco AI Defense wurde speziell für Unternehmen entwickelt, damit diese KI-Anwendungen vertrauensvoll entwickeln, einsetzen und sichern können.

Wenn bei KI etwas schief geht, steht unglaublich viel auf dem Spiel. Laut dem Cisco 2024 AI Readiness Index fühlen sich nur 29 % der Befragten in der Lage, unbefugte Manipulationen an KI zu erkennen und zu verhindern. Die Sicherheitsherausforderungen sind ebenfalls neu und komplex, da KI-Anwendungen multimodell- und multicloudfähig sind.

Schwachstellen können auf Modell- oder App-Ebene auftreten, während die Verantwortung bei verschiedenen Eigentümern liegt, darunter Entwickler, Endnutzer und Anbieter. Da Unternehmen über öffentliche Daten hinausgehen und damit beginnen, Modelle mit proprietären Daten zu trainieren, nehmen die Risiken nur noch zu. Um KI-Innovationen und -Akzeptanz zu fördern, benötigen Unternehmen eine gemeinsame Sicherheitsebene, die jeden Nutzer und jede Anwendung schützt.

AI Defense ermöglicht KI-Transformationen in Unternehmen, indem es zwei dringende Risiken angeht: Entwicklung und Bereitstellung sicherer KI-Anwendungen: Da KI allgegenwärtig wird, werden Unternehmen Hunderte, wenn nicht Tausende von KI-Anwendungen nutzen und entwickeln. Entwickler benötigen einen Satz von KI-Sicherheits- und Schutzmaßnahmen, die für jede Anwendung funktionieren. AI Defense hilft Entwicklern, schnell voranzukommen und einen höheren Mehrwert zu erzielen, indem es KI-Systeme vor Angriffen schützt und das Modellverhalten plattformübergreifend sichert. Zu den Funktionen von AI Defense gehören: KI entdecken: Sicherheitsteams müssen verstehen, wer Anwendungen erstellt und welche Trainingsquellen sie verwenden.

AI Defense erkennt Schatten- und sanktionierte KI-Anwendungen in öffentlichen und privaten Clouds. Modellvalidierung: Die Modelloptimierung kann zu toxischen und unerwarteten Ergebnissen führen. Automatisierte Tests überprüfen KI-Modelle auf Hunderte potenzieller Sicherheitsprobleme.

Dieses KI-gesteuerte algorithmische Red Team identifiziert potenzielle Schwachstellen und empfiehlt Sicherheitsmaßnahmen in AI Defense, die von Sicherheitsteams genutzt werden können. Laufzeitsicherheit: Kontinuierliche Validierung schützt fortlaufend vor potenziellen Sicherheitsbedrohungen wie Prompt Injection, Denial-of-Service und dem Verlust sensibler Daten. Sicherung des Zugriffs auf KI-Anwendungen: Da Endbenutzer KI-Anwendungen wie Zusammenfassungswerkzeuge zur Steigerung ihrer Produktivität schnell einsetzen, müssen Sicherheitsteams Datenlecks und die Verfälschung proprietärer Daten verhindern.

AI Defense bietet Sicherheitsteams: Transparenz: Bietet einen umfassenden Überblick über die von Mitarbeitern verwendeten Schatten- und sanktionierten KI-fähigen Anwendungen. Zugriffskontrolle: Implementiert Richtlinien, die den Zugriff von Mitarbeitern auf nicht genehmigte KI-Tools einschränken. Schutz von Daten und Bedrohungen: Kontinuierlicher Schutz vor Bedrohungen und Verlust vertraulicher Daten bei gleichzeitiger Gewährleistung der Compliance.

Im Gegensatz zu Sicherheitsvorkehrungen, die in einzelne KI-Modelle integriert sind, bietet Cisco konsistente Kontrollen für eine Welt mit mehreren Modellen. AI Defense ist selbstoptimierend und nutzt die proprietären maschinellen Lernmodelle von Cisco, um sich ständig weiterentwickelnde KI-Sicherheitsbedenken auf der Grundlage von Bedrohungsdaten von Cisco Talos zu erkennen. Splunk-Kunden, die AI Defense verwenden, erhalten erweiterte Warnmeldungen mit zusätzlichem Kontext aus dem gesamten Ökosystem.

AI Defense lässt sich nahtlos in bestehende Datenflüsse integrieren und bietet so eine beispiellose Transparenz und Kontrolle. Die Lösung ist in die Security Cloud integriert, die einheitliche, KI-gesteuerte, domänenübergreifende Sicherheitsplattform von Cisco. Sie nutzt das umfangreiche Netz von Durchsetzungspunkten von Cisco, um KI-Sicherheit auf Netzwerkebene auf eine Weise zu gewährleisten, wie sie nur Cisco bieten kann. Genauigkeit und Vertrauenswürdigkeit sind für den Schutz von KI-Anwendungen in Unternehmen unerlässlich, und Cisco war aktiv an der Entwicklung von Branchenstandards für KI-Sicherheit beteiligt, darunter die von MITRE, OWASP und NIST.

AI Defense ist die neueste in einer Reihe von KI-gesteuerten Sicherheitsinnovationen von Cisco, darunter Cisco Hypershield. Cisco AI Defense wird im März für Unternehmen verfügbar sein, um ihre KI-Transformationen zu schützen.