Die Regierung Biden erklärte am Donnerstag, dass führende Unternehmen der künstlichen Intelligenz zu den mehr als 200 Unternehmen gehören, die sich einem neuen US-Konsortium anschließen, um die sichere Entwicklung und den Einsatz von generativer KI zu unterstützen. Handelsministerin Gina Raimondo kündigte das U.S. AI Safety Institute Consortium (AISIC) an, zu dem neben OpenAI, Alphabets Google, Anthropic und Microsoft auch die Facebook-Muttergesellschaft Meta Platforms, Apple, Amazon.com, Nvidia Palantir, Intel, JPMorgan Chase und Bank of America gehören.

"Die US-Regierung muss eine wichtige Rolle bei der Festlegung von Standards und der Entwicklung von Werkzeugen spielen, die wir brauchen, um die Risiken zu mindern und das immense Potenzial der künstlichen Intelligenz zu nutzen", sagte Raimondo in einer Erklärung.

Das Konsortium, dem auch BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa sowie wichtige akademische Einrichtungen und Regierungsbehörden angehören, wird unter dem U.S. AI Safety Institute (USAISI) untergebracht sein.

Die Gruppe hat die Aufgabe, an den vorrangigen Maßnahmen zu arbeiten, die in der KI-Exekutivanordnung von Präsident Bidens vom Oktober aufgeführt sind, "einschließlich der Entwicklung von Richtlinien für Red-Teaming, Fähigkeitsbewertungen, Risikomanagement, Sicherheit und Wasserzeichen für synthetische Inhalte".

Große KI-Unternehmen haben sich letztes Jahr verpflichtet, von KI generierte Inhalte mit Wasserzeichen zu versehen, um die Technologie sicherer zu machen. Red-teaming wird seit Jahren in der Cybersicherheit eingesetzt, um neue Risiken zu identifizieren. Der Begriff geht auf Simulationen des Kalten Krieges in den USA zurück, bei denen der Feind als "rotes Team" bezeichnet wurde.

Bidens Anordnung wies die Behörden an, Standards für diese Tests festzulegen und die damit verbundenen chemischen, biologischen, radiologischen, nuklearen und Cybersicherheitsrisiken zu behandeln.

Im Dezember erklärte das Handelsministerium, dass es den ersten Schritt zur Ausarbeitung wichtiger Standards und Leitlinien für den sicheren Einsatz und das Testen von KI unternimmt.

Das Konsortium repräsentiert die größte Ansammlung von Test- und Evaluierungsteams und wird sich auf die Schaffung von Grundlagen für eine "neue Messwissenschaft in der KI-Sicherheit" konzentrieren, so das Handelsministerium.

Generative KI - die als Antwort auf offene Fragen Texte, Fotos und Videos erstellen kann - hat sowohl für Begeisterung als auch für Befürchtungen gesorgt, dass sie einige Arbeitsplätze überflüssig machen, Wahlen beeinflussen und möglicherweise Menschen überwältigen könnte, was katastrophale Auswirkungen hätte.

Während die Regierung Biden Schutzmaßnahmen anstrebt, sind die Bemühungen im Kongress, eine Gesetzgebung zur KI zu verabschieden, trotz zahlreicher hochrangiger Foren und Gesetzesvorschläge ins Stocken geraten. (Berichterstattung von David Shepardson; Bearbeitung von Jamie Freed)