Kurz nachdem sie im November letzten Jahres einen YouTube-Kanal gestartet hatte, stellte die 21-jährige Ukrainerin Loiek fest, dass ihr Bild von einer künstlichen Intelligenz übernommen und gesponnen worden war, um auf chinesischen Social-Media-Plattformen Alter Egos zu erstellen.
Ihre digitalen Doppelgängerinnen - wie "Natasha" - gaben sich als russische Frauen aus, die fließend Chinesisch sprechen und sich bei China für seine Unterstützung Russlands bedanken und nebenbei ein wenig Geld mit dem Verkauf von Produkten wie russischen Süßigkeiten verdienen wollten.
Darüber hinaus hatten die gefälschten Konten Hunderttausende von Anhängern in China, weit mehr als Loiek selbst.
"Das ist buchstäblich mein Gesicht, das Mandarin spricht, und im Hintergrund sehe ich den Kreml und Moskau, und ich spreche darüber, wie großartig Russland und China sind", sagte Loiek gegenüber Reuters. "Das war wirklich gruselig, denn das sind Dinge, die ich im Leben nie sagen würde.
Loieks Fall ist repräsentativ für eine wachsende Zahl von auf den ersten Blick russischen Frauen in den chinesischen sozialen Medien, die ihre Liebe zu China in fließendem Chinesisch zeigen und sagen, dass sie Russland im Krieg unterstützen wollen, indem sie Importe aus ihrer Heimat verkaufen.
Allerdings existiert keine von ihnen. Sie sind KI-generiert, indem Clips von echten Frauen, die online gefunden wurden, unterschlagen werden, oft ohne deren Wissen, und die Videos, die die falschen Avatare erstellen, werden verwendet, um alleinstehenden chinesischen Männern Produkte anzupreisen, sagen Experten.
Die Konten, die mit dem Bild von Loiek erstellt wurden, haben Hunderttausende von Anhängern und haben Produkte im Wert von Zehntausenden von Dollar verkauft, darunter auch Süßigkeiten. Einige der Beiträge enthalten einen Haftungsausschluss, der besagt, dass sie möglicherweise mithilfe von KI erstellt wurden.
Avatare wie der von Loiek nutzen die russisch-chinesische "grenzenlose" Partnerschaft aus, die zwischen den beiden Ländern im Jahr 2022 erklärt wurde, als der russische Präsident Wladimir Putin Peking besuchte, nur wenige Tage bevor Russland in die Ukraine einmarschierte.
Jim Chai, der Geschäftsführer von XMOV, einem Unternehmen, das fortschrittliche KI-Technologien entwickelt und nicht in Loieks Fall involviert ist, sagt, dass die Technologie zur Erstellung solcher Bilder "sehr verbreitet ist, weil viele Menschen in China sie nutzen.
"Um meinen eigenen digitalen 2D-Menschen zu erstellen, muss ich zum Beispiel nur ein 30-minütiges Video von mir selbst aufnehmen, das ich anschließend überarbeite. Natürlich sieht es sehr echt aus, und wenn Sie die Sprache ändern, müssen Sie nur die Lippensynchronität anpassen", sagte Chai.
Künstliche Intelligenz ist ein heiß diskutiertes Thema und Loieks Geschichte wirft ein Licht auf die Risiken ihrer potenziell illegalen oder unethischen Anwendungen, da leistungsstarke Werkzeuge für die Erstellung und Verbreitung von Inhalten auf der ganzen Welt alltäglich werden.
Die Bedenken, dass künstliche Intelligenz zu Fehlinformationen, Fake News und urheberrechtlich geschütztem Material beiträgt, haben sich in den letzten Monaten angesichts der wachsenden Popularität von generativen KI-Systemen wie Chat GPT verstärkt.
Im Januar veröffentlichte China den Entwurf von Richtlinien zur Standardisierung der KI-Industrie und schlug vor, bis 2026 mehr als 50 nationale und branchenweite Standards zu schaffen.
Das KI-Gesetz der Europäischen Union, das KI-Systemen mit hohem Risiko strenge Transparenzverpflichtungen auferlegt, ist diesen Monat in Kraft getreten und setzt damit einen potenziellen globalen Benchmark.
Xin Dai, außerordentlicher Professor an der juristischen Fakultät der Universität Peking, sagte jedoch, dass die Regulierung mit dem Tempo der KI-Entwicklung nur schwer Schritt halten kann.
"Wir können nur vorhersagen, dass mit immer leistungsfähigeren Werkzeugen zur Erstellung von Informationen, zur Erstellung von Inhalten und zur Verbreitung von Inhalten im Grunde jede nächste Minute zur Verfügung stehen wird", sagte Dai.
"Ich denke, das Entscheidende ist, dass das Volumen einfach zu groß ist ... nicht nur in China, sondern auch im allgemeinen Internet überall", fügte er hinzu. (Bearbeitet von Antoni Slodkowski und Kevin Krolicki und Miral Fahmy)
