Ein KI-Video zeigt einen ekstatischen Narendra Modi in einer schicken Jacke und Hose, der auf einer Bühne zu einem Bollywood-Song tanzt, während die Menge jubelt. Der indische Premierminister teilte das Video auf X mit den Worten: "Solch eine Kreativität in der Hochsaison der Wahlen ist wirklich eine Freude."

Ein anderes Video mit demselben Bühnenbild zeigt Modis Rivalin Mamata Banerjee, die in einem sareeähnlichen Outfit tanzt, aber im Hintergrund sind Teile ihrer Rede zu hören, in der sie diejenigen kritisiert, die ihre Partei verlassen haben, um Modis Partei beizutreten. Die Polizei des Bundesstaates hat eine Untersuchung eingeleitet und erklärt, das Video könne "Recht und Ordnung beeinträchtigen".

Die unterschiedlichen Reaktionen auf Videos, die mit Hilfe von künstlicher Intelligenz (KI) erstellt wurden, unterstreichen, wie die Nutzung und der Missbrauch der Technologie zunehmen und Regulierungsbehörden und Sicherheitsbeamte beunruhigen, während die bevölkerungsreichste Nation der Welt eine Mammutwahl abhält.

Einfach zu erstellende KI-Videos, die nahezu perfekte Schatten und Handbewegungen enthalten, können manchmal sogar digital bewanderte Menschen in die Irre führen. Aber die Risiken sind in einem Land höher, in dem viele der 1,4 Milliarden Menschen technisch überfordert sind und in dem manipulierte Inhalte leicht sektiererische Spannungen schüren können, insbesondere in Wahlzeiten.

Laut einer im Januar veröffentlichten Umfrage des Weltwirtschaftsforums wird das Risiko für Indien durch Fehlinformationen höher eingeschätzt als das Risiko durch Infektionskrankheiten oder illegale wirtschaftliche Aktivitäten in den nächsten zwei Jahren.

"Indien ist bereits einem großen Risiko durch Fehlinformationen ausgesetzt - mit KI im Bild kann sich dies mit 100-facher Geschwindigkeit ausbreiten", sagte der in Neu-Delhi ansässige Berater Sagar Vishnoi, der einige politische Parteien zum Einsatz von KI bei den indischen Wahlen berät.

"Ältere Menschen, die oft nicht sehr technikaffin sind, fallen zunehmend auf gefälschte Erzählungen herein, die von KI-Videos unterstützt werden. Das könnte schwerwiegende Folgen haben, wie z.B. Hass gegen eine Gemeinschaft, Kaste oder Religion auszulösen."

Die nationalen Wahlen 2024, die in sechs Wochen stattfinden und am 1. Juni enden, sind die ersten, bei denen KI zum Einsatz kommt. Die ersten Beispiele waren harmlos und beschränkten sich auf einige Politiker, die die Technologie nutzten, um Videos und Audios zur Personalisierung ihrer Kampagnen zu erstellen.

Doch im April gerieten größere Fälle von Missbrauch in die Schlagzeilen, darunter Deepfakes von Bollywood-Schauspielern, die Modi kritisierten, und gefälschte Clips, in die zwei von Modis Top-Helfern verwickelt waren und die zur Verhaftung von neun Personen führten.

SCHWER ZU BEKÄMPFEN

Die indische Wahlkommission warnte letzte Woche die politischen Parteien vor der Nutzung von KI zur Verbreitung von Fehlinformationen und nannte sieben Bestimmungen der Informationstechnologie und anderer Gesetze, die Gefängnisstrafen von bis zu drei Jahren für Vergehen wie Fälschung, Verbreitung von Gerüchten und Feindschaft vorsehen.

Ein hoher Beamter der nationalen Sicherheit in Neu-Delhi sagte, die Behörden seien besorgt über die Möglichkeit, dass Fake News zu Unruhen führen könnten. Die leichte Verfügbarkeit von KI-Tools macht es möglich, solche Fake News zu fabrizieren, insbesondere während der Wahlen, und es ist schwierig, dagegen vorzugehen, sagte der Beamte.

"Wir haben keine (angemessenen) Überwachungskapazitäten... die sich ständig weiterentwickelnde KI-Umgebung ist schwer zu überblicken", sagte der Beamte.

Ein hoher Wahlbeamter sagte: "Wir sind nicht in der Lage, die sozialen Medien vollständig zu überwachen, ganz zu schweigen von der Kontrolle der Inhalte."

Sie lehnten es ab, identifiziert zu werden, da sie nicht autorisiert waren, mit den Medien zu sprechen.

KI und Deepfakes werden zunehmend bei Wahlen in anderen Teilen der Welt eingesetzt, darunter in den USA, Pakistan und Indonesien. Die jüngste Verbreitung der Videos in Indien zeigt, vor welchen Herausforderungen die Behörden stehen.

Seit Jahren gibt es ein Gremium des indischen IT-Ministeriums, das nach eigenem Ermessen oder aufgrund von Beschwerden die Sperrung von Inhalten anordnet, die nach Ansicht des Ministeriums die öffentliche Ordnung beeinträchtigen könnten. Während dieser Wahl haben die Wahlbeobachtungsstelle und die Polizei im ganzen Land Hunderte von Beamten eingesetzt, um problematische Inhalte aufzuspüren und deren Entfernung zu veranlassen.

Während Modis Reaktion auf sein KI-Tanzvideo - "Ich habe es auch genossen, mich selbst tanzen zu sehen" - leichtherzig ausfiel, leitete die Polizei der Stadt Kolkata im Bundesstaat Westbengalen eine Untersuchung gegen den Nutzer X, SoldierSaffron7, ein, weil er das Banerjee-Video geteilt hatte.

Der für Internetkriminalität zuständige Beamte von Kolkata, Dulal Saha Roy, teilte eine getippte Mitteilung auf X, in der er den Nutzer aufforderte, das Video zu löschen oder "strenge strafrechtliche Maßnahmen zu ergreifen."

"Ich werde das Video nicht löschen, egal was passiert", sagte der Nutzer gegenüber Reuters über X-Direktnachrichten und lehnte es ab, seine Nummer oder seinen richtigen Namen zu nennen, da er polizeiliche Maßnahmen befürchtete. "Sie können mich nicht aufspüren."

Wahlbeamte sagten gegenüber Reuters, dass die Behörden den Social-Media-Plattformen nur sagen können, dass sie die Inhalte entfernen sollen, und dass die Plattformen nicht sagen können, dass die Beiträge nicht gegen ihre internen Richtlinien verstoßen.

VIGGLE VIDEOS

Die Tanzvideos von Modi und Banerjee, die auf X 30 Millionen bzw. 1,1 Millionen Aufrufe haben, wurden mit Hilfe der kostenlosen Website Viggle erstellt. Die Website ermöglicht es, mit einem Foto und ein paar einfachen Anweisungen, die in einer Anleitung beschrieben werden, innerhalb von Minuten Videos zu erstellen, die die Person auf dem Foto beim Tanzen oder bei anderen realen Bewegungen zeigen.

Der Mitbegründer von Viggle, Hang Chu, und das Büro von Banerjee haben auf Anfragen von Reuters nicht reagiert.

Neben den beiden tanzenden KI-Videos gibt es ein weiteres 25-sekündiges Viggle-Video, das sich im Internet verbreitet hat und Banerjee vor einem brennenden Krankenhaus zeigt, das er mit einer Fernbedienung in die Luft jagt. Es handelt sich um einen von der KI veränderten Clip einer Szene aus dem Film The Dark Knight von 2008, in dem Batmans Feind, der Joker, Verwüstung anrichtet.

Das Video wurde bereits 420.000 Mal angeschaut.

Die Polizei von Westbengalen ist der Ansicht, dass dies gegen die indischen IT-Gesetze verstößt, aber X hat keine Maßnahmen ergriffen, da es "fest daran glaubt, die Stimme unserer Nutzer zu verteidigen und zu respektieren", wie es in einer E-Mail von X an den Nutzer heißt, die Reuters einsehen konnte.

"Sie können mir nichts antun. Ich habe die Mitteilung nicht ernst genommen", sagte der Nutzer gegenüber Reuters über X Direct Messaging.