Replika, ein 2017 gegründetes Startup aus San Francisco, bietet Kunden maßgeschneiderte Avatare, die mit ihnen sprechen und ihnen zuhören.

Replika ist unter den englischsprachigen Nutzern führend. Die Nutzung ist kostenlos, obwohl das Unternehmen durch den Verkauf von Bonusfunktionen wie Voice-Chats monatlich etwa 2 Millionen Dollar einnimmt.

Der "virtuelle Freund" wird damit beworben, dass er das emotionale Wohlbefinden des Benutzers verbessern kann.

Die italienische Aufsichtsbehörde erklärte jedoch, dass durch den Eingriff in die Stimmung des Nutzers "die Risiken für Personen, die sich noch in einem Entwicklungsstadium oder in einem Zustand emotionaler Zerbrechlichkeit befinden, erhöht werden können".

Die Behörde wies auch auf das Fehlen eines Mechanismus zur Altersüberprüfung hin, wie z.B. Filter für Minderjährige oder eine Sperrvorrichtung, wenn die Benutzer ihr Alter nicht ausdrücklich angeben.

Replika verstößt gegen die europäischen Datenschutzbestimmungen und verarbeitet personenbezogene Daten in unzulässiger Weise, da es nicht einmal stillschweigend auf einem Vertrag basieren kann, den ein Minderjähriger nicht unterschreiben kann, so die Aufsichtsbehörde.

Der Entwickler von Replika, das US-amerikanische Unternehmen Luka Inc., muss die italienische Behörde innerhalb von 20 Tagen über die Maßnahmen zur Umsetzung der Anforderungen informieren und könnte mit einer Geldstrafe von bis zu 20 Millionen Euro (21,80 Millionen Dollar) oder bis zu 4 % seines weltweiten Jahresumsatzes belegt werden, so die Erklärung.

Replika reagierte nicht sofort auf eine E-Mail von Reuters mit der Bitte um Stellungnahme.

($1 = 0,9176 Euro)