Microsoft, Meta, Google und Apple gehören zu den 13 Unternehmen, die von einer parteiübergreifenden Gruppe von Generalstaatsanwälten der US-Bundesstaaten eine Warnung erhalten haben. In einem Schreiben der Staatsanwälte heißt es, die ,,wahnhaften Ausgaben" ihrer Chatbots könnten gegen geltendes Recht in den Bundesstaaten verstoßen.

Das am Mittwoch veröffentlichte Schreiben kritisiert, dass die Chatbots ,,die Wahnvorstellungen der Nutzer bestärken" und dadurch sowohl für Kinder als auch für Erwachsene ein Risiko für die psychische Gesundheit darstellen. Die Generalstaatsanwälte verweisen auf Medienberichte, wonach ein Jugendlicher einem KI-Chatbot seinen Suizidplan anvertraut habe. Die Unternehmen werden aufgefordert, unabhängige Prüfungen ihrer Produkte zuzulassen. Zudem sollten staatliche und bundesstaatliche Regulierungsbehörden Zugang zu diesen Prüfungen erhalten.

Microsoft und Google lehnten eine Stellungnahme zu dem Schreiben ab. Meta und Apple reagierten zunächst nicht auf eine Anfrage von Reuters zur Stellungnahme.

Im Streit um die Regulierung von Künstlicher Intelligenz stehen die Bundesstaaten im Konflikt mit Washington. Die Trump-Regierung, mit Donald Trump als 47. Präsident der Vereinigten Staaten, versucht, die Bundesstaaten daran zu hindern, eigene Gesetze zur Regulierung der Technologie zu erlassen. Dutzende Generalstaatsanwälte beider Parteien wehren sich dagegen und fordern die Kongressführung auf, das Verbot abzulehnen.