Der Brief, der von dem gemeinnützigen Future of Life Institute herausgegeben und von mehr als 1.000 Menschen unterzeichnet wurde, darunter Musk, Apple-Mitbegründer Steve Wozniak und Emad Mostaque, CEO von Stability AI, forderte eine Pause bei der Entwicklung fortschrittlicher KI, bis gemeinsame Sicherheitsprotokolle für solche Konstruktionen entwickelt, umgesetzt und von unabhängigen Experten geprüft wurden.

"Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind", heißt es in dem Brief.

Der Brief beschreibt auch die potenziellen Risiken für die Gesellschaft und die Zivilisation, die von KI-Systemen ausgehen können, die mit dem Menschen konkurrieren, in Form von wirtschaftlichen und politischen Störungen, und fordert die Entwickler auf, mit den politischen Entscheidungsträgern bei der Steuerung und Regulierung zusammenzuarbeiten.

Der Brief kommt zu einem Zeitpunkt, an dem die EU-Polizeibehörde Europol am Montag in den Chor der ethischen und rechtlichen Bedenken gegenüber fortschrittlicher KI wie ChatGPT einstimmte und vor dem möglichen Missbrauch des Systems für Phishing-Versuche, Desinformation und Cyberkriminalität warnte.

Seit seiner Veröffentlichung im letzten Jahr hat das von Microsoft unterstützte ChatGPT von OpenAI Konkurrenten dazu veranlasst, ähnliche Produkte auf den Markt zu bringen, und Unternehmen dazu veranlasst, es oder ähnliche Technologien in ihre Apps und Produkte zu integrieren.