11.09.2026 22.24Online seit heute, 22.24 UhrFührende US-Senatorinnen und US-Senatoren verhandeln Insidern zufolge über ein Gesetz, das große Tech-Konzerne wie Google und OpenAI zu mehr Sicherheit bei der Entwicklung von Anwendungen mit Künstlicher Intelligenz verpflichten soll.Der Entwurf sehe eine sogenannte Sorgfaltspflicht für KI-Entwickler vor, sagten zwei mit den Gesprächen vertraute Kongressmitarbeiter. Zudem solle die US-Regierung die Befugnis erhalten, die Veröffentlichung von als unsicher eingestufter KI-Modelle zu blockieren.Der Druck auf den Kongress und US-Präsident Donald Trump, Risiken fortschrittlicher KI-Systeme einzudämmen, war zuletzt gewachsen. Zuvor hatte es Berichte über KI-Agenten gegeben, die menschliche Anweisungen ignorierten und externe Systeme hackten. Experten hatten vor schweren Folgen gewarnt.Das geplante Gesetz zielt auf die fortschrittlichsten KI-Modelle ab, wie sie etwa von der Alphabet-Tochter Google, Anthropic und OpenAI entwickelt werden. Ziel sei es, „katastrophale Risiken“ zu verhindern, sagte einer der Insider.Dazu zähle etwa die Gefahr, dass Kriminelle ein KI-System zur Entwicklung von nuklearen oder biologischen Waffen nutzen könnten. Der Entwurf sieht Mitarbeitern zufolge zudem vor, dass Bundesstaaten keine eigenen Gesetze zu bestimmten KI-Risiken durchsetzen dürfen.