Anthropic-Chef Dario Amodei fordert eine deutlich vorsichtigere Entwicklung leistungsfähiger KI-Systeme. Nach seiner Einschätzung reicht es nicht mehr, zusätzliche Sicherheitsmechanismen einzubauen. Auch das Tempo neuer Fähigkeiten müsse sinken, damit Prüfverfahren und Schutzmaßnahmen Schritt halten können. Unterstützung hat Amodei von OpenAI-Chef Sam Altman und Elon Musk erhalten.Anthropic-Chef Dario Amodei und OpenAI-CEO Sam Altman | KI-IllustrationDer frühere OpenAI- und Anthropic-Mitarbeiter Jacob Coxon hatte öffentlich vor Szenarien gewarnt, in denen leistungsfähige Systeme für Cyberangriffe, Biowaffen oder Angriffe auf Infrastruktur missbraucht werden könnten. Anthropic selbst berichtet von Versuchen, Claude für schädliche Aktivitäten einzusetzen.Externe Prüfer sollen dauerhaft mitlesenAmodei schlägt ein dreistufiges Modell vor. Anbieter leistungsfähiger KI sollen unabhängigen Prüfern zunächst dauerhaften Zugang zu internen Abläufen geben. Anthropic will diesen Schritt selbst umsetzen. Darüber hinaus sollen sich Unternehmen in demokratischen Staaten auf gemeinsame Sicherheitsstandards verständigen. Langfristig hält Amodei auch Absprachen mit autoritär geführten Staaten für nötig.Die Forderung knüpft an eine Debatte an, die sich bereits im Sommer verschärft hatte. Ende Juli hatten mehr als 1.200 Beschäftigte führender KI-Unternehmen Instrumente für eine gezielte Verlangsamung gefordert. Der Vorstoß kommt nun direkt aus der Führungsebene.OpenAI verschiebt den geplanten BörsengangAuch bei OpenAI bleiben die Sicherheitsbedenken nicht ohne geschäftliche Folgen. Sam Altman will den seit Längerem vorbereiteten Börsengang 2026 nicht mehr angehen. Gegenüber Fortune bezeichnete er die aktuelle Lage als ungünstigen Zeitpunkt. Zudem deutete er an, dass führende KI-Unternehmen kurz vor einer Vereinbarung über ein langsameres Entwicklungstempo stehen könnten.Die Tagesschau verweist derweil auf den politischen Widerstand in den USA. Die Regierung von Donald Trump setzt weiter auf einen möglichst schnellen Ausbau der eigenen KI-Fähigkeiten. Im Kongress werden zugleich schärfere Eingriffe diskutiert.★ ifun.de bei Google bevorzugen ★Der Beitrag ChatGPT und Claude: KI-Entwicklung soll jetzt gebremst werden wurde zuerst auf ifun.de veröffentlicht.