09.09.2026 12.04Online seit heute, 12.04 UhrEin Forscher der KI-Firma Anthropic ist mit einer drastischen Warnung zurückgetreten: Die großen Entwickler künstlicher Intelligenz (KI) handelten unverantwortlich „und spielen mit unseren Leben“.Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon gestern auf der Onlineplattform X. KI würde dann „alles hacken können“ und die Möglichkeit haben, sich „Zugang zu echter Macht und Ressourcen“ zu verschaffen.„Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, warnte Coxon. Als eine zentrale Gefahr sieht er KI, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich glaube, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.Zuvor mahnte auch der Forschungschef des ChatGPT-Entwicklers und schärfsten Anthropic-Rivalen OpenAI, Jakub Pachocki, „extreme Vorsicht“ ein. Er sei besorgt, dass niemand auf eine rapide Weiterentwicklung der Fähigkeiten von KI vorbereitet sei, schrieb Pachocki in einem Blogeintrag. Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.Zugleich sieht Pachocki ein Argument für die Fortsetzung rapider Forschung: künstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen könnte. Man werde sie unter anderem brauchen, um Infrastruktur zu schützen und ganz neue Verteidigungsmechanismen zu entwickeln. Zurück zur StartseiteORF.atNicht alle Bilder konnten vollständig geladen werden. Bitte schließen Sie die Druckvorschau bis alle Bilder geladen wurden und versuchen Sie es noch einmal.