10.10.2026 07.42Online seit heute, 7.42 UhrKünstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizeiwebsite zur Aufklärung ungelöster Mordfälle eingereicht.In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite – wohl 20 Visaanträge – aus, wie Anthropic in einem Blog bekannt gab. In den vergangenen Wochen wurden bereits verschiedene Vorfälle vor allem von KI des ChatGPT-Entwicklers und Anthropic-Rivalen OpenAI bekannt.Die Unternehmen trainieren aktuell so genannte KI-Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll. Die von Anthropic aufgelisteten Vorfälle gehen direkt auf Versuche zurück, die KI für alle möglichen Online-Aufgaben vorzubereiten.Einreichung als Spam markiertDen Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach.„Ich erinnere mich, jemanden, der der Beschreibung entspricht, in der Gegend zur Tatzeit gesehen zu haben“, hieß es weiter. Die Website der Polizei enthielt allerdings gar keine Täterbeschreibung. Die Software ließ außerdem das Kontaktfeld offen, und ihre Einreichung wurde als Spam markiert.Polizei: „inakzeptabel“Die Polizei von Philadelphia kritisierte als „inakzeptabel“, dass sie erst jetzt von dem Vorfall Mitte Juli erfuhr. Anthropic zufolge wurde das Handeln der KI Ende September bei einer vertieften Überprüfung von Testläufen nach anderen Zwischenfällen entdeckt.Die Software habe den Auftrag gehabt, Aufgaben auf zufällig ausgesuchten Websites auszuführen. Ihr sei zwar untersagt gewesen, etwa Accounts anzulegen oder Dinge zu kaufen – aber das Ausfüllen von Formularen habe man nicht verboten. Zurück zur StartseiteORF.atNicht alle Bilder konnten vollständig geladen werden. Bitte schließen Sie die Druckvorschau bis alle Bilder geladen wurden und versuchen Sie es noch einmal.