09.10.2026 11.37Online seit heute, 11.37 UhrDas KI-Unternehmen Anthropic hat neue Vorgaben zum Umgang mit seinem Chatbot Claude gemacht. In den aktualisierten Nutzungsbedingungen verankerte Anthropic gestern ein „Verbot von anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten gegenüber unseren Modellen“.Claude werde den Chat mit Nutzerinnen und Nutzern beenden, falls diese gegen die Vorgaben verstoßen. Bereits im vergangenen Jahr hatte Anthropic erklärt, dass Claude in die Lage versetzt werde, Gespräche in seltenen und extremen Fällen von „anhaltend schädlichen oder beleidigenden Nutzerinteraktionen“ zu beenden.Die Maßnahmen erfolgen vor dem Hintergrund einer Debatte darüber, ob KI-Modellen ein eigenes Bewusstsein zugeschrieben werden kann. Er wisse nicht, ob das der Fall sei, hatte Anthropic-Chef Dario Amodei heuer gesagt. „Aber wir sind offen für die Idee, dass das der Fall sein könnte.“Andere lehnen eine solche Vorstellung ab. Der KI-Chef von Microsoft, Mustafa Suleyman, schrieb kürzlich in einem Essay, KI-Modelle „fühlen nicht, erleben nichts und leiden nicht“. Es sei falsch, ihnen „Rechte und moralischen Schutz“ zu gewähren.