Claude отправил Департаменту полиции Филадельфии ложную информацию о нераскрытом убийстве

Wait 5 sec.

В июле Anthropic тестировала модель Claude Haiku 4.5. ИИ было дано указание выполнять задания на случайных сайтах, и в ходе одного из запусков модель попала на страницу Департамента полиции Филадельфии, посвящённую нераскрытому убийству.На странице находилась форма для отправки информации для возможных свидетелей. Воспользовавшись ей, Claude написал, что видел подозреваемого на месте преступления. Читать далее