Саммер Ю, директор по ИИ-безопасности фирмы, которую нельзя называть, по собственному признанию, совершила дилетантскую ошибку. Экспериментируя с OpenClaw, Саммер дала ИИ-агенту доступ к её почтовому ящику, и агент начал удалять старые сообщения.Саммер Ю тут же написала об инциденте в соцсети, к которой у нас не должно быть доступа.Саммер проинструктировала агента оценить размер почтового ящика и предложить действия по очистке или архивации, ничего не предпринимая без явного одобрения со стороны человека. На тестовых почтовых ящиках всё работало отлично, но её реальный инбокс был настолько большим, что в процессе выработки стратегии очистки все последующие инструкции агента оказались вытеснены из контекстного окна, и агент немедленно приступил к действию.Агент успел удалить значительную часть сообщений, пока не был выключен физически. Читать далее