За окном темнеет, чай давно остыл. Агент второй час возится с вашим проектом и раз в пару минут просит разрешения. Сначала вы читаете каждую команду, потом пробегаете глазами. К десятому запросу рука сама тянется к кнопке «Разрешить». По подсчетам Anthropic, пользователи Claude Code одобряют 93% запросов на подтверждение, и компания называет это усталостью от одобрений.На проверяющего, который читает каждый запрос агента и вовремя останавливает его, рассчитывают регуляторы и вендоры. В индустрии это называют human in the loop — человек в контуре управления. Идея, что человек присмотрит, звучит как универсальная страховка, только у нее больше сорока лет истории, и началась она не с ИИ. Авиация, дороги, медицина — там уже видели, что бывает, когда надзор за автоматикой поручают человеку. Навык слабеет, а внимание уходит так, что ошибку замечают слишком поздно. С агентами та же история повторяется жестче. Вместо одного ответа они выдают цепочку действий, и проверить ее труднее. Читать далее