Последнее время, наверное, ни один более-менее адекватный специалист в области ИИ не проходит мимо разговоров о том, насколько всё это опасно. То одна модель "сошла с ума", то другая начала убеждать живого человека в чём- то странном, то кто-то всерьёз заговорил про экзистенциальную угрозу человечеству. Я тоже как-то подустал от этого информационного шума, но одна мысль не давала покоя: а что, собственно, мы предлагаем взамен? Красивые лозунги "сделайте ИИ добрым" явно недостаточно, а на практике что?Когда заходит речь о "безопасном искусственном интеллекте", первое, что вспоминают - это три закона робототехники Азимова. Красиво, правильно, звучит убедительно. Но на практике они однозначно неприменимы, и дело даже не в том, что они "устарели" - они просто не работают как алгоритм. Закон "не причиняй вреда человеку" в реальности упирается в неразрешимые противоречия. А если спасти одного человека можно только ценой гибели другого? А если "вред" наступит через десять шагов логического вывода, который робот ещё даже не сделал? Сам Азимов сто раз на этом играл в своих рассказах - законы постоянно конфликтуют друг с другом, и это не баг, а фича сюжета. Но нам-то нужна не фича сюжета, а рабочая система принятия решений. И вот тут начинаешь понимать, что декларации не спасают.Так и родилась идея, которую я в итоге оформил в виде скилла DOF-Core (Degrees of Freedom - степени свободы). Базовый принцип даже не мой - я о нем читал лет 10 назад и он меня впечатлил. Ниже расскажу, как устроена эта идея и почему мне кажется, что математика тут важнее хороших намерений. Читать далее