Дело не в мощности алгоритмов Искусственный интеллект невозможно сделать на 100 процентов предсказуемым и безопасным - этому мешают фундаментальные математические ограничения. Ученые выделяют по меньшей мере 2 предела, которые нельзя преодолеть даже при неограниченных вычислительных мощностях.Об этом информирует РБК-Украина, ссылаясь на исследование, опубликованное в Transactions of the American Mathematical Society.Что говорит математика?Первая преграда - это нехватка времени .В математике существует классическая "задача комбинаторики": воображаемой программе нужно найти кратчайший маршрут для курьера, который должен объехать несколько городов и вернуться назад.Если мост всего 10, обычный компьютер находит вариант за доли секунды.Но если городов становится 20, количество возможных комбинаций растет до 2,4 квинтиллиона, а время расчета увеличивается до 77 лет. А если мост 30, количество комбинаций достигает астрономического числа с 32 нулями (свыше 260 нонильонов).Чтобы просто перебрать все эти пути, самому быстрому компьютеру понадобится 8,4 квадриллиона лет. Это примерно в 600 тысяч раз дольше, чем существует наша Вселенная.Ни одно ускорение процессоров не способно это исправить, ведь скорость роста количества вариантов всегда опережает любые технологические достижения.Вторая преграда - это вопросы, на которые, в принципе, не существует алгоритмического ответа.Еще в 1953 году была подтверждена теорема Райса. Она говорит о том, что ни одна программа не способна автоматически проверить произвольный код и гарантировать, что он будет всегда вести себя так, как задумал автор. Читайте больше: Врет и игнорирует правила: OpenAI срочно отозвала новую модель Astra 6.1Почему это мешает сделать ИИ безопасным?Проблема выравнивания ИИ - то есть гарантия того, что система будет действовать исключительно в пользу человека и не нанесет вреда - сталкивается с обоими этими барьерами одновременно.Нехватка времени на проверку: чтобы проверить только 6 параметров безопасности с 10 вариантами настроек в каждом компьютере необходимо проанализировать миллион комбинаций.В реальных системах безопасности таких параметров гораздо больше.Невозможность точного доказательства: гарантировать, что ИИ будет вести себя безопасно при любых возможных ситуациях и командах, математически невозможно именно из-за теоремы Райса.Поэтому ученые отказались от идеи "математически доказать безопасность" и используют лишь ограниченные тесты. Больше интересного: Робот-гуманоид заплакал на публике: как Yansyn-X2 имитирует эмпатиюКвантовые компьютеры и практический компромиссКвантовые вычисления часто считают панацеей. Ученые акцентируют внимание: они лишь отодвигают стену, а не убирают ее.Так, известный квантовый алгоритм Гровера 1996 позволяет существенно ускорить поиск. Благодаря ему расчет для 20 городов сокращается с 77 лет до двух секунд, а для 30 городов - с 8.4 квадриллиона лет до шести месяцев.Однако если количество городов или параметров будет расти дальше, взрывное увеличение комбинаций снова будет опережать даже квантовые мощности.В реальной жизни подобные сложные задачи решают изменением самого подхода к слову "решение".Как именно?Логистические компании ежедневно строят детальные маршруты для тысяч грузовиков с помощью упрощенных правил: они получают маршрут, который лишь на несколько процентов отличается от идеального, но это делается в считанные секунды.Прикладной ИИ работает точно так же: разработчики строят системы, демонстрирующие высокую эффективность, не предоставляя при этом абсолютных математических гарантий.Более совершенная модель ИИ не меняет законов математики - она просто делает свои приблизительные догадки значительно точнее.Еще больше интересного:Выдержал вирусы и кибератаки: Китай создал первого в мире автономного гуманоидаВпервые в истории квантовый компьютер успешно заработал в космосе