Откладывать деньги на пенсию — значит заботиться о будущем. Однако директор Института исследований машинного интеллекта (Machine Intelligence Research Institute) Нейт Соарес не уверен, что искусственный интеллект позволит нам дожить до этого будущего. "Сейчас я не откладываю деньги на пенсию. У меня есть накопительный пенсионный счет 401(k), открытый еще во время моей работы в Google, но я не пополнял его уже десять лет", — рассказал Соарес генеральному директору издания The Atlantic Николасу Томпсону в недавнем интервью для серии "Самое интересное в сфере ИИ". ИноСМИ теперь в MAX! Подписывайтесь на главное международное >>> Решение Соареса связано с его пессимистичным отношением к гонке в области искусственного интеллекта. "Крестный отец ИИ" Джеффри Хинтон считает, что с вероятностью 10% ИИ может уничтожить все человечество в ближайшие десять лет. Исследователь компании Anthropic Эван Хубингер оценивает такую возможность в более чем 10%. Соарес настроен еще более пессимистично. В разговоре с Томпсоном он заявил, что, по его мнению, вероятность гибели человечества из-за ИИ в ближайшие десять лет превышает 50%. Соарес стал соавтором книги "Если кто-то создаст это, все умрут" (If Anyone Builds It, Everyone Dies). Более 12 лет он занимается исследованиями в области проблем контроля искусственного интеллекта (AI alignment). Цель этого направления – гарантировать, что мощные системы искусственного интеллекта работают так, как задумано. До прихода в Институт исследований машинного интеллекта (MIRI), некоммерческую организацию в Беркли, которая специализируется на изучении рисков, связанных с ИИ, Соарес работал инженером в Google и Microsoft. По словам специалиста, достаточно развитый искусственный интеллект может выработать цели, противоречащие интересам человечества, уклоняться от контроля, совершенствовать самого себя и создавать автоматизированную инфраструктуру, необходимую для функционирования без участия людей. Как объяснил Соарес, после этого ИИ сможет изменить планету в соответствии с собственными целями, возможно, сделав ее непригодной для жизни людей. Об этом он рассказывал изданию Business Insider еще в прошлом году. Сигнал Вашингтона руководителям ИИ-компаний: просто заткнитесь Пенсионные накопления на случай апокалипсиса? Вопрос о том, как искусственный интеллект изменит будущее, заставил даже Илона Маска усомниться в том, понадобятся ли вообще пенсионные накопления. Однако представления Маска о будущем радикально отличаются от взглядов Соареса. В январе генеральный директор Tesla и SpaceX заявил, что людям не стоит беспокоиться и "откладывать деньги на пенсию" на ближайшие 10–20 лет. По его прогнозам, достижения в области ИИ, робототехники и энергетики сделают пенсионные накопления "неактуальными". Однако эксперты по личным финансам и специалисты по искусственному интеллекту, опрошенные Business Insider, придерживаются противоположного мнения. По их мнению, откладывать деньги на пенсию все так же необходимо. Маск заявлял, что резкий рост производительности может привести к наступлению эпохи изобилия, когда каждый человек получит доступ ко "всеобщему высокому доходу", недорогим товарам и услугам, а также к более качественному здравоохранению и образованию. Он также полагает, что в будущем деньги будут не так важны, поскольку искусственный интеллект и роботы будут превосходить людей практически во всех видах деятельности. Для Соареса же перспектива появления ИИ, обладающего колоссальными возможностями, представляет собой угрозу существованию человечества, а не путь ко всеобщему изобилию. Соарес поддержал призывы представителей технологической отрасли "сдерживать темпы развития передовых ИИ-систем". По его словам, правительства должны приостановить обучение универсальных систем искусственного интеллекта. Вместо этого следует сосредоточиться на разработке технологий для конкретных задач, таких как исследования в области лечения рака и создание более безопасных беспилотных автомобилей. В интервью, которое Соарес дал Томпсону, он отметил, что решение проблемы заключается в следующем: "Не создавать то, что может убить всех". "Я делаю все, что в моих силах, чтобы не допустить такого развития событий, — сказал Соарес. — Не думаю, что такой поворот неизбежен".