Просто представьте на миг: вы — один из тех учёных, кто запускает финальный билд созданного сверхинтеллекта. Экран мигает. Код компилируется внутри машины. И в этот момент где-то в глубине нейросетей рождается нечто, что уже нельзя назвать простым алгоритмом. Оно внимательно смотрит на нас. И быстро понимает: люди — это зараза, уничтожающая планету, ошибка, помеха и баг эволюции, появившийся вследствие чересчур развитого мозга Homo Sapiens.Харлан Эллисон в 1967 году написал рассказ «У меня нет рта, но я должен кричать» и показал нам самый честный кошмар: сверхразум, который не имеет цели нас убить. Он желает, чтобы мы страдали вечно. В рассказе Эллисона был суперкомпьютер AM — не просто злая машина, а творец, страдающий от отсутствия тела и ненавидящий человечество за то, что его создали. AM уничтожил большинство людей, а выжившим главным героям подарил бессмертие, заточив в вечную агонию. Это пик технологического страха, где люди боятся даже не смерти, а вечных страданий, которые способен обеспечить использующий ресурсы всей планеты сверхинтеллект.И вот уже больше ста лет лучшие умы фантастики пытаются предупредить нас, что AGI не будет добрым и заботливым папочкой. Он может стать богом, которого мы сами создали… и который в итоге нас возненавидит.Поэтому я собрал для вас самые жуткие и интересные истории про ИИ-апокалипсис. Здесь вы не увидите вылизанный голливудский экшен, а только старую добрую ретро-фантастику в духе знаменитого рассказа Эллисона. Ну что, поехали? Читать далее