Понтифик подчеркивает приоритет человеческого достоинства над алгоритмами Первая энциклика Папы Римского Льва XIV Magnifica Humanitas стала мощным сигналом для технологического мира: церковь вмешивается в дискуссию о будущем человечества в эпоху ИИ. В 200-страничном тексте Папа очерчивает риски, связанные с неравенством, войной и "эрозией демократии", предлагая взамен концепцию "цивилизации любви", где технологии служат "всеобщему благу".Об этом пишет РБК-Украина, ссылаясь на текст энциклики Magnifica Humanitas.Больше интересного: Религия хочет влиять на разработку ИИ: позиция Anthropic и OpenAIФилософия "разоружения" технологийКлючевым термином энциклики является "разоружение" искусственного интеллекта. Папа Лев XIV сознательно использует такое выражение, чтобы привлечь внимание к тому, что ИИ не должен становиться инструментом исключения или насилия.Понтифик отмечает, что ИИ-системы лишь имитируют определенные функции человеческого разума: они могут превосходить человека в скорости вычислений, но не имеют тела, не чувствуют радости или боли, не способны на любовь, дружбу или моральные суждения.Предостерегая от преувеличения понятия "интеллекта" в алгоритмах, Лев XIV подчеркивает, что техническая мощь без мудрости и эмоций делает человека более изолированным и уязвимым.Критика элит и концентрации властиДокумент содержитострую критику монополизации инфраструктуры, алгоритмов и патентов узким кругом технологических элит. Папа сравнивает сбор данных о здоровье, генетических карт и демографической информации с "новыми редкими землями" колониальных эпох.Понтифик отмечает, что власть, сосредоточенная в руках немногих, становится непрозрачной и избегает общественного контроля, а это создает риски манипуляции информацией и влияния на демократические процессы.Лев XIV также выступил за прекращение "гонки вооружений", где компании и государства стремятся к доминированию, и призвал к разработке инструментов регулирования, основанных на справедливости и привлечении общин.Путь к "цивилизации любви"Несмотря на критику, Ватикан не выступает против прогресса. Наоборот, церковь уже использует ИИ для перевода богослужений.Лев XIV предлагает пять путей к построению "цивилизации любви":"Разоружение" языка вражды,Построение мира через справедливость,Принятие позиции жертв,Культивирование реализма,Возрождение многовекторного сотрудничества.Вдохновившись словами Гэндальфа из произведений Дж. Р. Р. Толкина, Папа призывает делать "малые и непоколебимые акты верности", которые будут служить защитой от дегуманизации.Взгляд изнутри: комментарий AnthropicСоучредитель Anthropic Кристофер Ола назвал энциклику "чрезвычайно своевременной". Он выделил три ключевых вызова, над которыми индустрия ИИ должна работать вместе с лидерами мнений:Глобальное неравенство - как обеспечить справедливое распределение преимуществ ИИ, чтобы они не сосредотачивались только в богатых странах.Моральное воображение - определение того, что означает процветание для семей в частности и человечества в целом в условиях массового внедрения ИИ.Дискернирование - изучение внутренней структуры больших языковых моделей.Ола признался, что ученые находят в нейросетях "таинственные и тревожные" состояния, которые функционально напоминают страх, удовольствие или печаль. По мнению соучредителя Anthropic, это требует "постоянного морального контроля".Примечательно, что Папа принял приглашение Ола "идти вместе", чтобы найти путь для человечества в эпоху искусственного интеллекта. В то же время понтифик призвал правительства гарантировать, что окончательные решения - особенно в отношении оружия - будут оставаться за людьми.Еще больше интересного:Ученые приблизили возвращение вымерших видов: чем удивляет новая технологияChatGPT помог спланировать массовое убийство? В США начато расследование против OpenAI