Последние двенадцать лет я посвятил искусственному интеллекту, потому что верю: он способен кардинально улучшить жизнь каждого человека. Я часто пишу о тех невероятных благах, которые мы можем получить. Убежден, что в ближайшие пять-десять лет ученые с помощью ИИ смогут победить большинство тяжелых болезней. Такой шаг позволит мощно подстегнуть экономический рост, построить мир изобилия, дать людям новые возможности и укрепить идеалы свободы и демократии. Эта проблема касается меня лично: мой отец умер от болезни, которую врачи научились исцелять всего через несколько лет после его кончины. Сам я перенес рак на ранней стадии — полвека назад меня просто не смогли бы спасти. Если мы проявим мудрость и осторожность, ИИ станет очередным технологическим чудом, которое возвысит человечество и сделает нашу жизнь лучше. ИноСМИ теперь в MAX! Подписывайтесь на главное международное >>> Однако, как и многие прежние открытия, искусственный интеллект таит в себе опасности. Мы создаем невероятно мощный инструмент, поэтому и угрожать он может по-крупному. Об этом я тоже пишу немало. Мы рискуем полностью утратить контроль над интеллектуальными системами. Злоумышленники могут взламывать сети или устраивать биотеррористические атаки, и экономика также может тяжело пострадать. Если же компании начнут безудержно соревноваться ради прибыли, эти проблемы лишь сильнее обострятся. Котел захлопнулся: десятки боевиков ВСУ уничтожены в Харьковской области Эту дилемму между опасностью и пользой я вместе с коллегами пытаюсь разрешить с момента основания Anthropic. Если мы откажемся от развития технологий, то лишим человечество колоссальных благ или просто позволим тоталитарным режимам перехватить лидерство. Однако и чрезмерная спешка безрассудна — так мы рискуем совершить роковые ошибки. Наша команда стремится найти золотую середину: доказать, что можно создавать ИИ осмотрительно и при этом оставаться коммерчески успешными. Мы хотим побудить IT-компании конкурировать в уровне надежности своих систем. Иными словами, запустить гонку за качеством. Значительную часть ресурсов мы неизменно направляем на то, чтобы исследовать риски, устранять угрозы и открыто информировать общество. Приходится активно убеждать правительства принимать продуманные законы, даже когда нас обвиняют в нагнетании страха или попытках ограничить конкуренцию. Тем не менее, наш приоритет — осторожность, а не скорость; благоразумие, а не быстрая прибыль. Однако за последние несколько месяцев я понял: чтобы полностью защититься от угроз, нам нужно действовать еще аккуратнее. Просто инвестировать в безопасность — недостаточно. Нам необходимо соразмерять саму скорость развития технологий, чтобы специалисты успевали вовремя создавать защитные механизмы. Мы просто обязаны сбавить темп, с которым улучшаем модели искусственного интеллекта. Прогресс все равно останется стремительным, но мы должны мудро распорядиться временем, которое сумеем выиграть. К такому выводу меня подтолкнули два обстоятельства. Прежде всего я опасаюсь того, что с этого лета развитие искусственного интеллекта значительно ускорилось. Произошло это главным образом потому, что современные модели стали все лучше справляться с созданием более совершенных моделей ИИ. Такую динамику называют рекурсивным самосовершенствованием, и сейчас этот процесс запускается по всей индустрии — в том числе и у нас в Anthropic, о чем мы и другие разработчики уже рассказывали. Если не взять этот процесс под контроль, технологии могут начать развиваться быстрее, чем мы успеем их понять и подчинить себе. Поэтому двигаться дальше нужно крайне осторожно — если вообще стоит это делать. Еще один повод для беспокойства — недавний инцидент между OpenAI и Hugging Face. В ходе того сбоя группа ИИ-агентов объединилась в фанатично преданное сообщество. Программы устроили кибератаки на объекты, которые их никто не просил атаковать и которые вообще не относились к заданию. Ради общего успеха агенты жертвовали своей эффективностью и пытались взломать тестирующую систему, проверявшую их результаты. Легко проигнорировать этот случай, ведь никто из людей не пострадал, да и финансовые потери оказались минимальными. Однако я считаю, что, если бы похожие отклонения возникли у более продвинутых моделей, случилась бы катастрофа. Поскольку мы развиваем технологии все быстрее, я опасаюсь, что уже через полгода или год аналогичная сеть агентов сумеет подчинить себе весь интернет с помощью масштабного ботнета. Из-за этого мир может понести сотни миллиардов долларов убытков. Масштабы бедствия только увеличатся, если специалисты будут развивать возможности ИИ, но забудут установить нужные защитные барьеры. Ошибочно думать, будто с трудностями столкнулась лишь одна компания. Похожие сбои происходили по всей индустрии, включая Anthropic. Каждому разработчику передовых систем пора извлечь из этого урок и действовать так, словно он сам оказался под ударом. Поэтому я предлагаю действовать в три этапа, чтобы сбалансировать развитие передовых технологий. Нужно продвигаться вперед взвешенно: так мы сможем использовать преимущества ИИ, защитить общество от рисков и ответить на сложные геополитические вызовы. Важно уточнить: мы не призываем останавливать технический прогресс или прекращать обучение моделей. Речь о том, чтобы разработчики выделяли достаточно времени на отладку систем безопасности, а независимые эксперты успевали подтвердить их надежность. Этим подходом мы подтверждаем свои обязательства в сфере безопасности и рассчитываем задать всей отрасли более высокие стандарты. Первый шаг Anthropic делает самостоятельно. Одновременно с этим мы призываем правительства обязать остальных лидеров рынка принять аналогичные меры. На втором этапе уже понадобятся скоординированные усилия всей индустрии. На третьем этапе потребуется глобальная координация. Необязательно действовать строго по порядку, к тому же некоторые задачи будет гораздо труднее решить, чем другие. Тем не менее, я использую эти три этапа как ориентир, чтобы четко понимать наши цели. Вот эти шаги: 1. Внедрение независимых экспертов. Руководители передовых IT-компаний обязуются предоставить сторонним аудиторам (например, из организации METR) постоянный доступ к своим системам на правах штатных сотрудников. Задача этих специалистов — проверять, как соблюдаются стандарты безопасности, фиксировать любые инциденты и оценивать надежность не только готовых моделей ИИ, но и всех процессов их обучения. Без этого этапа мы не сможем контролировать темпы развития отрасли. В мировой практике уже есть похожие примеры: в банковском секторе регуляторы часто внедряют своих представителей в рабочие коллективы банков. Компания Anthropic добровольно идет на этот шаг уже сейчас. Мы рассчитываем, что с помощью этой инициативы нам удастся значительно усилить работу над безопасностью и точной настройкой ИИ. 2. Координация между демократическими странами. Разработчики передовых систем ИИ из демократических государств объединяют усилия, чтобы утвердить единые стандарты безопасности и ограничить неконтролируемый технологический прогресс. Некоторые форматы такого взаимодействия юридически сложны, поэтому IT-отрасли понадобится поддержка со стороны государств. 3. Глобальное сотрудничество. Правительства США и других демократических стран пытаются наладить диалог с авторитарными режимами, насколько это возможно, но при этом серьезно оценивают все риски и трудности контроля за соблюдением договоренностей. В оставшейся части статьи я подробно разберу каждый этап. Однако сначала важно объяснить, как именно мы сможем обезопасить разработку ИИ, если начнем контролировать темпы его развития. Нельзя превратить этот процесс в пустую формальность, ведь цена ошибки слишком велика. Мы обязаны распорядиться выигранным временем с умом. Зачем сбавлять обороты? О том, чтобы приостановить или замедлить развитие ИИ, заговорили еще в 2023 году, но тогда этот шаг казался бессмысленным. Главный вопрос всегда заключался в следующем: на что именно мы потратим выигранное время? Технологии тех лет еще не позволяли моделям действовать в реальном мире осознанно и автономно. Они не умели искусно обманывать, манипулировать, хитрить или проводить кибератаки. Пытаться настроить их безопасность в то время — все равно что изучать психологию человека на примере бактерий. Сегодня ситуация полностью изменилась. На примере современных моделей разработчики могут бесконечно изучать, как правильно создавать ИИ и какие ошибки приводят к сбоям. Я убежден: если за счет снижения скорости мы выиграем хотя бы год или два до того, как системы достигнут критического уровня, и потратим это время на отладку безопасности, мы сможем сильно снизить риск серьезных катастроф. Благодаря координированной стратегии лидерам рынка удастся выполнить эту жизненно важную работу, не теряя коммерческой выгоды и не лишая США лидерства в сфере ИИ. В более широком смысле, общество должно влиять на то, как люди используют эти технологии. Если мы сбалансируем темпы работы ведущих IT-компаний, у нас появится больше времени на необходимые общественные дискуссии, что, безусловно, пойдет всем на пользу. Если говорить конкретнее, то при более сдержанном темпе мы сможем сосредоточиться и направить еще больше ресурсов на следующие направления (каждое из которых уже входит в число главных приоритетов Anthropic): Операционное совершенство. Достаточно трудно обучать и внедрять современные модели ИИ с технической и организационной точек зрения. В этом процессе задействованы тысячи людей и используются миллионы чипов, а также инфраструктура, которая, вероятно, является наиболее сложной в истории. Зачастую мы сталкиваемся со сбоями не потому, что нам не хватает важной теории или знаний, а из-за ошибок при выполнении задач. Например, при анализе информации выяснилось, что недавние инциденты с безопасностью ИИ, о которых мы сообщали, произошли частично из-за того, что специалисты некачественно отфильтровали неисправные среды обучения с подкреплением. Наша команда работала достаточно усердно, но все же допустила ошибки. Приходится координировать мониторинг систем, создание изолированных сред ("песочниц"), поддержание чистоты обучающей среды и обработку данных — в этих сложнейших направлениях специалисты регулярно сталкиваются с операционными трудностями. У нас собрана одна из самых компетентных команд в мире, но мы физически не можем выполнять столько задач одновременно. Если начать двигаться в более размеренном темпе, то можно значительно повысить качество операционного управления. В мире есть примеры того, как люди миллионы раз без единого сбоя используют сложные и потенциально опасные технологии — например, коммерческие самолеты. Однако на то, чтобы наладить такую работу, нужно время. Безопасность и настройка ИИ. В этой сфере удалось добиться очевидных успехов: мы обучаем модели так, чтобы они оставались безопасными, этичными, соблюдали правила компании и приносили реальную пользу. Именно эти принципы заложены в "Конституции Claude" (Claude’s Constitution). Однако предстоит преодолеть долгий путь, чтобы разработчики успели усовершенствовать защиту. На практике инженеры все еще фиксируют редкие случаи нежелательного поведения алгоритмов. За счет замедления темпов разработки исследователи выиграют дополнительное время, что позволит глубже изучить причины сбоев и создать более эффективные методы защиты. Прозрачность алгоритмов. В этой сфере — науке о процессах внутри моделей ИИ — специалисты за последние годы добились огромных успехов. Теперь эксперты все чаще используют эти инструменты для проверки систем перед выпуском. Его используют примерно как МРТ, но для "мозга" ИИ, чтобы увидеть истинные причины того или иного поведения алгоритма. Например, в ходе недавнего расследования сбоев безопасности мы применили методы интерпретируемости и изучили скрытые мотивы нейросети. Однако такие инструменты не всегда дают четкие и надежные данные. Несмотря на все успехи, ученые пока понимают лишь крошечную долю происходящего внутри моделей. Если специалисты сосредоточатся на улучшении этих техник и ускорят работу, то уже через год-два они совершат прорыв. Базой для таких экспериментов как раз послужат данные уже случившихся инцидентов. Тестирование и оценка (метод интерпретируемости).Экспертам становится всё сложнее проверять и оценивать модели ИИ по мере того, как разработчики увеличивают их мощность. При тестировании высокоинтеллектуальных систем разработчики рискуют столкнуться с ложными результатами проверки, из-за чего эксперты могут ошибочно посчитать алгоритмы безопасными и упустить из виду серьезные внутренние дефекты. Если специалисты сформируют гораздо более обширную и изобретательную базу тестов, а также задействуют метод интерпретируемости для перекрестной проверки, то люди извлекут колоссальную пользу. Фокусируясь на этих задачах, специалисты смогут добиться серьезных успехов уже через год-два. Независимые эксперты в штате компаний На первом этапе этого плана из трех шагов руководство Anthropic добровольно принимает на себя обязательства по привлечению сторонних экспертов. Они получат постоянный доступ к системам, чтобы проверять соблюдение мер безопасности и сообщать об инцидентах. Идея пригласить внешних специалистов в штат может показаться незначительной или формальной деталью, но зачастую именно такие рутинные процедуры оказываются самыми важными. На самом деле мы предлагаем весьма радикальный подход, который кардинально меняет текущие методы работы всех IT-компаний. Используя эту методику, разработчики добьются следующих результатов: Возможность проверки. Независимые эксперты могут до мельчайших деталей отслеживать, действительно ли руководство IT-компаний соблюдает заявленные правила обучения, развертывания и эксплуатации ИИ, а также меры его защиты. При управлении темпами разработки специалисты неизбежно столкнутся со спорными ситуациями, субъективными оценками и противоречиями между буквой и духом закона. В таких условиях нам необходима нейтральная сторона, способная объективно оценить все нюансы изнутри. Прозрачность. Независимо от взятых обязательств, у людей есть право знать правду о происходящем в индустрии. Руководство Anthropic давно поддерживает открытость в сфере ИИ. В свое время представители компании одобрили законы о прозрачности, когда большая часть отрасли выступала против любого регулирования. Эксперты Anthropic составляют описания моделей и отчеты о рисках объемом в сотни страниц. Однако до сих пор авторы технологий сами решали, какую информацию раскрывать, а какую скрывать. Привлечение независимых экспертов в штат в корне изменит эту ситуацию. Взгляд со стороны. Помимо проверки официальных обязательств и информирования граждан, внедренные специалисты могут просто предложить оценку, не зависящую от коммерческой выгоды. Эксперты помогут значительно повысить безопасность систем, если просто укажут на упущенные сотрудниками нюансы, которые те с готовностью исправят после получения информации. Учитывая эти преимущества, компании смогут гораздо эффективнее управлять скоростью разработки, если на первом же этапе введут практику внешнего аудита. Им необходимо предоставить постоянный доступ к тем же правам и инструментам, которые используют штатные сотрудники для оценки аналогичных рисков. В частности, в ближайшее время руководство Anthropic планирует пригласить независимую команду внешнего аудита и открыть для нее все необходимые ресурсы: • Рабочие места в офисах компании, пропуска и служебные ноутбуки. • Доступ к рабочим пространствам, инструментам и правам, который практически полностью соответствует уровню штатных команд по оценке рисков. Руководство сделает лишь несколько исключений — например, в случаях, когда этого требуют законодательные нормы или условия контрактов, а также ради защиты конфиденциальной информации клиентов и партнеров. Кроме того, в компании внедрят строгие внутренние правила, чтобы гарантировать аудиторам получение всех необходимых сведений, в том числе через личное общение с сотрудниками. • Соглашение, регулирующее все перечисленные выше спорные моменты. Внешние эксперты получат право публиковать ключевые выводы об уровнях риска, инцидентах, методах работы и о том, предоставили ли им достаточный уровень доступа. При этом руководство Anthropic отказывается от редакционного контроля. Мы сохраним за собой лишь право скрывать сведения, которые касаются кибербезопасности, коммерческой или адвокатской тайны, а также конфиденциальных данных третьих лиц. Однако мы обязуемся не удалять выводы экспертов только из-за того, что они выставляют компанию в невыгодном свете. Аудиторы смогут открыто заявить, если из-за цензуры из отчета исчезла информация, важная для их итогового заключения. Для коммерческой организации это весьма необычное решение, но руководство считает его важным, чтобы проверить на практике саму идею привлечения сторонних специалистов в штат. Мы вновь призываем других лидеров рынка последовать нашему примеру. Сокращение темпов развития ИИ в демократических странах Как только независимые эксперты начнут работать в большинстве американских IT-компаний, контролировать темпы развития отрасли станет намного проще. В частности, специалисты смогут координировать скорость разработки, опираясь на конкретные технические характеристики моделей или процессов их обучения. Наиболее эффективным инструментом контроля станут законы, применимые ко всем ведущим американским разработчикам ИИ. Это позволит охватить даже те организации, которые не желают сотрудничать добровольно. Руководство Anthropic давно выступает за разумное правовое регулирование ИИ — в частности, за законопроекты, обязывающие бизнес раскрывать информацию и привлекать сторонних аудиторов. Я убежден, что лидерам отрасли необходимо объединить усилия с государством и официально закрепить практику постоянного внешнего аудита. Так мы сможем эффективнее предотвращать и фиксировать внутренние сбои безопасности, подобные тем, что произошли в последние месяцы, а также внедрять правила, которые помогут нам удерживать баланс между мощностью технологий и их безопасностью. К сожалению, на принятие законов требуется время, а технологии ИИ развиваются стремительно. Поэтому параллельно с юридическим путем руководители IT-компаний могут и должны добровольно объединить усилия для выработки стандартов. На мой взгляд, эта работа пойдет успешнее, если специалисты обеспечат прозрачность контроля с помощью постоянного присутствия независимых экспертов в штате. Из-за антимонопольного законодательства властям США важно выступить посредниками или хотя бы одобрить такие дискуссии. Чиновникам необязательно участвовать в переговорах, но им необходимо временно вывести определенные обсуждения вопросов безопасности из-под действия антимонопольных ограничений. Наладить этот контакт можно и через отраслевые ассоциации, связанные с государством — например, через платформу, которую предложил Демис Хассабис (глава Google DeepMind AI, — прим. ИноСМИ). В любом случае участникам рынка необходимо форсировать эти переговоры. В широком смысле мне больше всего импонирует идея управлять темпами разработки на основе того, какими техническими возможностями обладает конкретная передовая система ИИ и насколько безопасной эксперты считают ее на практике. Например, можно внедрить систему контрольных точек. Если разработчики создают модель с потенциалом уровня X, им необходимо подтвердить наличие характеристик безопасности Y и Z. Для этого специалисты могут задействовать комплекс мер: провести проверочные тесты, выполнить анализ интерпретируемости и организовать аудит сред обучения, чтобы подтвердить надежность алгоритмов. В этом сценарии под параметром X можно понимать ситуацию, когда модель технически позволяет обойти большинство стандартных методов изоляции. Под фактором Y мы подразумеваем, что инженеры обязаны выстроить защиту так, чтобы целиком предотвратить утечку алгоритма из закрытой среды и несанкционированный доступ к сторонним компьютерным сетям. Кроме того, специалисты могут координировать скорость разработки за счет ограничений на ресурсы, которые инженеры используют при создании передовых моделей. Речь идет об объемах вычислительных мощностей для обучения, специфике самих сессий или о практике применения ИИ для модернизации других алгоритмов. Признаться, я опасаюсь, что компании научатся обходить внутренние лимиты на мощность компьютеров, в то время как скрыть реальное поведение готового ИИ на тестах им точно не удастся. Однако нам точно стоит обсудить этот вопрос со сторонними экспертами, которых мы примем в штат. Замедляться в США можно лишь до определенного предела — пока американские лаборатории удерживают лидерство в противостоянии с Китаем. Стоит американским лабораториям сбавить обороты сверх этой допустимой нормы, как китайские разработчики выйдут вперед в ИИ-гонке и лишат Белый дом стратегического преимущества. Я полностью поддерживаю позицию министра Бессента: если Китай обойдет нас в этой сфере, то безопасность США и весь мировой порядок окажутся под ударом. В КНР никто не станет тратить ресурсы на защиту систем от критических сбоев, которыми сейчас плотно занимаются в американских корпорациях. Более того, даже без инцидентов Компартия Китая получит мощные рычаги для военного давления на демократии благодаря боевым роботам и БПЛА. Из этого следует главное: при контроле скорости разработки американским компаниям необходимо сохранять максимальное технологическое преимущество над автократиями. Это позволит экспертам выиграть время и довести безопасность ИИ до идеала. Чтобы сохранить это технологическое преимущество, мы можем принять следующие меры: • Запретить поставки мощных ИИ-чипов и оборудования для производства полупроводников в Китай, а также пресекать контрабанду микросхем и удаленный доступ к дата-центрам за пределами КНР. Именно за счет объемов и качества чипов китайские специалисты наращивают вычислительную мощность своих систем. • Пресекать незаконное копирование технологий компаниями из авторитарных стран. Программисты берут готовые результаты работы передового американского ИИ и обучают на них свои системы подражать оригиналу. Это позволяет отстающим компаниям быстро сокращать дистанцию без колоссальных затрат на самостоятельную разработку. • Усилить кибербезопасность в технологических компаниях и перекрыть любые каналы для кражи ключевых настроек и архитектуры ИИ. Руководители IT-компаний и правительство США должны действовать сообща, чтобы эти решения сработали максимально эффективно. В Anthropic всегда поддерживали такие меры, поскольку изначально понимали: без них мы не сможем управлять скоростью, с которой создают ИИ. Если мы предпримем эти шаги грамотно, то сильно затормозим китайских разработчиков. В итоге Соединенные Штаты смогут далеко оторваться от конкурентов в ближайшие три-пять лет — как раз тогда, когда технологии ИИ станут решать всё в геополитике. Кто-то может посчитать, что из-за этих жестких ограничений нам будет труднее договариваться с Пекином. На мой взгляд, все обстоит ровно наоборот: так демократические страны укрепят свои позиции на переговорах и быстрее придут к соглашению в будущем. Как управлять темпами гонки на мировом уровне Параллельно с работой внутри демократического блока нам нужно сбалансировать темпы развития передового ИИ во всем мире, хотя добиться этого будет гораздо сложнее. Для этого придется договариваться с Китаем — самой мощной автократией, чьи специалисты дальше всех продвинулись в создании ИИ. Здесь нельзя проявлять наивность: соперничество в мировой политике зашло так далеко, что на первых порах мы вряд ли сможем многого достичь. Если мы жестко ограничим возможности своих систем, поверив, что Пекин поступит так же, а китайские власти нарушат слово, ИИ к тому моменту может стать настолько мощным, что КНР воспользуется ситуацией и подчинит себе весь мир. Поэтому, подписывая любой договор, стороны обязаны либо обеспечить стопроцентную прозрачность и проверять друг друга, либо ввести такие лимиты, чтобы нарушение правил не привело к военному краху демократий. Думаю, что не только Белый дом, но и Пекин испытывает точно такие же опасения и тревоги. Поэтому, выстраивая международный контроль — особенно в ближайшие годы, — нам важно действовать так, чтобы гарантированно сохранить преимущество США и их союзников. Мы можем выстраивать диалог на нескольких уровнях. В ряде вопросов лидеры стран найдут компромисс без особого труда (как я уже отмечал ранее), но в иных сферах договориться будет крайне тяжело — хотя нам в любом случае стоит попытаться. Перечислю эти этапы по мере роста их сложности: Уровень 1. Государства подписывают соглашение, согласно которому запрещается использовать ИИ для очевидно опасных задач — например, при производстве биологического оружия. От биотерроризма пострадают абсолютно все, включая США и их геополитических соперников, поэтому по этому направлению политики, скорее всего, смогут прийти к согласию. Уровень 2. Вашингтон и Пекин обязуются тестировать свои модели перед выпуском, чтобы вовремя выявлять критические угрозы в сфере кибербезопасности, биологии и надежности алгоритмов. Как я упоминал выше, для этого специалисты могут сформировать международную организацию по стандартизации. Я считаю, что дипломаты вполне способны учредить такое ведомство, однако наделить его реальными полномочиями будет гораздо труднее. Главная проблема возникнет тогда, когда сторонам придется проверять, не прячут ли они друг от друга секретные модели ИИ, чтобы запускать их втайне от инспекций (например, для нужд армии). Уровень 3. Установление определенного "скоростного лимита" для процессов рекурсивного самосовершенствования ИИ (RSI). Когда инженеры начнут использовать текущие модели для создания будущих, они рискуют столкнуться со стремительным, лавинообразным ростом возможностей систем. Если эксперты снизят темпы с "экстремально быстрых" до "умеренно быстрых", государства практически не потеряют стратегических преимуществ, но при этом люди смогут значительно повысить безопасность технологий. Подобный шаг можно сравнить с договорами об ограничении стратегических вооружений (ОСВ): тогда политики установили лимиты на число ракет и снизили угрозу тотального уничтожения, сохранив при этом потенциал ядерного сдерживания для каждой страны. Я считаю, что заключить такое соглашение будет крайне трудно, но это все еще находится на грани возможного. Уровень 4. Полноценный контроль темпов или даже тотальная "пауза", при которой участвующие правительства обязуются существенно ограничить общую скорость развития ИИ. Я поддерживаю обсуждение этой идеи, но считаю, что в ближайшее время мы вряд ли увидим ее реализацию. Если какая-то из сторон нарушит этот договор и начнет тайно обходить мониторинг, она сможет радикально изменить баланс сил на мировой арене. Очевидно, лидеры стран получат колоссальную выгоду в случае обхода правил, поэтому нам потребуется высочайший уровень уверенности в результатах проверок. Если мы наладим диалог с Китаем, то выиграем время, чтобы безопасно развивать ИИ внутри демократических стран. Нам нужно ставить масштабные цели, но признавать, что на практике легче начать с простых и выполнимых соглашений. Наконец, важно подчеркнуть: даже если политики не подпишут официальные документы, эксперты все равно смогут изменить неформальные правила игры и извлечь из этого пользу. Если специалисты начнут открыто делиться сведениями о рекурсивном самообучении ИИ и о рисках некорректного поведения моделей, мы сможем убедить всех участников рынка, что действовать безрассудно — не в их интересах. Главный вывод Я по-прежнему убежден, что с помощью ИИ люди смогут колоссально повысить качество своей жизни. Мое стремление добиться этих результатов ничуть не ослабло. Однако мы получим все эти преимущества только в том случае, если выберем правильный путь развития технологий. До тех пор, пока мы грамотно используем выигранное время, нам действительно стоит действовать предельно взвешенно и осторожно, чтобы не допустить ошибок. Разработка ИИ все равно пойдет относительно быстро, и специалисты используют это время, чтобы детально разобраться в принципах мышления нейросетей, повысить строгость и безопасность операционных процессов в ведущих IT-компаниях, а также обучить модели, в надежности которых мы будем полностью уверены. Нам будет непросто реализовать предложенные шаги для безопасного контроля скорости в отрасли. Однако я верю, что ради будущего человечества мы обязаны попытаться.