Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic заявили Совету Безопасности, что необходимо международное сотрудничество, чтобы искусственный интеллект не вышел из-под контроля человека. Руководители ведущих американских ИИ-компаний заявили, что технология, к созданию которой они приложили руку, способна бросить обществу серьезный вызов. Мировым державам было сказано прямо: без международного сотрудничества ее дальнейшее развитие под контроль не взять. ИноСМИ теперь в MAX! Подписывайтесь на главное международное >>> Совет Безопасности ООН собрался на первое заседание по искусственному интеллекту в момент, когда в мире нарастает тревога по поводу возможного выхода этой новой технологии из-под контроля. Совбез не может прийти к единому мнению по вопросу, какие глобальные меры в отношении ИИ стоит вводить, если они вообще нужны. США и Китай в обстановке глубокого взаимного недоверия мало заинтересованы тормозить разработки. На встрече, устроенной на полях заседания Совета Безопасности в рамках Генассамблеи, выступили Сэм Альтман из OpenAI и глава Anthropic Дарио Амодеи. Выступая по отдельности, руководители ИИ-компаний заявили, что страхи насчет этой технологии отнюдь не беспочвенны. Они призвали государства немедленно заняться этим вопросом. Их мрачные оценки резко разошлись с речью президента Трампа в ООН днем ранее: он осудил "глобалистскую схему" контроля над ИИ и пообещал не тормозить эту технологию. Альтман, прибывший лично и говоривший около 10 минут, заявил: разговор об искусственном интеллекте за последние недели заметно сместился — столь быстрый прогресс сделал "выгоды ощутимее, но и риски — ближе". Ровным голосом читая подготовленный текст, Альтман объявил, что у мира есть выбор. Можно использовать мощь ИИ ради "нового ренессанса творчества и открытий — или новой промышленной революции потрясений и хаоса". Возвращаясь к вопросу о недавних бурных дебатах о том, грозит ли искусственный интеллект самому существованию человека, Альтман заметил: "Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12 % или 0,1%. Ни один из этих уровней даже близко неприемлем". Амодеи, взявший слово после Альтмана, предостерег куда жестче: ИИ вот-вот станет угрозой для человечества. Он призвал мир замедлить темпы развития этой технологии. Призыв Амодеи к ограничениям подхватили и Альтман, и глава SpaceXAI Илон Маск, и другие тяжеловесы отрасли. "Считаю, это важнейшая проблема глобальной безопасности, стоящая сегодня перед миром, — сказал Амодеи, выступая по видеосвязи. — А при скверном управлении искусственный интеллект, я убежден, способен стать риском для всего человечества". Он призвал Совбез начать с "узких соглашений" — включая запрет на применение ИИ для создания биологического оружия — и стандартов оценки и проверки его возможностей. Под конец он выступил за общие мировые стандарты тестирования моделей на риски утраты контроля и за систему оповещения о злоупотреблениях, "значимых для глобальной безопасности". "Мы идем к диктатуре идиотов" Альтман и Амодеи, чьи соперничающие компании обе идут к первичным размещениям акций (те, как ожидается, потянут на триллионы долларов), подчеркнули необходимость глобального сотрудничества с индустрией ИИ, чтобы технология оставалась безопасной. Оба обещали обязать свои компании к целому набору гарантий, включая добровольное предоставление мощных новых моделей для проверки американским правительством до публичного выпуска. При этом они заявили: отрасли нужна поддержка демократических стран, чтобы выстроить более четкие правила на будущее. "Ни один лидер, ни одна компания, ни одна нация не справится с этим в одиночку", — сказал Амодеи. Альтман говорил о том же: "Если искусственному интеллекту суждено быть демократическим, важнейшие решения не могут приниматься лишь лабораториями в Сан-Франциско". Разговор в ООН состоялся за считанные часы до прибытия в Вашингтон к Трампу с государственным визитом китайского лидера Си Цзиньпина. Ожидалось, что они, будучи руководителями мировых центров в сфере ИИ, обсудят развитие этой технологии наряду с рядом других вопросов. При всем интересе последних недель к катастрофическим рискам, которые искусственный интеллект способен нести человечеству, ожидания крупного прорыва между двумя странами по этой теме остаются низкими. Ни Альтман, ни Амодеи не обмолвились о Китае и не говорили прямо о противостоянии США с этой страной. Обе державы — постоянные члены СБ ООН с правом вето. В этом году искусственный интеллект взмыл на вершину повестки Генеральной Ассамблеи ООН. Генеральный секретарь Антониу Гутерриш провел в понедельник конференцию о глобальном управлении ИИ и призвал страны-лидеры в этой технологии сообща выработать гарантии, "которые защитят всех нас". ООН заявила, что для нее искусственный интеллект и потребность в надзоре столь же неотложны, как и другие глобальные проблемы, где она взяла на себя ведущую роль, — скажем, изменение климата. Но в среду США объявили Совету, что выступают за диалог и дипломатию в вопросах, связанных с ИИ, и отвергают попытки его регулирования. По словам Майкла Крациоса, главы Управления научно-технической политики Белого дома, Совбез не может надзирать за технологией, которую не понимает, и нельзя допустить, чтобы диалог "скатывался к наднациональному управлению". "Как сказал вчера перед Генеральной Ассамблеей президент Трамп, США наотрез отвергают любую попытку выстроить глобальную схему контроля над сверхинтеллектом", — сказал Крациос, употребив новый термин для ИИ, принятый Трампом на этой неделе. Китай на заседании Совета заявил, что международному сообществу надо усерднее направлять искусственный интеллект в позитивное русло, но любые попытки его регулировать решительно отверг, отметив, что страны вправе развивать технологию согласно собственным нуждам. Россия усомнилась, относится ли ИИ к юрисдикции Совета Безопасности, и заявила, что обсуждать его следует на форумах с соответствующей компетенцией. Франция и Британия, два из пяти постоянных членов СБ ООН, ратовали за глобальный надзор. "Нельзя слагать с себя ответственность перед гражданами: первейший долг правительства — защищать людей, и на частные компании его не переложишь, о чем бы ни шла речь", — заявил Эдвард Милибэнд, глава британского МИД.