Законопроект предусматривает ограничения при угрозе массовой гибели людей или ущерба от $1 млрд Anthropic продвигает в Конгрессе США законопроект, который позволит властям приостанавливать выпуск и использование систем искусственного интеллекта, если те представляют серьёзную угрозу, о чем пишет Politico. Документ предусматривает вмешательство при риске ущерба на сумму от $1 млрд либо гибели или тяжёлых травм более чем у 50 человек. Угроза должна быть связана с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой. Источник изображения: Изображение сгенерировано в Midjourney Оценивать потенциальную опасность предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. На основании их заключений ведомство сможет обращаться в суд с требованием приостановить соответствующий проект. Законопроект также обяжет разработчиков создавать внутренние подразделения безопасности, публиковать отчёты о работе ИИ-моделей и оперативно сообщать регулятору о серьёзных сбоях. Отдельная норма должна защищать сотрудников, раскрывающих информацию о нарушениях, от преследования. По данным Politico, ряд положений инициативы перекликается с законами Калифорнии о регулировании искусственного интеллекта, принятыми в 2025 году. Anthropic, разработчик семейства языковых моделей Claude, характеризует предложенные меры как разумный способ контролировать наиболее мощные системы ИИ.