Разработчики радикально обновили политику использования ИИ Anthropic обновила политику использования своих ИИ-моделей Claude. Новый документ уточняет запрет на использование алгоритма для оружия, слежения и дезинформации, а также впервые запрещает длительное издевательство над самими алгоритмами.Об этом сообщает РБК-Украина со ссылкой на Anthropic.Защита ИИ от издевательств пользователейРазработчики вводят запрет на длительное и безосновательное жестокое или оскорбительное поведение в отношении своих моделей.Это правило будут применяться только в крайних случаях, когда пользователи систематически проявляют агрессию без всякой исследовательской или практической цели.Обычные проявления раздражения, спора, тестирования моделей или исследования под это ограничение не подпадают. В случае систематического хамства Claude будет иметь право самостоятельно завершать разговор с пользователем на платформах Claude.ai и Claude Code. Читайте больше: Сканирует ИИ-контент OpenAI и Apple: Google открыла доступ к SynthID для всехТабу на дезинформацию и манипуляцииРазработчики объединили правила по борьбе с обманом в новый раздел, запрещающий участие в дезинформационных кампаниях или искусственной активности.Поводом послужили случаи использования Claude государственными СМИ, пропагандистскими структурами и частными фирмами для управления сетями ботов и фейковыми новостями на сайтах.Запрет касается:сокрытие подлинных авторов сообщений;накрутки контента через бот-аккаунты;создание инфраструктуры для информационных операцийТакже обновлен раздел о выборах. Claude запрещено использовать для введения избирателей в заблуждение, распространения ложной информации о кандидатах или срыва голосования.При этом компания сняла сплошной запрет на персонализированный таргетинг для легитимных общественных инициатив, например перевода инструкций для избирателей на другие языки. Больше интересного: Биотехнологии переведут в цифру: что известно об уникальном проекте Google, Meta и NVIDIAОграничения в области разработки оружия и слежкиAnthropic четко отмечает, что запрет на разработку оружия распространяется на программное обеспечение и компоненты, обеспечивающие его работу.Также запрещено использовать ИИ для оснащения оружием дронов и других автономных транспортных средств.В сфере слежки и уголовного правосудия введены следующие правила:запрещена слежка за людьми без их согласия в реальном времени или через анализ собранных данных;ИИ нельзя использовать для вынесения решений о расследовании, задержании или предъявлении обвинений;запрещена разработка и усовершенствование инструментов для слежения.В то же время разрешенными остаются мониторинг мошенничества с согласия пользователей, модерация контента, журналистика и юридические исследования. Не пропустите: Маск прокачал Grok: бот получил доступ к Midjourney, Claude и SunoТребования к решениям с высоким рискомЕсли ИИ используются в сферах здравоохранения, финансов или юриспруденции, обязательным условием остается наличие квалифицированного специалиста, который может проверить и изменить рекомендации системы. Также пользователям должны сообщить о привлечении ИИ.В случае подключения моделей к физическому оборудованию, способному нанести травмы, оператор должен иметь возможность наблюдать за техникой и остановить ее в случае необходимости.При потере связи с ИИ оборудование должно автоматически переходить в безопасный режим.Обновленная политика вступит в силу 12 ноября 2026 года.Еще больше интересного:Дешевле на 75% и быстрее GPT-6 Luna: Anthropic представила Claude Haiku 5.5Планирует меню и считает бюджет OpenAI выпустила GPT-6 с интерактивными кнопками