Продукт Innostage AIDR «Защита ИИ» включен в Единый реестр российского программного обеспечения Минцифры России. Innostage AIDR предназначен для защиты корпоративных ИИ-сервисов на базе больших языковых моделей от атак и утечек данных на этапе эксплуатации. Продукт отнесен к классу средств автоматизации процессов информационной безопасности.Innostage AIDR работает как прозрачный прокси между ИИ-приложением и языковой моделью. Продукт фильтрует входящие запросы до передачи в LLM и блокирует попытки внедрения вредоносных инструкций в запрос к модели (prompt injection), а также обхода ограничений модели (jailbreak). Ответы ИИ анализируются на наличие персональных данных, коммерческой тайны и другой критичной информации. Дополнительно контролируются тематика, тональность и токсичность контента. Читать далее