Innostage AIDR включен в реестр российского ПО для защиты ИИ-сервисов

Программный продукт Innostage AIDR «Защита ИИ» включен в Единый реестр российского программного обеспечения Минцифры. Решение компании Innostage отнесено к классу средств автоматизации процессов информационной безопасности.

Отечественный софт предназначен для защиты корпоративных ИИ-сервисов, которые работают на базе больших языковых моделей, от атак и утечек данных на этапе эксплуатации. Включение в единый реестр открывает для продукта возможности применения в проектах, где действует требование к использованию российского программного обеспечения.

Как работает программное решение для защиты ИИ

Innostage AIDR работает как прозрачный прокси между ИИ-приложением и языковой моделью. Система проверяет входящие запросы до их передачи в LLM и анализирует ответы, которые возвращает искусственный интеллект.

1. Фильтрация запросов. Программа блокирует попытки внедрить вредоносные инструкции в запрос к модели — prompt injection.
2. Контроль обхода ограничений. Решение выявляет попытки jailbreak, то есть обхода ограничений языковой модели.
3. Проверка ответов. Система анализирует ответы ИИ на наличие персональных данных, коммерческой тайны и другой критичной информации.
4. Оценка контента. Дополнительно контролируются тематика, тональность и токсичность контента.
5. Ограничение доступа. ИИ-приложения получают доступ только к разрешенным языковым моделям.

Такой подход позволяет встроить защиту в информационный обмен между корпоративным приложением и моделью, не меняя сам принцип работы ИИ-сервиса.

Контроль событий и Shadow AI

Продукт передает события информационной безопасности в SIEM с указанием уровня критичности. События от средств защиты направляются в инструменты ИТ-мониторинга ИИ-систем. Это дает оператору данные для контроля работы цифровой системы и реагирования на выявленные инциденты.

Отдельный сценарий работы Innostage AIDR — контроль Shadow AI. Через браузерные расширения решение проверяет передачу данных в публичные облачные ИИ-чаты, включая ChatGPT и DeepSeek. Перед отправкой во внешний сервис чувствительная информация маскируется.

Применение при требованиях ФСТЭК

Для организаций, на которые распространяются требования приказа ФСТЭК России №117, Innostage AIDR может быть технологической основой для реализации мер по фильтрации и контролю входных и выходных данных ИИ-систем. Также продукт может применяться для регистрации событий информационной безопасности.

Владелец продукта Айдар Фатыхов связал включение в реестр с ростом спроса на защиту ИИ-систем:

«Включение Innostage AIDR в реестр российского ПО подтверждает востребованность технологий защиты ИИ-систем и открывает дополнительные возможности для применения продукта в проектах, где есть требования к использованию отечественного программного обеспечения. Сегодня компании только начинают выстраивать процессы безопасного использования генеративного ИИ, и защита таких систем становится отдельным направлением информационной безопасности».

Место продукта в разработках Innostage

Innostage также разработала аналитическую систему мониторинга физической безопасности «Цифровой штаб», которая включена в реестр отечественного ПО Минцифры по решению экспертного совета под председательством Министра цифрового развития, связи и массовых коммуникаций Максута Шадаева.

«Цифровой штаб» агрегирует, анализирует и визуализирует разнородные данные для оперативного мониторинга технических систем охраны и проактивного реагирования на угрозы физической безопасности предприятия. Программный комплекс помогает оператору снижать число ошибок при выполнении регламентов реагирования на инцидент, а настройка сценариев и обогащение модели угроз поддерживают защиту объектов при комбинированной атаке.

Решение формирует единый центр мониторинга физической безопасности предприятий с территориально-распределенной структурой. Компания планировала развивать продукт, добавляя интеграционные и функциональные модули, в том числе для агрегации и анализа данных из систем информационной безопасности.

Контекст требований к отечественному ПО

На конференции «Российская электроника», прошедшей 28 июня 2023 года, Минцифры анонсировало обсуждение изменений в постановления №325 и №1236, связанных с совместимостью российского ПО с отечественными операционными системами и процессорами. На тот момент сообщалось, что требования по совместимости вступят в силу не ранее 2024 года.

В числе обсуждавшихся предложений — совместимость ПО, включая операционные системы, как минимум с одним российским процессором по постановлению правительства №325 от 23 марта 2017 года. Соответствие дополнительным требованиям не называлось обязательным условием, чтобы попадать в реестр российского ПО, но могло давать разработчику дополнительные преференции.

По второму предложению, касавшемуся постановления правительства №1236 от 16 ноября 2015 года о порядке включения в реестр отечественного ПО, разработчики новых программ должны были обеспечить совместимость минимум с двумя российскими ОС из реестра. В 2023 году также обсуждалось создание независимых центров тестирования, которые по единым стандартам оценивали бы совместимость программного продукта с отечественным оборудованием и операционными системами.

Представитель Innostage Данияр Исхаков указывал, что проверка совместимости с процессорами потребует от разработчиков организации тестовых стендов, доработки софта и оформления документации для вхождения в реестр Минцифры. По его оценке, для каждой новой версии ПО или процессора могут потребоваться новые тестирования, что увеличивает расходы на создание, развитие и поддержку программы.

Частые вопросы

Что произошло с Innostage AIDR?

Продукт Innostage AIDR «Защита ИИ» включен в Единый реестр российского программного обеспечения Минцифры и отнесен к средствам автоматизации процессов информационной безопасности.

От каких рисков защищает Innostage AIDR?

Решение защищает корпоративные ИИ-сервисы на базе больших языковых моделей от атак и утечек данных во время эксплуатации. Оно блокирует prompt injection и jailbreak, а также проверяет ответы модели на критичную информацию.

Какие данные анализирует система?

Продукт проверяет ответы ИИ на персональные данные, коммерческую тайну и другую критичную информацию. Он также контролирует тематику, тональность и токсичность контента.

Что такое Shadow AI в сценарии Innostage AIDR?

Это контроль передачи данных в публичные облачные ИИ-чаты. Через браузерные расширения продукт проверяет обращения к внешним сервисам, включая ChatGPT и DeepSeek, и маскирует чувствительные сведения перед отправкой.

Куда передаются события информационной безопасности?

События информационной безопасности передаются в SIEM с указанием уровня критичности, а события от средств защиты — в инструменты ИТ-мониторинга ИИ-систем.

Для чего продукт может использоваться организациями с требованиями приказа ФСТЭК №117?

Innostage AIDR может служить технологической основой для фильтрации и контроля входных и выходных данных ИИ-систем, а также для регистрации событий информационной безопасности.