ФСТЭК утвердила стандарты безопасности для AI-систем и LLM в госсекторе
ФСТЭК утвердила Приказ №117, вводящий с 1 марта 2026 года обязательные требования безопасности для AI-систем на базе больших языковых моделей в государственном секторе. Документ обязывает разработчиков закладывать правила коммуникации с пользователем на этапе проектирования, обеспечивать фильтрацию запрещенных тем, проверять достоверность ответов и исключать возможность самопроизвольной модификации параметров модели. Кроме того, нормативный акт запрещает использовать конфиденциальные сведения госсистем для дообучения нейросетей.
Краткое изложение по материалу: Хабр
Что сообщает источник
Ниже — краткий пересказ материала источника; для правовых выводов сверяйтесь с первичным документом.
- ФСТЭК утвердила Приказ №117, устанавливающий новые требования к безопасности AI-систем на базе LLM в государственных информационных системах с датой вступления в силу 1 марта 2026 года.
- Основные стандарты безопасности при разработке AI-сервисов для государственного сектора сформулированы в пунктах 60 и 61 Приказа №117.
- Разработчикам и интеграторам AI-решений в госсекторе необходимо пересматривать архитектуру создаваемых систем для соответствия требованиям ФСТЭК.
- Приказ прямо запрещает использовать конфиденциальные и чувствительные данные из государственных информационных систем для обучения и улучшения AI-моделей.
- Согласно пункту 61 документа, сценарии и варианты взаимодействия пользователей с алгоритмами искусственного интеллекта должны определяться еще на этапе проектирования системы.
- При свободном пользовательском вводе система обязана фильтровать нарушения и блокировать заранее определенные запрещенные темы и форматы ответов.
- В AI-сервисы должна быть встроена проверка качества и корректности ответов с обязательной фиксацией и анализом возникающих ошибок.
- Искусственному интеллекту запрещено без подтверждения вносить автономные изменения в параметры работы, архитектуру системы или собственные алгоритмы.
- ФСТЭК пока не опубликовала подробные методические материалы с описанием конкретных технических мер и форматов реализации новых требований.
Редакционная оценка правового значения
Аналитический комментарий AIPravo; это не текст первичного документа и не официальное толкование права.
Приказ ФСТЭК №117 закладывает обязательную нормативную базу информационной безопасности для применения больших языковых моделей и AI-сервисов в российских государственных информационных системах. Регулятор установил жесткие архитектурные ограничения: прямой запрет на обучение моделей на чувствительных данных госсистем, контроль свободного ввода и запрет на автономное изменение алгоритмов, возлагая прямую ответственность за безопасность архитектуры на подрядчиков и интеграторов.