Минцифры и бизнес готовят правила проверки больших моделей ИИ в испытательных лабораториях
В России в рамках подзаконных актов к закону об ИИ разрабатывается схема сертификации больших фундаментальных моделей независимыми испытательными лабораториями. Процедура включает тестирование ответов с помощью специальных бенчмарков и проверку устойчивости к промпт-инъекциям для подтверждения соответствия закону и традиционным ценностям. Прохождение оценки носит добровольный характер и требуется разработчикам для получения статуса суверенной или национальной модели, открывающего приоритет в госзакупках, господдержку и доступ к государственным системам. Окончательное решение о статусе планируется закрепить за Минцифры при участии ФСБ и ФСТЭК в проверке параметров безопасности.
Краткое изложение по материалу: Ведомости
Что сообщает источник
Ниже — краткий пересказ материала источника; для правовых выводов сверяйтесь с первичным документом.
- Минцифры России и представители IT-отрасли на площадке АНО «Цифровая экономика» обсуждают привлечение независимых испытательных лабораторий для проверки больших моделей ИИ на соответствие закону и традиционным ценностям в рамках подзаконных актов к закону об ИИ.
- Закон об ИИ вводит статусы суверенной и национальной модели для больших фундаментальных разработок, получение которых требует подтверждения соответствия законодательству РФ и традиционным духовно-нравственным ценностям.
- Порядок оценки моделей правительство готовит при участии Минцифры, ФСБ и ФСТЭК для определения соответствия ценностям и задачам технологического развития страны.
- Отдельный перечень ценностей вводить не планируется из-за наличия указа № 809, а для тестирования моделей регулятор и бизнес намерены разработать специальные бенчмарки.
- Процесс экспертизы в лаборатории включает проверку ответов модели по бенчмаркам, тестирование на уязвимость к промпт-инъекциям и передачу заключения в правкомиссию для допуска к мерам господдержки и госзакупкам.
- Проверка не будет обязательной для всех представленных на рынке моделей и затронет только претендентов на спецстатусы, доступ к ГИС и применение в приоритетных отраслях, включая госуслуги и образование.
- Планируется аккредитация нескольких лабораторий для оценки результатов первичной самопроверки разработчика, при этом итоговое решение о присвоении статуса закрепляется за Минцифры, а критерии безопасности для госсистем проверяют ФСБ и ФСТЭК.
- Проект подзаконных актов находится на стадии межведомственного согласования и экспертной доработки.
Редакционная оценка правового значения
Аналитический комментарий AIPravo; это не текст первичного документа и не официальное толкование права.
Разрабатываемый механизм устанавливает практическую процедуру оценки соответствия больших моделей ИИ регуляторным требованиям и этическим критериям. Получение статуса суверенной или национальной модели через систему аккредитованных испытательных лабораторий связывается с предоставлением мер господдержки, допуском к госзакупкам и интеграцией ИИ в государственные информационные системы.