Банк России выпустил рекомендации по кибербезопасности при внедрении ИИ в финансовой сфере
Банк России выпустил методические рекомендации по обеспечению информационной безопасности при разработке и внедрении систем искусственного интеллекта для банков, операторов платежных систем и иных участников финансового рынка. Регулятор систематизировал риски алгоритмических сбоев, искажения обучающих выборок, утечек данных и атак на модели (включая манипуляции с запросами и внедрение уязвимостей). Для значимых финансовых операций ЦБ рекомендовал предусмотреть обязательную верификацию решений нейросетей специалистами-людьми, а организациям отрасли — разработать профильные модели угроз и политики безопасности.
Краткое изложение по материалу: ПРАВО.Ru
Что сообщает источник
Ниже — краткий пересказ материала источника; для правовых выводов сверяйтесь с первичным документом.
- Банк России подготовил методические рекомендации по информационной безопасности при разработке и использовании технологий искусственного интеллекта в финансовой сфере.
- Рекомендации адресованы банкам, некредитным финансовым организациям, субъектам национальной платежной системы и другим участникам рынка.
- Регулятор выделил основные риски ИИ: ошибки моделей, утечки информации, искажение обучающих данных, системные сбои, а также риски применения открытого кода и внешних ИИ-сервисов.
- В документе описаны потенциальные атаки на алгоритмы, включая подмену запросов, перегрузку моделей и внедрение скрытых уязвимостей.
- ЦБ рекомендовал привлекать человека к проверке автоматических решений нейросетей, если искусственный интеллект задействован в критически важных процессах, таких как проведение платежей.
- Участникам финансового рынка рекомендовано сформировать модель угроз и политику информационной безопасности для применения ИИ.
Редакционная оценка правового значения
Аналитический комментарий AIPravo; это не текст первичного документа и не официальное толкование права.
Методические рекомендации Банка России формируют регуляторные стандарты комплаенса и управления рисками информационной безопасности при внедрении алгоритмов машинного обучения в финансовом секторе. Документ устанавливает требование сохранения человеческого контроля над критически значимыми автоматизированными операциями (например, платежами), а также закрепляет необходимость создания специализированных моделей угроз и локальных политик информационной безопасности для систем искусственного интеллекта.