Банк России направил банкам рекомендации по обеспечению безопасности систем искусственного интеллекта
Банк России разработал методические рекомендации по безопасному применению нейросетей и искусственного интеллекта в финансовой сфере. Регулятор систематизировал профильные риски и тактики атак на ИИ-системы, предложив комплекс защитных мер. В частности, банкам рекомендовано привлекать сотрудников для верификации критических операций вроде платежей, создать внутренние модели угроз под контролем профильного замруководителя и проверять надежность сервисов сторонних поставщиков ИИ.
Краткое изложение по материалу: Банки.ру
Что сообщает источник
Ниже — краткий пересказ материала источника; для правовых выводов сверяйтесь с первичным документом.
- Банк России направил банкам методические рекомендации по безопасному внедрению нейросетей для обеспечения информационной безопасности при использовании технологий искусственного интеллекта в финансовой сфере.
- Центробанк впервые систематизировал риски и тактики атак злоумышленников на системы ИИ, рекомендовав привлекать сотрудника для подтверждения критически важных процессов с высокими рисками информационной безопасности, включая платежные операции.
- Регулятор рекомендовал финансовым организациям разработать собственные модели угроз и политику информационной безопасности для ИИ, возложив ответственность за них на заместителя руководителя по защите информации.
- Рекомендации Банка России включают требования к информационной безопасности при работе с внешними поставщиками ИИ-сервисов, в том числе оценку участия их моделей в программах поиска уязвимостей.
Редакционная оценка правового значения
Аналитический комментарий AIPravo; это не текст первичного документа и не официальное толкование права.
Методические рекомендации Банка России задают отраслевой стандарт комплаенса и управления рисками информационной безопасности при внедрении ИИ и нейросетей в банковском секторе. Документ закрепляет принцип обязательного участия человека (human-in-the-loop) при авторизации критических операций, устанавливает персональную ответственность профильного руководства за внутреннюю политику безопасности ИИ и регламентирует проверку сторонних поставщиков алгоритмических решений.