Роскомнадзор и ГРЧЦ представили исследование об угрозах ИИ и мерах противодействия

Что сообщает источник

Ниже — краткий пересказ материала источника; для правовых выводов сверяйтесь с первичным документом.

• Роскомнадзор, Главный радиочастотный центр, аналитический центр MindSmith и «Ростелеком» выпустили совместное исследование об инструментах ИИ в руках злоумышленников, классификации угроз и мерах противодействия.
• В исследовании определены 12 приоритетных направлений применения ИИ для безопасности интернет-пользователей, включая обнаружение дипфейков, распознавание лиц, автоматизацию модерации контента, извлечение смысла из текста и проверку фактов.
• Авторы доклада указали, что развитие генеративных моделей требует внедрения ИИ для защиты от информационных атак, а наличие отечественных моделей и датасетов является вопросом национальной безопасности.
• В исследовании сформулирована необходимость разработки государственных процедур тестирования и оценки моделей ИИ для поддержки перспективных отечественных проектов и разработчиков.

Редакционная оценка правового значения

Аналитический комментарий AIPravo; это не текст первичного документа и не официальное толкование права.

Материал отражает позицию профильного регулятора (Роскомнадзора) и подведомственного ГРЧЦ относительно рисков применения искусственного интеллекта в цифровой среде. Выводы исследования обосновывают необходимость государственного регулирования в части разработки стандартов тестирования и оценки ИИ-систем, установления требований к использованию суверенных моделей и наборов данных, а также нормативного закрепления технологий автоматизированного мониторинга и модерации сетевого контента.