Елена Авакян заявила о рисках бесконтрольного применения зарубежного ИИ в российском судопроизводстве
Преподаватель базовой кафедры АБ ЕПАМ Елена Авакян указала на риски бесконтрольного применения генеративного ИИ в судах. Согласно приведенным данным опросов, 36% российских адвокатов используют ИИ ежедневно, а свыше 70% судей обращаются к нему в работе. Эксперт обратила внимание на угрозы трансграничной передачи данных при отправке материалов дел в зарубежные большие языковые модели и риск тиражирования системных ошибок из-за галлюцинаций нейросетей. Для безопасной цифровизации предложено внедрять закрытые специализированные контуры ИИ, учитывая, что персональная ответственность за итоговые решения и судебные акты сохраняется за судьями и юристами.
Краткое изложение по материалу: РАПСИ
Что сообщает источник
Ниже — краткий пересказ материала источника; для правовых выводов сверяйтесь с первичным документом.
- Преподаватель базовой кафедры Адвокатского бюро ЕПАМ Елена Авакян на конференции заявила о необходимости контроля и ограничительных механизмов при использовании ИИ в судопроизводстве.
- По данным опросов в России, 36% адвокатов ежедневно применяют ИИ, а более 70% опрошенных судей так или иначе используют технологии искусственного интеллекта.
- Эксперт отметила необходимость ограничительных механизмов и создания специальной закрытой системы ИИ для содействия принятию судебных решений.
- Судьи загружают материалы дел в большие лингвистические модели без предварительной обработки, что связано с трансграничной передачей данных.
- Загрузка сведений и обучение иностранных нейросетей передает им специфику национального понимания и судопроизводства.
- Большие лингвистические модели допускают галлюцинации, опасность которых возрастает при проявлении на государственном уровне.
- Если судья положит в основу решения несуществующую позицию из-за ошибки ИИ, такое решение может лечь в основу обучения модели и породить трудноисправимую системную ошибку.
- Мировые этические кодексы возлагают ответственность за допущенные ошибки и галлюцинации ИИ на человека — адвоката (вплоть до утраты статуса) или судью.
Редакционная оценка правового значения
Аналитический комментарий AIPravo; это не текст первичного документа и не официальное толкование права.
Озвученная проблематика затрагивает фундаментальные вопросы процессуального права, защиты конфиденциальной информации и профессиональной ответственности юристов. Загрузка материалов дел в публичные и зарубежные языковые модели без предварительной обработки создает угрозу трансграничной передачи данных и искажения правоприменительной практики из-за алгоритмических галлюцинаций. Это обуславливает необходимость создания закрытых судебных систем ИИ и строгого соблюдения принципа персональной ответственности судей и адвокатов за использование результатов генеративных моделей в процессуальных документах.