OpenAI ограничила предоставление юридических консультаций через ChatGPT
Компания OpenAI обновила правила использования ChatGPT, запретив модели оказывать юридические консультации и интерпретировать медицинские исследования. Эксперты отмечают высокие правовые риски применения генеративного ИИ в юриспруденции: модель способна генерировать недостоверные заключения, ориентируясь на правовую систему США вместо российского законодательства. Кроме того, коммуникация с чат-ботом лишена защиты режимом адвокатской тайны.
Краткое изложение по материалу: BFM.ru
Что сообщает источник
Ниже — краткий пересказ материала источника; для правовых выводов сверяйтесь с первичным документом.
- OpenAI обновила свою политику, запретив ChatGPT предоставлять юридические консультации, делать медицинские заключения по результатам исследований и анализировать медицинские снимки.
- Партнер BGP Litigation Евгений Журба заявил, что попытки граждан получить юридические советы у нейросетей несут риски, поскольку ответы ИИ могут содержать галлюцинации и основываться на американском праве вместо российской правовой системы.
- Диалог пользователя с чат-ботом, в отличие от обращения к квалифицированному юристу или врачу, не защищен институтом адвокатской или врачебной тайны.
Редакционная оценка правового значения
Аналитический комментарий AIPravo; это не текст первичного документа и не официальное толкование права.
Запрет OpenAI на генерацию юридических консультаций подчеркивает ключевые правовые риски использования LLM гражданами: неквалифицированное применение норм иностранного (в частности, американского) права к российским спорам, фальсификацию юридических фактов через галлюцинации моделей и утрату конфиденциальности из-за неприменимости к чат-ботам гарантий адвокатской тайны.