Первоисточники и RAG

Большие языковые модели не обучены российской судебной практике и не хранят точные тексты НПА – только усредненные знания. Не полагайтесь на модель в точных цитатах и формулировках: загружайте первоисточники.

Загрузка первоисточников

Отправляйте в чат сами НПА (целиком или в части), судебные акты, договоры. Загруженный первоисточник снижает риск вымышленной ссылки, но модель всё равно может пропустить оговорку или неверно связать норму с выводом. Следите за расходом токенов: Налоговый кодекс в чат не загружаем без проверки доступного окна. У Gemini миллион токенов в приложении доступен только на AI Pro и Ultra.

Grounding

Grounding, или источниковая привязка, – правило: ответ строится по указанным документам или найденным источникам, а рядом с выводом можно открыть подтверждающий фрагмент. Загрузка файла, веб-поиск и RAG – разные способы привязать ответ к источнику. RAG – один из способов grounding, а не другое название того же термина.

RAG

RAG (Retrieval-Augmented Generation) – технология, при которой найденные в базе фрагменты передаются генеративной модели. Параметры модели продолжают участвовать в ответе, поэтому RAG не исключает ошибок. Именно так работает NotebookLM: он показывает ссылки на источники.

RAG под капотом и у российских сервисов (базы Гаранта у Нейроюриста и Искры). Качество зависит от нарезки документов, фильтров, векторного поиска и повторного ранжирования. Большая база без настройки добавляет шум, поэтому узкую подборку качественных документов проще проверить, чем подход «загрузим все».

Тот же принцип – в кастомных ботах: качество базы знаний важнее объема. Лучше одна хорошая статья из Консультанта, чем 50 рандомных судебных актов.

Связанные заметки: NotebookLM · Векторный поиск · Галлюцинации · Кастомные боты