RAG: полезный контекст вместо длинного промпта.

Начните с доступных источников

Retrieval-augmented generation соединяет поиск информации и генерацию ответа. Но прежде чем выбирать модель, нужно понять, какие документы актуальны, кто может их читать и как изменения попадают в индекс.

Права работают до генерации

Документы, недоступные пользователю, не должны попадать в контекст модели. Фильтрация уже сформированного ответа не заменяет проверку доступа на этапе поиска.

Качество поиска видно отдельно

Если подходящий фрагмент не найден, длинный промпт редко решает основную проблему. Проверяйте поиск на реальных вопросах: попал ли нужный документ в результаты, хватает ли контекста и нет ли рядом устаревшей версии.

Цитата должна поддерживать утверждение

Наличие ссылки ещё не означает, что документ подтверждает ответ. Полезно проверять связь между отдельным утверждением и фрагментом источника. В интерфейсе эту связь стоит сделать доступной без лишних переходов.

Маленький набор проверок лучше впечатлений

Соберите вопросы с ожидаемыми источниками, неоднозначные запросы и случаи, где правильный ответ — признать нехватку данных. Повторяйте эти проверки после изменений индекса, модели и подсказок.