Ресурсы · 09
Качество RAG: оценка помощника по знаниям на основе доказательств
Отдельно измеряйте корпус, поиск, цитирования, ответы, воздержание и отклонения, чтобы знать, что действительно нуждается в исправлении.
Обновлено · 3 min
Чего помогает достичь это руководство
- Определить, связана ли ошибка с корпусом, поиском или моделью.
- Отследить каждую цитату.
- Поощрять соответствующее воздержание.
- Выявлять отклонения после изменений.
Быстрая проверка
- Является ли источник авторизованным и актуальным?
- Находится ли нужный фрагмент вверху?
- Подтверждено ли каждое решающее утверждение?
- Может ли помощник сказать, что он не знает?
- Передаются ли конфиденциальные случаи на рассмотрение вышестоящим инстанциям?
Пошаговый метод
- 1
Определить полезные задачи.
Собрать реальные вопросы, их варианты и ожидаемый результат для бизнеса. Добавить неоднозначность, конфликт источников, устаревшие документы и запросы, выходящие за рамки проекта.
Результат: таксономия кейсов и рисков.
- 2
Очистить корпус.
Присвоить каждому источнику владельца, права, дату действия и статус. Удалить дубликаты, фрагменты-сироты и документы с неизвестной авторизацией.
Результат: регистр корпуса.
- 3
Оценка поиска
Измерение того, найдены ли необходимые фрагменты текста и ранжированы ли они перед оценкой окончательной формулировки. Проверка запросов, для которых отсутствуют доказательства.
Результат: показатели охвата и релевантности.
- 4
Оценка ответов и ссылок
Проверка соответствия фрагментам текста, полноты, ограничений, связи между ссылкой и утверждением, а также возможности выявления противоречий.
Результат: критерии соответствия и полезности.
- 5
Тестирование отказов и атак
Добавление косвенной инъекции, запрещенных запросов данных, вредоносных источников, ложных приоритетных документов и необратимых действий. Определение эскалации человеком.
Результат: результаты и ограничения безопасности.
- 6
Мониторинг изменений
Версионирование корпуса, индекса, настроек, модели и инструкций. Воспроизводите стабильный набор данных при каждом изменении и анализируйте реальные отзывы, не сохраняя ненужные данные. Результат
Результат: панель мониторинга дрейфа и процедура проверки.
Вымышленный пример
Иллюстративная ситуация
Внутренний помощник отвечает на вопросы, касающиеся процедур, некоторые из которых устарели. Тестовый набор содержит стандартные, неоднозначные и неразрешимые вопросы; каждая цитата проверяется на соответствие версии документа.
Решение и ожидаемые доказательства
Ожидание выпуска происходит до тех пор, пока не будут исключены устаревшие источники, отклонены неподтвержденные ответы и не будет определен владелец корпуса.
Показатели управления
| Показатель | Что он измеряет | Первое действие |
|---|---|---|
| Покрытие поиска | Вопросы, для которых найдены необходимые фрагменты текста | Исправление корпуса, сегментации или запроса перед моделью |
| Достоверность | Утверждения, действительно подтвержденные цитируемыми источниками | Блокировка или переписывание неподтвержденных ответов |
| Полезное воздержание | Случаи без доказательств, правильно отклоненные или переданные на более высокий уровень | Настройка пороговых значений достоверности |
| Регрессия | Разница в качестве между версиями на одном и том же наборе | Выявление ответственного изменения |
Распространенные ошибки
- Измерение только беглости письма
- Смешивание неудачного поиска и галлюцинаций
- Использование слишком простого оценочного набора
- Изменение нескольких компонентов без сравнения
Часто задаваемые вопросы
Сколько вопросов необходимо?
Начните с репрезентативного, версионированного набора, охватывающего важные риски. Разнообразие и качество важнее искусственного объема.
Достаточно ли одной автоматизированной метрики?
Нет. Она ускоряет сортировку, но для конфиденциальных, неоднозначных и узкоспециализированных случаев необходимы четкие критерии и проверка человеком.
Следует ли сохранять все разговоры?
Нет. Сохраняйте только необходимые данные с определенной целью, доступом и продолжительностью. Для улучшения предпочтительнее анонимизированные случаи.
Официальные ссылки
Ссылки подтверждают метод. Адаптируйте проверки к вашему контексту; они не являются сертификацией. Оригинальные названия ссылок и исходные документы могут быть на другом языке.
