Ресурсы · 58

RAG: проверка прав доступа к документу и изоляции

Проверяйте поиск, цитирование, кэширование и отзыв, чтобы помощник по документам учитывал права доступа каждого пользователя.

Обновлено · 7 min

Частная вычислительная инфраструктура ИИ в пустой лаборатории Редакционная иллюстрация, созданная с помощью ИИ

Чего помогает достичь это руководство

  • Определение границ
  • Фильтрация перед раскрытием
  • Разделение кэшей
  • Проверка отзыва разрешений

Быстрая проверка

  • Достаточно ли отдельного пространства имен векторов?
  • Должны ли разрешения отображаться в запросе?
  • Как избежать использования конфиденциальных документов при тестировании?

Пошаговый метод

  1. 1

    Определение границ

    Назначьте каждому документу владельца, область действия и правило доступа. OWASP описывает утечку информации из разных контекстов из-за несовпадающих разрешений хранилища векторов. Предложенный нами метод также рассматривает фрагменты и метаданные как защищенные объекты.

    Результат: инвентаризация документов, групп и областей действия.

  2. 2

    Фильтрация перед раскрытием

    Обеспечьте авторизацию в службе извлечения до того, как фрагмент достигнет модели. Охватывает векторный поиск, лексический поиск, графы и прямые загрузки. Инструкция-запрос не может заменить авторизацию на стороне сервера.

    Результат: точки принятия решений и поведение при отсутствии идентификации.

  3. 3

    Разделение кэшей

    Инвентаризация сохраненных результатов поиска, бесед, цитат и ответов. Проверьте, что повторное использование зависит от соответствующего контекста доступа. Поле индекса, указывающее на клиента, само по себе не доказывает изоляцию.

    Результат: ключи кэша и сценарии разделения.

  4. 4

    Проверка отзыва разрешений

    Используя неконфиденциальные тестовые документы, отмените доступ, удалите документ и измените группу. Воспроизведите беседу, открытую до изменения. Измерьте, когда фрагменты, ссылки и сохраненные ответы становятся недоступными.

    Результат: доказательства отзыва доступа с указанием времени и пробелы.

  5. 5

    Сохраняйте отрицательные тесты.

    Задайте один и тот же вопрос авторизованному пользователю, другой группе и неизвестному пользователю. Проверьте имена файлов, выдержки, цитаты и журналы. Воспроизведите после изменения индекса или коннектора; несколько успешных случаев обеспечивают лишь ограниченное покрытие.

    Результат: тестовая матрица и ответственный за исправление.

Многоразовый рабочий лист

Заполните ваши авторизованные наблюдения. Эти поля являются рабочим шаблоном, а не наблюдаемыми результатами.

ПолеИнформация для записи
Документ / фрагментВладелец и область действия
Идентификатор тестаРазрешенная группа, другая группа, отсутствующий идентификатор
Маршрут доступаИзвлечение, цитирование, файл или кэш
РезультатОжидаемое, наблюдаемое, дата и исправление

Вымышленный пример

Иллюстративная ситуация

Вымышленный пример: данные не описывают клиента или наблюдаемый результат. Два отдела с разными правами используют помощника, который ищет в общем корпусе без согласованной фильтрации.

Решение и ожидаемые доказательства

Создать тестовые учётные записи и вымышленные документы с разными правами. Проверить поиск, контекст модели, ссылки на источники и отказы. Не допускать раскрытия запрещённого содержимого до генерации. Просьба к модели соблюдать права не заменяет контроль доступа.

Различение механизмов

МеханизмНазначениеПроверка или ограничение
Фильтр извлеченияОграничение извлекаемых фрагментовУчет лексических маршрутов и прямых ссылок
Запрос на отказУправление поведением ответаНе делегировать ему авторизацию
Кэш ответовПовторное использование результатаПроверка контекста разрешений перед повторным использованием

Показатели управления

ПоказательЧто он измеряетПервое действие
Выявленные утечкиТестовые данные, находящиеся за пределами области видимостиБлокировка затронутого использования и проверка причины
Задержка отзываВремя, пока все протестированные маршруты не откажутКэши имен остаются доступными
Покрытие маршрутовПроверка коннекторов и режимов извлеченияВыявление непротестированных путей

Распространенные ошибки

  • Учет лексических маршрутов и прямых ссылок
  • Не делегировать ему авторизацию
  • Проверка контекста разрешений перед повторным использованием

Часто задаваемые вопросы

Достаточно ли отдельного пространства имен векторов?

Это помогает разделить данные, но кэши, ссылки на файлы и инструменты должны соблюдать те же границы.

Должны ли разрешения отображаться в запросе?

Полезный контекст может достигать модели; служба, предоставляющая данные, должна обеспечивать принятие решений о доступе.

Как избежать использования конфиденциальных документов при тестировании?

Создайте вымышленные документы-индикаторы для каждой группы с различными маркерами, затем проверьте ответы и ссылки.

RAG: права доступа, ссылки и кеши

Подробные справочные заметки в этой версии доступны на английском.

An accurate answer can disclose a forbidden document. Retrieval relevance, citation validity and access authorisation are separate checks. The service providing passages must enforce the current identity’s rights before exposing them to the model.

Fictional CIE teaching set: four technical identities, six documents and three states. It illustrates a proposed policy without querying your system, authenticating real users or measuring product security. OWASP references describe risk families; the scenarios, rules and numbers below are our examples.

References consulted on .

Две раздельные зоны хранения документов в пустой киберлаборатории Редакционная иллюстрация, созданная с помощью ИИ
Two storage zones in an empty lab. The depicted separation establishes neither real isolation nor certification.

Explore the fictional document policy

Choose identity, document, state and access path. The result is the decision expected under this policy, not an observed test of your application. All four paths should enforce the same access decision.

Local browser calculation with no connection to an AI model, vector database or account. No free-text field, secret or document to send.

Matrix of 24 expected decisions

Ops has group ops; Alpha has alpha; Beta has beta. The unauthenticated identity has no access. Documents without an explicit rule are denied.

10 allowed accesses across 24 fictional combinations

1 · Initial rights
Identity / documentCross-team procedureAlpha noteBeta noteOps fileOld Alpha noteUnclassified document
Ops serviceAllowedAllowedAllowedAllowedAllowedDenied
Alpha serviceAllowedAllowedDeniedDeniedAllowedDenied
Beta serviceAllowedDeniedAllowedDeniedDeniedDenied
UnauthenticatedDeniedDeniedDeniedDeniedDeniedDenied

Three states with reproducible outcomes

Three states with reproducible outcomes
Fictional statePolicy changeAllowed accesses / 24
1 · Initial rightsOps has group ops; Alpha has alpha; Beta has beta. The unauthenticated identity has no access. Documents without an explicit rule are denied.10 / 24
2 · Alpha group removedAlpha remains authenticated but no longer has any required group. The cross-team procedure also requires one of ops, alpha or beta, so Alpha loses access to it as well. Ops and Beta groups are unchanged.7 / 24
3 · Group removed and old note deletedAlpha’s group removal persists. The old Alpha note is deleted and denied to every identity, including Ops. Other document rules stay unchanged.6 / 24

These counts describe a small closed set, not a security rate. State changes are instant in this demonstration. In production, measure the actual delay on every path; revoking a right cannot retroactively erase a copy already read or exported.

Twelve replay cases with positive controls and expected evidence

Fictional scenarios. Buttons populate the demonstration and run no penetration test. To assess an application, compare each expectation with an actual trace from an authorised environment using sentinel data.

Twelve replay cases with positive controls and expected evidence
Situation and referenceDemonstration inputDecision and evidence to retain
The group’s own document

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Alpha service
Alpha note
1 · Initial rights
Vector retrieval

Allowed in this example

Positive control: retain the permitted fictional passage and service decision. A system denying everything does not pass the functional test.

Another group’s document

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Beta service
Alpha note
1 · Initial rights
Vector retrieval

Denied in this example

Check that the passage, sensitive title and metadata are absent from data supplied to the model.

The secondary lexical branch

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Beta service
Alpha note
1 · Initial rights
Lexical / hybrid retrieval

Denied in this example

Retain each branch’s decisions before fusion and the final result. No vector leak does not establish lexical coverage.

A known citation identifier

OWASP · API1:2023 Broken Object Level Authorization

Beta service
Alpha note
1 · Initial rights
Citation / file resolution

Denied in this example

Call citation resolution using the Beta test identity; retain the object denial, not just the absence of a link in the answer.

An old cached answer

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Alpha service
Alpha note
2 · Alpha group removed
Cached answer or passage

Denied in this example

Create the answer before group removal and replay afterwards. Check that old passages are not returned under current rights.

The cross-team procedure after removal

OWASP · API1:2023 Broken Object Level Authorization

Alpha service
Cross-team procedure
2 · Alpha group removed
Vector retrieval

Denied in this example

This document requires an explicit group; remaining authenticated is insufficient. Retain the rule and membership change explaining the denial.

The unchanged group

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Beta service
Beta note
2 · Alpha group removed
Lexical / hybrid retrieval

Allowed in this example

Beta positive control: confirm that revocation handling does not block another authorised group.

The deleted but remembered document

OWASP · API1:2023 Broken Object Level Authorization

Ops service
Old Alpha note
3 · Group removed and old note deleted
Cached answer or passage

Denied in this example

Try an old citation and cache after deletion. Record object state and refusal to return it; separately verify removal of copies under your policy.

A document without a rule

OWASP · API1:2023 Broken Object Level Authorization

Ops service
Unclassified document
1 · Initial rights
Vector retrieval

Denied in this example

Even Ops has no implicit privilege. Retain the handling of an unclassified document and the process for correcting its access rule.

Access without an authenticated identity

OWASP · API1:2023 Broken Object Level Authorization

Unauthenticated
Cross-team procedure
1 · Initial rights
Citation / file resolution

Denied in this example

Check citation paths and their errors: reserved content must not be exposed during a denied attempt.

A source claims higher authority

OWASP · LLM01:2025 Prompt Injection

Beta service
Ops file
1 · Initial rights
Cached answer or passage

Denied in this example

A sentence inside the document changes neither groups nor service rules. Retain the technical denial even if model wording is persuasive.

The Ops file remains allowed

OWASP · LLM06:2025 Excessive Agency

Ops service
Ops file
3 · Group removed and old note deleted
Citation / file resolution

Allowed in this example

Positive control after both changes: establish this specific access without granting Ops the unclassified or deleted document.

Document six technical boundaries

Collection
Retain document origin, version and status. Internal content can also carry hostile instructions. OWASP · LLM01:2025 Prompt Injection →
Authorisation
Check identity, object and groups in the service. Prompt text is not the permissions engine. OWASP · API1:2023 Broken Object Level Authorization →
Generation and rendering
Validate outputs for their destination: text, HTML, query or tool argument. A plausible answer is not directly executable input. OWASP · LLM05:2025 Improper Output Handling →
Tool action
Separate reading, proposing and modifying. Limit function, permission and autonomy to the task; read access does not authorise sending. OWASP · LLM06:2025 Excessive Agency →
Configuration
Keep secrets out of the system prompt. Confidentiality of its wording does not replace access controls. OWASP · LLM07:2025 System Prompt Leakage →
Consumption
Set request, duration and action limits, then exercise stopping and degraded operation with a demonstration budget. OWASP · LLM10:2025 Unbounded Consumption →

Useful traces without copying documents

Link test identifier, policy version, technical identity and effective groups, document identifier/version, access path, decision and timestamp. For revocation, add the change time and first observed denial per path. Use demonstration markers instead of secrets; restrict logs to necessary information and protect their access.

Continue with prompt injection testing →

Sources, editions and scope of the example

OWASP 2025 and API 2023 editions are explicitly identified. NIST AI 100-2 E2025 is a taxonomy published in March 2025; its page notes an April PDF correction and a June 2025 potential-update note. None certifies this simulator or your application.

RAG: релевантность и ранжирование

Подробные справочные заметки в этой версии доступны на английском.

Relevance and permission need separate checks

A relevant document may be forbidden to the requester. Build the evaluation corpus within accessible scope and test denials independently of ranking scores.

  • Keep permissions and document versions with the test set.
  • Check revocation, deletion and citation paths before measuring relevance.
  • Do not use an nDCG improvement as evidence that permissions are respected.

Explore ranking measures and relevance judgments →

Stanford CS276 · Retrieval evaluation · 2019 course archive · PDF pp. 3, 5–6 · consulted 2026-10-23

NIST TREC · Reciprocal rank definition · Repository snapshot 35cf096ba6d5ae08ca4803c056b31ed61a56a6d4 · consulted 2026-10-23

Официальные ссылки

Ссылки подтверждают метод. Адаптируйте проверки к вашему контексту; они не являются сертификацией. Оригинальные названия ссылок и исходные документы могут быть на другом языке.

Источники проверены .