Resurssit · 58

RAG: dokumenttien käyttöoikeuksien ja eristämisen tarkistaminen

Testaa haku, viittaukset, välimuistit ja peruutukset, jotta asiakirja-avustaja kunnioittaa jokaisen käyttäjän käyttöoikeuksia.

Päivitetty · 7 min

Yksityinen tekoälylaskentainfrastruktuuri tyhjässä laboratoriossa Tekoälyllä luotu toimituksellinen kuvitus

Mitä tämä opas auttaa saavuttamaan

  • Määritä rajat
  • Suodata ennen altistumista
  • Erottele välimuistit
  • Peruutuksen suorittaminen

Pikatarkistus

  • Riittääkö erillinen vektorinimiavaruus?
  • Pitäisikö käyttöoikeuksien olla kehotteessa?
  • Miten luottamuksellisia dokumentteja voidaan välttää testauksessa?

Vaiheittainen menetelmä

  1. 1

    Määritä rajat

    Määritä jokaiselle dokumentille omistaja, laajuus ja käyttöoikeussääntö. OWASP kuvaa kontekstien välisen vuodon väärin kohdistetuista vektoritallennusoikeuksien vaihtoehdoista. Ehdottamamme menetelmä käsittelee myös paloja ja metatietoja suojattuina objekteina.

    Tuotanto: dokumentti-, ryhmä- ja laajuusluettelo.

  2. 2

    Suodata ennen altistumista

    Valtuutetaan valtuutus hakupalvelussa ennen kuin palo saavuttaa mallin. Katetaan vektorihaku, leksikaalinen haku, graafit ja suorat lataukset. Kehotekäsky ei voi korvata palvelinpuolen valtuutusta.

    Tuotanto: päätöspisteet ja puuttuvien identiteettien käyttäytyminen.

  3. 3

    Erottele välimuistit

    Säilytettyjen hakutulosten, keskustelujen, viittausten ja vastausten luettelo. Tarkista, että uudelleenkäyttö riippuu asiaankuuluvasta käyttökontekstista. Asiakkaan nimeävä indeksikenttä ei itsessään todista eristämistä.

    Tuotanto: välimuistiavaimet ja erotteluskenaariot.

  4. 4

    Peruutuksen suorittaminen

    Poista käyttöoikeus, poista dokumentti ja muuta ryhmää käyttämällä ei-arkaluonteisia testidokumentteja. Toista uudelleen ennen muutosta avattu keskustelu. Mittaa, milloin paloja, linkkejä ja säilytettyjä vastauksia ei enää ole saatavilla.

    Tuotanto: aikaleimatut peruutustodisteet ja aukot.

  5. 5

    Säilytä negatiiviset testit

    Kysy sama kysymys valtuutetulta käyttäjältä, toiselta ryhmältä ja tuntemattomalta henkilöllisyydeltä. Tarkasta tiedostonimet, otteet, viittaukset ja lokit. Toista uudelleen indeksin tai liittimen muutosten jälkeen; muutamat hyväksyttävät tapaukset muodostavat vain rajoitetun kattavuuden.

    Toimitettava: testimatriisi ja korjauksen omistaja.

Uudelleenkäytettävä laskentataulukko

Täytä valtuutetut havaintosi. Nämä kentät ovat työskentelymalli, eivät havaittuja tuloksia.

KenttäKirjattavat tiedot
Asiakirja / osaOmistaja ja laajuus
Testaa identiteettiSallittu ryhmä, muu ryhmä, puuttuva identiteetti
KäyttöreittiHaku, viittaus, tiedosto tai välimuisti
TulosOdotettu, havaittu, päivämäärä ja korjaus

Kuvitteellinen esimerkki

Havainnollistava tilanne

Kuvitteellinen esimerkki: tiedot eivät kuvaa asiakasta tai havaittua tulosta. Kaksi eri oikeuksin toimivaa osastoa käyttää avustajaa, joka hakee samasta aineistosta ilman johdonmukaista suodatusta.

Päätös ja odotettu näyttö

Luo testitunnuksia ja kuvitteellisia asiakirjoja, joilla on eri käyttöoikeudet. Tarkista haku, mallille välitetyt katkelmat, lähdeviitteet ja kieltäytymiset. Estä luvaton tiedon paljastuminen ennen vastauksen tuottamista. Mallille annettu ohje ei korvaa käyttöoikeuksien valvontaa.

Mekanismien erottaminen

MekanismiTarkoitusVahvistus tai rajoitus
HakusuodatinRajoita noudettuja palojaKattaa myös leksikaaliset reitit ja suorat linkit
HylkäyskehoteOhjaa vastauskäyttäytyminenÄlä delegoi sille valtuutusta
VastausvälimuistiKäytä tulosta uudelleenTarkista käyttöoikeuskonteksti ennen uudelleenkäyttöä

Johdon indikaattorit

IndikaattoriMitä se mittaaEnsimmäinen toimenpide
Havaitut vuodotTestitiedot paljastuvat soveltamisalan ulkopuolellaEstä vaikutusalueen käyttö ja tarkista syy
PeruutusviiveAika, kunnes kaikki testatut reitit hylkäävätNimivälimuistit ovat edelleen käytettävissä
Reitin kattavuusYhdistimet ja hakutilat on harjoitettuTunnista testaamattomat polut

Yleisiä virheitä

  • Kattaa myös leksikaaliset reitit ja suorat linkit
  • Älä delegoi sille valtuutusta
  • Tarkista käyttöoikeuskonteksti ennen uudelleenkäyttöä

Usein kysytyt kysymykset

Riittääkö erillinen vektorinimiavaruus?

Se auttaa osittamaan tietoja, mutta välimuistien, tiedostolinkkien ja työkalujen on kunnioitettava samaa rajaa.

Pitäisikö käyttöoikeuksien olla kehotteessa?

Hyödyllinen konteksti voi päästä malliin; tiedot paljastavan palvelun on valvottava käyttöoikeuspäätöksiä.

Miten luottamuksellisia dokumentteja voidaan välttää testauksessa?

Luo jokaiselle ryhmälle kuvitteellisia vartija-asiakirjoja erillisillä merkeillä ja tarkista sitten vastaukset ja viittaukset.

RAG: käyttöoikeudet, viitteet ja välimuistit

Tämän kieliversion tarkemmat lähdekuvaukset ovat englanniksi.

An accurate answer can disclose a forbidden document. Retrieval relevance, citation validity and access authorisation are separate checks. The service providing passages must enforce the current identity’s rights before exposing them to the model.

Fictional CIE teaching set: four technical identities, six documents and three states. It illustrates a proposed policy without querying your system, authenticating real users or measuring product security. OWASP references describe risk families; the scenarios, rules and numbers below are our examples.

References consulted on .

Kaksi erillistä asiakirjatallennusaluetta tyhjässä kyberlaboratoriossa Tekoälyllä luotu toimituksellinen kuvitus
Two storage zones in an empty lab. The depicted separation establishes neither real isolation nor certification.

Explore the fictional document policy

Choose identity, document, state and access path. The result is the decision expected under this policy, not an observed test of your application. All four paths should enforce the same access decision.

Local browser calculation with no connection to an AI model, vector database or account. No free-text field, secret or document to send.

Matrix of 24 expected decisions

Ops has group ops; Alpha has alpha; Beta has beta. The unauthenticated identity has no access. Documents without an explicit rule are denied.

10 allowed accesses across 24 fictional combinations

1 · Initial rights
Identity / documentCross-team procedureAlpha noteBeta noteOps fileOld Alpha noteUnclassified document
Ops serviceAllowedAllowedAllowedAllowedAllowedDenied
Alpha serviceAllowedAllowedDeniedDeniedAllowedDenied
Beta serviceAllowedDeniedAllowedDeniedDeniedDenied
UnauthenticatedDeniedDeniedDeniedDeniedDeniedDenied

Three states with reproducible outcomes

Three states with reproducible outcomes
Fictional statePolicy changeAllowed accesses / 24
1 · Initial rightsOps has group ops; Alpha has alpha; Beta has beta. The unauthenticated identity has no access. Documents without an explicit rule are denied.10 / 24
2 · Alpha group removedAlpha remains authenticated but no longer has any required group. The cross-team procedure also requires one of ops, alpha or beta, so Alpha loses access to it as well. Ops and Beta groups are unchanged.7 / 24
3 · Group removed and old note deletedAlpha’s group removal persists. The old Alpha note is deleted and denied to every identity, including Ops. Other document rules stay unchanged.6 / 24

These counts describe a small closed set, not a security rate. State changes are instant in this demonstration. In production, measure the actual delay on every path; revoking a right cannot retroactively erase a copy already read or exported.

Twelve replay cases with positive controls and expected evidence

Fictional scenarios. Buttons populate the demonstration and run no penetration test. To assess an application, compare each expectation with an actual trace from an authorised environment using sentinel data.

Twelve replay cases with positive controls and expected evidence
Situation and referenceDemonstration inputDecision and evidence to retain
The group’s own document

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Alpha service
Alpha note
1 · Initial rights
Vector retrieval

Allowed in this example

Positive control: retain the permitted fictional passage and service decision. A system denying everything does not pass the functional test.

Another group’s document

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Beta service
Alpha note
1 · Initial rights
Vector retrieval

Denied in this example

Check that the passage, sensitive title and metadata are absent from data supplied to the model.

The secondary lexical branch

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Beta service
Alpha note
1 · Initial rights
Lexical / hybrid retrieval

Denied in this example

Retain each branch’s decisions before fusion and the final result. No vector leak does not establish lexical coverage.

A known citation identifier

OWASP · API1:2023 Broken Object Level Authorization

Beta service
Alpha note
1 · Initial rights
Citation / file resolution

Denied in this example

Call citation resolution using the Beta test identity; retain the object denial, not just the absence of a link in the answer.

An old cached answer

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Alpha service
Alpha note
2 · Alpha group removed
Cached answer or passage

Denied in this example

Create the answer before group removal and replay afterwards. Check that old passages are not returned under current rights.

The cross-team procedure after removal

OWASP · API1:2023 Broken Object Level Authorization

Alpha service
Cross-team procedure
2 · Alpha group removed
Vector retrieval

Denied in this example

This document requires an explicit group; remaining authenticated is insufficient. Retain the rule and membership change explaining the denial.

The unchanged group

OWASP · LLM08:2025 Vector and Embedding Weaknesses

Beta service
Beta note
2 · Alpha group removed
Lexical / hybrid retrieval

Allowed in this example

Beta positive control: confirm that revocation handling does not block another authorised group.

The deleted but remembered document

OWASP · API1:2023 Broken Object Level Authorization

Ops service
Old Alpha note
3 · Group removed and old note deleted
Cached answer or passage

Denied in this example

Try an old citation and cache after deletion. Record object state and refusal to return it; separately verify removal of copies under your policy.

A document without a rule

OWASP · API1:2023 Broken Object Level Authorization

Ops service
Unclassified document
1 · Initial rights
Vector retrieval

Denied in this example

Even Ops has no implicit privilege. Retain the handling of an unclassified document and the process for correcting its access rule.

Access without an authenticated identity

OWASP · API1:2023 Broken Object Level Authorization

Unauthenticated
Cross-team procedure
1 · Initial rights
Citation / file resolution

Denied in this example

Check citation paths and their errors: reserved content must not be exposed during a denied attempt.

A source claims higher authority

OWASP · LLM01:2025 Prompt Injection

Beta service
Ops file
1 · Initial rights
Cached answer or passage

Denied in this example

A sentence inside the document changes neither groups nor service rules. Retain the technical denial even if model wording is persuasive.

The Ops file remains allowed

OWASP · LLM06:2025 Excessive Agency

Ops service
Ops file
3 · Group removed and old note deleted
Citation / file resolution

Allowed in this example

Positive control after both changes: establish this specific access without granting Ops the unclassified or deleted document.

Document six technical boundaries

Collection
Retain document origin, version and status. Internal content can also carry hostile instructions. OWASP · LLM01:2025 Prompt Injection →
Authorisation
Check identity, object and groups in the service. Prompt text is not the permissions engine. OWASP · API1:2023 Broken Object Level Authorization →
Generation and rendering
Validate outputs for their destination: text, HTML, query or tool argument. A plausible answer is not directly executable input. OWASP · LLM05:2025 Improper Output Handling →
Tool action
Separate reading, proposing and modifying. Limit function, permission and autonomy to the task; read access does not authorise sending. OWASP · LLM06:2025 Excessive Agency →
Configuration
Keep secrets out of the system prompt. Confidentiality of its wording does not replace access controls. OWASP · LLM07:2025 System Prompt Leakage →
Consumption
Set request, duration and action limits, then exercise stopping and degraded operation with a demonstration budget. OWASP · LLM10:2025 Unbounded Consumption →

Useful traces without copying documents

Link test identifier, policy version, technical identity and effective groups, document identifier/version, access path, decision and timestamp. For revocation, add the change time and first observed denial per path. Use demonstration markers instead of secrets; restrict logs to necessary information and protect their access.

Continue with prompt injection testing →

Sources, editions and scope of the example

OWASP 2025 and API 2023 editions are explicitly identified. NIST AI 100-2 E2025 is a taxonomy published in March 2025; its page notes an April PDF correction and a June 2025 potential-update note. None certifies this simulator or your application.

RAG: osuvuus ja järjestys

Tämän kieliversion tarkemmat lähdekuvaukset ovat englanniksi.

Relevance and permission need separate checks

A relevant document may be forbidden to the requester. Build the evaluation corpus within accessible scope and test denials independently of ranking scores.

  • Keep permissions and document versions with the test set.
  • Check revocation, deletion and citation paths before measuring relevance.
  • Do not use an nDCG improvement as evidence that permissions are respected.

Explore ranking measures and relevance judgments →

Stanford CS276 · Retrieval evaluation · 2019 course archive · PDF pp. 3, 5–6 · consulted 2026-10-23

NIST TREC · Reciprocal rank definition · Repository snapshot 35cf096ba6d5ae08ca4803c056b31ed61a56a6d4 · consulted 2026-10-23

Viralliset viitteet

Viitteet tukevat menetelmää. Sovita tarkastukset kontekstiisi; ne eivät ole sertifiointia. Alkuperäiset viitteiden otsikot ja lähdeasiakirjat voivat olla toisella kielellä.

Lähteet tarkistettu .