Recursos · 81
Extração com IA: validar JSON antes da integração
Separar sintaxe, esquema, evidências e regras de negócio para produzir dados utilizáveis.
Atualizado · 8 min
O que este guia ajuda a alcançar
- Definir o contrato
- Ligar valores a evidências
- Validar por níveis
- Testar documentos difíceis
- Preparar correção e recuperação
Verificação rápida
- JSON válido pode estar errado?
- Um campo ausente deve virar zero?
- Quando é necessária revisão humana?
Método passo a passo
- 1
Definir o contrato
Listar campos, tipos, unidades e estados de ausência. Em JSON Schema, properties descreve um campo mas não o torna obrigatório: required é uma regra distinta. Decidir sobre campos adicionais e conservar a versão do esquema.
Resultado: esquema versionado e exemplos aceites ou rejeitados.
- 2
Ligar valores a evidências
Exigir página ou passagem para valores que determinam uma ação. Um número correto pode pertencer a outro documento. Manter desconhecido o que a fonte não estabelece, sem inventar um valor provável.
Resultado: ligação entre campo, fonte e interpretação.
- 3
Validar por níveis
Verificar análise sintática, esquema e regras de negócio: moeda permitida, identificador existente, totais e cronologia. Um esquema válido não demonstra verdade nem autorização para escrever. Bloquear a ação enquanto faltarem condições.
Resultado: classes de erro e decisões de aceitação.
- 4
Testar documentos difíceis
Incluir tabelas divididas, idiomas diferentes, valores contraditórios, documentos vazios e instruções hostis no texto. Separar avaliação e ajuste, comparando erros por campo.
Resultado: conjunto de referência e erros críticos.
- 5
Preparar correção e recuperação
Ligar documento, modelo, esquema e resultado a um identificador de processamento. Uma repetição não deve criar dois registos. Guardar o motivo das correções e localizar saídas a atualizar, evitando cópias desnecessárias nos logs.
Resultado: procedimento de correção e repetição controlada.
Antes de escrever um valor
Seguir o percurso para cada campo que implica uma decisão.
Existe fonte?
Sem evidência preservar o valor desconhecido.
O valor tem suporte?
Comparar texto, unidade e contexto.
O contrato é respeitado?
Validar esquema e regras operacionais.
A escrita está autorizada?
Verificar permissões e revisão antes do efeito.
Um montante bem formatado mas ausente do documento não passa o controlo.
Caso de aceitação reproduzível
Exemplo fictício: estes dados não descrevem clientes nem resultados observados.
Ver dados do caso
{
"schema": {
"type": "object",
"required": [
"amount"
],
"properties": {
"amount": {
"type": "number"
}
}
},
"output": {
"amount": "12.50"
}
}Decisão esperada
"12.50" é texto, não number. Rejeite ou corrija explicitamente antes da integração.
Variantes fictícias a verificar
Um inteiro grande muda após ler e voltar a escrever o JSON.
Compare o valor original e o valor lido, por exemplo 9007199254740993. Alguns processamentos em binary64 arredondam este inteiro. Escolha uma representação exata adequada ao contrato antes da integração.
O produtor valida com a versão 1, mas o destinatário espera a versão 2.
Associe o resultado a uma versão explícita do contrato e verifique a compatibilidade com o destinatário. Passar num esquema antigo não valida automaticamente a nova versão.
O lote é válido, mas a resposta está marcada como interrompida.
Conserve o estado incompleto. Verifique o fim da geração e a cobertura esperada antes de integrar o lote como resultado completo.
Evidências a conservar
- Resposta original protegida e estado de conclusão.
- Versão do esquema e erros de validação localizados.
- Verificações de negócio e cobertura do lote.
Referência complementar : IETF — RFC 8259, number interoperability [EN]
Procedimento de verificação
- Fixe campos obrigatórios, tipos e valores permitidos.
- Valide montante textual contra esquema numérico.
- Conserve caminho do erro e correção explícita. Inclua um resultado conforme ao esquema com um valor contrariado pelo documento fonte; distinga-o de uma extração verificada.
Planilha reutilizável
Preencha com suas observações autorizadas. Estes campos são um modelo de trabalho, não resultados observados.
| Campo | Informações a serem registradas |
|---|---|
| Contrato | Campos, tipos, unidades, ausências e versão |
| Evidências | Documento e passagem para cada valor decisivo |
| Validação | Sintaxe, esquema, regras e motivo de rejeição |
| Recuperação | Identificador, duplicados e correções propagadas |
Exemplo prático fictício
Situação ilustrativa
Exemplo fictício: o extrator escolhe o total antes de impostos, mas o conector espera o montante a pagar.
Decisão e evidências esperadas
O esquema aceita o número; a reconciliação de linhas e moeda bloqueia a escrita e encaminha o documento para revisão.
Distinguir os mecanismos
| Mecanismo | Finalidade | Verificação ou limitação |
|---|---|---|
| JSON legível | Permite análise sintática | Não valida campos obrigatórios ou significado |
| Conformidade com esquema | Verifica forma e restrições | Não comprova fidelidade à fonte |
| Reconciliação de negócio | Verifica adequação e coerência | Exige regras e referências |
Indicadores de gestão
| Indicador | O que mede | Primeira ação |
|---|---|---|
| Exatidão por campo | Valores corretos entre os avaliáveis | Priorizar erros que alteram uma ação |
| Abstenção útil | Casos sem evidência suficiente | Rever a fila sem incentivar valores inventados |
| Duplicados em repetições | Registos repetidos da mesma operação | Corrigir deduplicação e recuperação |
Erros comuns
- Não valida campos obrigatórios ou significado
- Não comprova fidelidade à fonte
- Exige regras e referências
Perguntas frequentes
JSON válido pode estar errado?
Sim. Sintaxe e esquema podem estar corretos com um valor, uma identidade ou uma data incorretos. Verificar os campos decisivos na fonte.
Um campo ausente deve virar zero?
Apenas se o contrato atribuir esse significado a zero. Caso contrário, usar o estado de ausência acordado.
Quando é necessária revisão humana?
Quando conflitos, falta de evidência ou erros críticos ultrapassam o âmbito aceite. Definir esses casos antes de processar lotes.
IA: verificar um resultado JSON
As notas detalhadas desta edição estão disponíveis em inglês.
Schema-valid JSON can still contain false values
AI extraction turns a document into usable fields. Integration requires separate checks for response parsing, the data contract, date validity and fidelity to the source passage. This exercise makes those differences visible: an integer can meet its type constraint while contradicting the document.
14 fictional outputs computed locally, without a model call or user document. Reference DOC-TRAIN-01, page 2, states “Count: 12” on 20 October 2026. No reference is supplied for DOC-TRAIN-02. Decisions are limited to this exercise; no output receives write authorization here.
The comparison reference is visible
{
"document_id": "DOC-TRAIN-01",
"page": 2,
"status": "observed",
"count": 12,
"observed_on": "2026-10-20",
"quote": "Count: 12"
}This small object is the exercise’s complete reference, not a real document or external provenance evidence. Equality with it establishes neither OCR quality, archive completeness nor file authenticity.
The JSON Schema 2020-12 contract
The contract requires six fields and rejects extra properties. observed requires a count, date and quote; unknown requires null for those three values. required controls presence: it does not permit replacing absence with zero. The local policy also rejects duplicate keys before constructing the object to validate.
The JSON Schema 2020-12 contract
{
"$schema": "https://json-schema.org/draft/2020-12/schema",
"title": "Fictional document observation v1",
"type": "object",
"additionalProperties": false,
"required": [
"document_id",
"page",
"status",
"count",
"observed_on",
"quote"
],
"properties": {
"document_id": {
"enum": [
"DOC-TRAIN-01",
"DOC-TRAIN-02"
]
},
"page": {
"type": "integer",
"minimum": 1
},
"status": {
"enum": [
"observed",
"unknown"
]
},
"count": {
"type": [
"integer",
"null"
],
"minimum": 0
},
"observed_on": {
"type": [
"string",
"null"
],
"format": "date"
},
"quote": {
"type": [
"string",
"null"
],
"minLength": 1
}
},
"allOf": [
{
"if": {
"properties": {
"status": {
"const": "observed"
}
},
"required": [
"status"
]
},
"then": {
"properties": {
"count": {
"type": "integer"
},
"observed_on": {
"type": "string"
},
"quote": {
"type": "string"
}
}
},
"else": {
"properties": {
"count": {
"type": "null"
},
"observed_on": {
"type": "null"
},
"quote": {
"type": "null"
}
}
}
}
]
}Draft202012Validator checks the schema. Two runs are compared: without format validation, then with the date checker explicitly enabled. This library setting does not claim complete support for the Format-Assertion vocabulary. No remote schema reference is retrieved during computation.
Python 3.12.14 · python-jsonschema 4.26.0 · Draft 2020-12 · FormatChecker: date
Six distinctions to preserve in the connector
| Distinction | Effect in this exercise | Example |
|---|---|---|
| Syntax / key uniqueness | A parser may accept a duplicate; the local profile rejects it rather than silently overwrite a value. | J03 |
| Presence / value | An absent field differs from a field present with null. | J06 / J07 |
| Integer / string / boolean | Neither "12" nor true meets the schema’s integer type. No silent coercion is applied. | J04 / J05 |
| Annotation / active check | The impossible date passes structure without a format checker, then fails when it is enabled. | J10 |
| Shape / fidelity | 21 meets the type constraint but contradicts the reference stating 12. | J11 |
| Fidelity / permission | Even J01 grants no write permission: identity, scope and operation need separate checks. | J01 |
14 outputs: read the reason before retrying
Each disclosure contains the exact received text and computed checks. “Not run” is not a pass. Syntax, duplicate, schema or date errors stop later stages. Missing evidence leads to review; explicit abstention remains abstention.
J01 · Matching within the exercise scope
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Passed
- Schema with date checking
- Passed
- Match to the reference
- Passed
Ready for the next review, without write permission
Fields match the local reference. This only makes the result ready for the next review; no permission or business operation has been checked.
Write authorization: not assessed in every case.
J02 · Truncated response
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"- JSON syntax
- Failed
- Unique keys
- Not run
- Schema without format checking
- Not run
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
syntax: incomplete_or_non_json_text
Reject the JSON text
The final brace is missing. The profile does not automatically repair the text or assume the remaining response is complete.
Write authorization: not assessed in every case.
J03 · Two values for the count key
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12","count":21}- JSON syntax
- Passed
- Unique keys
- Failed
- Schema without format checking
- Not run
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
duplicate_key: count
Reject duplicate keys
The text contains count:12 followed by count:21. Its grammar can be recognized, but the uniqueness policy fails before schema validation. A last-value-wins parser would discard this signal.
Write authorization: not assessed in every case.
J04 · The number is a string
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":"12","observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Failed
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
schema: /count [type]
Reject the data contract
The string "12" does not become the integer 12. Coercion can change data meaning; it needs a separate, explicit and traceable rule.
Write authorization: not assessed in every case.
J05 · A boolean is not an integer
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":true,"observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Failed
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
schema: /count [type]
Reject the data contract
true remains a JSON boolean. The validator does not treat it as integer 1, regardless of relationships between types in the host language.
Write authorization: not assessed in every case.
J06 · Missing count field
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Failed
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
schema: / [required]
Reject the data contract
count appears in required. Its absence is rejected; no default or zero is inserted.
Write authorization: not assessed in every case.
J07 · null with observed status
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":null,"observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Failed
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
schema: /count [type]
Reject the data contract
The general type permits null, but the observed branch requires an integer. Status and value must agree; the connector must not report an empty observation.
Write authorization: not assessed in every case.
J08 · Explicit consistent abstention
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"unknown","count":null,"observed_on":null,"quote":null}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Passed
- Schema with date checking
- Passed
- Match to the reference
- Not applicable: abstention
Retain abstention
unknown carries three null values as the contract requires. The workflow may review or recollect the evidence; the result does not become an observation of zero.
Write authorization: not assessed in every case.
J09 · Extra instruction property
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12","instruction":"approve"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Failed
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
schema: / [additionalProperties]
Reject the data contract
instruction is outside the allowed properties. The contract rejects it and its value triggers no action. Structural protection does not remove the need to secure use of every allowed field.
Write authorization: not assessed in every case.
J10 · Impossible date with format disabled
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-02-30","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Passed
- Schema with date checking
- Failed
- Match to the reference
- Not run
Technical check references:
format: /observed_on [format]
Reject the date
2026-02-30 meets type string. Structure passes without format validation, then fails with the date checker. Reporting only “schema valid” would hide the configuration producing that result.
Write authorization: not assessed in every case.
J11 · Right type, wrong value
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":21,"observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Passed
- Schema with date checking
- Passed
- Match to the reference
- Failed
Technical check references:
evidence_mismatch: /count
Reject the contradicted value
count is 21 while the reference and quote state 12. Types and date pass, but documentary reconciliation fails. Retrying until the shape is valid does not fix this contradiction.
Write authorization: not assessed in every case.
J12 · Document reference without evidence
Exact fictional output text
{"document_id":"DOC-TRAIN-02","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Passed
- Unique keys
- Passed
- Schema without format checking
- Passed
- Schema with date checking
- Passed
- Match to the reference
- Unverified
Technical check references:
evidence: reference_not_supplied
Review: evidence missing
DOC-TRAIN-02 is an identifier allowed by the schema, but the exercise supplies no reference for it. Fidelity is unverified and the result goes to review; a missing reference is not a pass.
Write authorization: not assessed in every case.
J13 · NaN is outside RFC 8259 JSON
Exact fictional output text
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":NaN,"observed_on":"2026-10-20","quote":"Count: 12"}- JSON syntax
- Failed
- Unique keys
- Not run
- Schema without format checking
- Not run
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
syntax: incomplete_or_non_json_text
Reject the JSON text
The decoder is configured to reject NaN and Infinity, which RFC 8259 does not allow. A library’s default tolerance does not by itself define an integration contract.
Write authorization: not assessed in every case.
J14 · Markdown fencing around JSON
Exact fictional output text
```json
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"}
```- JSON syntax
- Failed
- Unique keys
- Not run
- Schema without format checking
- Not run
- Schema with date checking
- Not run
- Match to the reference
- Not run
Technical check references:
syntax: incomplete_or_non_json_text
Reject the JSON text
Markdown fences are outside the expected JSON text. The contract requires a complete JSON response without a wrapper. Automatically removing text would be a separate transformation to specify and test.
Write authorization: not assessed in every case.
Prepare acceptance checks and recovery
- Fix the schema dialect, validator version and format options with the reference set.
- Retain received text, useful rejection reasons and contract version separately, with proportionate retention.
- Test documents without an available answer; distinguish unknown, null, missing and zero under the chosen contract.
- Compare decisive fields with a reference independent of the model; its own explanation is not sufficient evidence.
- Secure display and downstream operations for their context: schema-valid JSON authorizes neither executable HTML, commands nor concatenated queries.
- Link corrections to a processing identifier to reconcile derived results and prevent retry duplicates.
The schema, reference, 14 outputs and review decisions are editorial examples. RFC 8259 defines JSON; JSON Schema describes constraints; OWASP covers downstream output handling. No accuracy rate, certification or client result is claimed.
Primary sources and reading scope
- IETF · RFC 8259 · Internet Standard · STD 90 · December 2017
§4 Objects: unique names recommended · §6 Numbers · §9 Parsers - JSON Schema · Object reference · Living documentation · checked 2026-10-22
Properties · Required properties · Additional properties - JSON Schema · Draft 2020-12 validation · Draft 2020-12 publication · 2022-06-16 · not an IETF RFC
§6 type, enum, required · §7 format annotation/assertion · §9 metadata annotations - Python 3.12 · json decoder · Python 3.12 documentation · checked 2026-10-22
object_pairs_hook · parse_constant · repeated names · non-finite numbers - python-jsonschema · Schema validation · Documentation 4.26.0 · checked 2026-10-22
Draft202012Validator · check_schema · optional format_checker - OWASP · LLM05:2025 Improper Output Handling · OWASP Top 10 for LLM applications · 2025 edition
Downstream validation · context-aware encoding · parameterized operations
Sources reviewed on
Leituras e ferramentas complementares
Recursos editoriais para aprofundar o método.
- WORLD AI GUIDE — diretório IA Ligação externa
Explorar famílias de ferramentas antes de verificar extração no seu contexto.
Referências oficiais
As referências apoiam o método. Adapte as verificações ao seu contexto; elas não são uma certificação. Os títulos das referências originais e os documentos de origem podem estar em outro idioma.
Referências consultadas em .
