Recursos · 81

Extração com IA: validar JSON antes da integração

Separar sintaxe, esquema, evidências e regras de negócio para produzir dados utilizáveis.

Atualizado · 8 min

Bancada vazia de perícia digital com dispositivos e ferramentas Ilustração editorial gerada com IA

O que este guia ajuda a alcançar

  • Definir o contrato
  • Ligar valores a evidências
  • Validar por níveis
  • Testar documentos difíceis
  • Preparar correção e recuperação

Verificação rápida

  • JSON válido pode estar errado?
  • Um campo ausente deve virar zero?
  • Quando é necessária revisão humana?

Método passo a passo

  1. 1

    Definir o contrato

    Listar campos, tipos, unidades e estados de ausência. Em JSON Schema, properties descreve um campo mas não o torna obrigatório: required é uma regra distinta. Decidir sobre campos adicionais e conservar a versão do esquema.

    Resultado: esquema versionado e exemplos aceites ou rejeitados.

  2. 2

    Ligar valores a evidências

    Exigir página ou passagem para valores que determinam uma ação. Um número correto pode pertencer a outro documento. Manter desconhecido o que a fonte não estabelece, sem inventar um valor provável.

    Resultado: ligação entre campo, fonte e interpretação.

  3. 3

    Validar por níveis

    Verificar análise sintática, esquema e regras de negócio: moeda permitida, identificador existente, totais e cronologia. Um esquema válido não demonstra verdade nem autorização para escrever. Bloquear a ação enquanto faltarem condições.

    Resultado: classes de erro e decisões de aceitação.

  4. 4

    Testar documentos difíceis

    Incluir tabelas divididas, idiomas diferentes, valores contraditórios, documentos vazios e instruções hostis no texto. Separar avaliação e ajuste, comparando erros por campo.

    Resultado: conjunto de referência e erros críticos.

  5. 5

    Preparar correção e recuperação

    Ligar documento, modelo, esquema e resultado a um identificador de processamento. Uma repetição não deve criar dois registos. Guardar o motivo das correções e localizar saídas a atualizar, evitando cópias desnecessárias nos logs.

    Resultado: procedimento de correção e repetição controlada.

Antes de escrever um valor

Seguir o percurso para cada campo que implica uma decisão.

  1. Existe fonte?

    Sem evidência preservar o valor desconhecido.

  2. O valor tem suporte?

    Comparar texto, unidade e contexto.

  3. O contrato é respeitado?

    Validar esquema e regras operacionais.

  4. A escrita está autorizada?

    Verificar permissões e revisão antes do efeito.

Um montante bem formatado mas ausente do documento não passa o controlo.

Caso de aceitação reproduzível

Exemplo fictício: estes dados não descrevem clientes nem resultados observados.

Ver dados do caso
{
    "schema": {
        "type": "object",
        "required": [
            "amount"
        ],
        "properties": {
            "amount": {
                "type": "number"
            }
        }
    },
    "output": {
        "amount": "12.50"
    }
}

Decisão esperada

"12.50" é texto, não number. Rejeite ou corrija explicitamente antes da integração.

Variantes fictícias a verificar

Um inteiro grande muda após ler e voltar a escrever o JSON.

Compare o valor original e o valor lido, por exemplo 9007199254740993. Alguns processamentos em binary64 arredondam este inteiro. Escolha uma representação exata adequada ao contrato antes da integração.

O produtor valida com a versão 1, mas o destinatário espera a versão 2.

Associe o resultado a uma versão explícita do contrato e verifique a compatibilidade com o destinatário. Passar num esquema antigo não valida automaticamente a nova versão.

O lote é válido, mas a resposta está marcada como interrompida.

Conserve o estado incompleto. Verifique o fim da geração e a cobertura esperada antes de integrar o lote como resultado completo.

Evidências a conservar

  • Resposta original protegida e estado de conclusão.
  • Versão do esquema e erros de validação localizados.
  • Verificações de negócio e cobertura do lote.

Referência complementar : IETF — RFC 8259, number interoperability [EN]

Procedimento de verificação

  1. Fixe campos obrigatórios, tipos e valores permitidos.
  2. Valide montante textual contra esquema numérico.
  3. Conserve caminho do erro e correção explícita. Inclua um resultado conforme ao esquema com um valor contrariado pelo documento fonte; distinga-o de uma extração verificada.

JSON Schema — Object validation

Planilha reutilizável

Preencha com suas observações autorizadas. Estes campos são um modelo de trabalho, não resultados observados.

CampoInformações a serem registradas
ContratoCampos, tipos, unidades, ausências e versão
EvidênciasDocumento e passagem para cada valor decisivo
ValidaçãoSintaxe, esquema, regras e motivo de rejeição
RecuperaçãoIdentificador, duplicados e correções propagadas

Exemplo prático fictício

Situação ilustrativa

Exemplo fictício: o extrator escolhe o total antes de impostos, mas o conector espera o montante a pagar.

Decisão e evidências esperadas

O esquema aceita o número; a reconciliação de linhas e moeda bloqueia a escrita e encaminha o documento para revisão.

Distinguir os mecanismos

MecanismoFinalidadeVerificação ou limitação
JSON legívelPermite análise sintáticaNão valida campos obrigatórios ou significado
Conformidade com esquemaVerifica forma e restriçõesNão comprova fidelidade à fonte
Reconciliação de negócioVerifica adequação e coerênciaExige regras e referências

Indicadores de gestão

IndicadorO que medePrimeira ação
Exatidão por campoValores corretos entre os avaliáveisPriorizar erros que alteram uma ação
Abstenção útilCasos sem evidência suficienteRever a fila sem incentivar valores inventados
Duplicados em repetiçõesRegistos repetidos da mesma operaçãoCorrigir deduplicação e recuperação

Erros comuns

  • Não valida campos obrigatórios ou significado
  • Não comprova fidelidade à fonte
  • Exige regras e referências

Perguntas frequentes

JSON válido pode estar errado?

Sim. Sintaxe e esquema podem estar corretos com um valor, uma identidade ou uma data incorretos. Verificar os campos decisivos na fonte.

Um campo ausente deve virar zero?

Apenas se o contrato atribuir esse significado a zero. Caso contrário, usar o estado de ausência acordado.

Quando é necessária revisão humana?

Quando conflitos, falta de evidência ou erros críticos ultrapassam o âmbito aceite. Definir esses casos antes de processar lotes.

IA: verificar um resultado JSON

As notas detalhadas desta edição estão disponíveis em inglês.

Schema-valid JSON can still contain false values

AI extraction turns a document into usable fields. Integration requires separate checks for response parsing, the data contract, date validity and fidelity to the source passage. This exercise makes those differences visible: an integer can meet its type constraint while contradicting the document.

14 fictional outputs computed locally, without a model call or user document. Reference DOC-TRAIN-01, page 2, states “Count: 12” on 20 October 2026. No reference is supplied for DOC-TRAIN-02. Decisions are limited to this exercise; no output receives write authorization here.

Documento iluminado e cartuchos de dados numa estação de inspeção cibernética vazia Ilustração editorial gerada com IA
Generated conceptual illustration: an empty document inspection and structured-data workstation.

The comparison reference is visible

{
    "document_id": "DOC-TRAIN-01",
    "page": 2,
    "status": "observed",
    "count": 12,
    "observed_on": "2026-10-20",
    "quote": "Count: 12"
}

This small object is the exercise’s complete reference, not a real document or external provenance evidence. Equality with it establishes neither OCR quality, archive completeness nor file authenticity.

The JSON Schema 2020-12 contract

The contract requires six fields and rejects extra properties. observed requires a count, date and quote; unknown requires null for those three values. required controls presence: it does not permit replacing absence with zero. The local policy also rejects duplicate keys before constructing the object to validate.

The JSON Schema 2020-12 contract
{
    "$schema": "https://json-schema.org/draft/2020-12/schema",
    "title": "Fictional document observation v1",
    "type": "object",
    "additionalProperties": false,
    "required": [
        "document_id",
        "page",
        "status",
        "count",
        "observed_on",
        "quote"
    ],
    "properties": {
        "document_id": {
            "enum": [
                "DOC-TRAIN-01",
                "DOC-TRAIN-02"
            ]
        },
        "page": {
            "type": "integer",
            "minimum": 1
        },
        "status": {
            "enum": [
                "observed",
                "unknown"
            ]
        },
        "count": {
            "type": [
                "integer",
                "null"
            ],
            "minimum": 0
        },
        "observed_on": {
            "type": [
                "string",
                "null"
            ],
            "format": "date"
        },
        "quote": {
            "type": [
                "string",
                "null"
            ],
            "minLength": 1
        }
    },
    "allOf": [
        {
            "if": {
                "properties": {
                    "status": {
                        "const": "observed"
                    }
                },
                "required": [
                    "status"
                ]
            },
            "then": {
                "properties": {
                    "count": {
                        "type": "integer"
                    },
                    "observed_on": {
                        "type": "string"
                    },
                    "quote": {
                        "type": "string"
                    }
                }
            },
            "else": {
                "properties": {
                    "count": {
                        "type": "null"
                    },
                    "observed_on": {
                        "type": "null"
                    },
                    "quote": {
                        "type": "null"
                    }
                }
            }
        }
    ]
}

Draft202012Validator checks the schema. Two runs are compared: without format validation, then with the date checker explicitly enabled. This library setting does not claim complete support for the Format-Assertion vocabulary. No remote schema reference is retrieved during computation.

Python 3.12.14 · python-jsonschema 4.26.0 · Draft 2020-12 · FormatChecker: date

Six distinctions to preserve in the connector

Six distinctions to preserve in the connector
DistinctionEffect in this exerciseExample
Syntax / key uniquenessA parser may accept a duplicate; the local profile rejects it rather than silently overwrite a value.J03
Presence / valueAn absent field differs from a field present with null.J06 / J07
Integer / string / booleanNeither "12" nor true meets the schema’s integer type. No silent coercion is applied.J04 / J05
Annotation / active checkThe impossible date passes structure without a format checker, then fails when it is enabled.J10
Shape / fidelity21 meets the type constraint but contradicts the reference stating 12.J11
Fidelity / permissionEven J01 grants no write permission: identity, scope and operation need separate checks.J01

14 outputs: read the reason before retrying

Each disclosure contains the exact received text and computed checks. “Not run” is not a pass. Syntax, duplicate, schema or date errors stop later stages. Missing evidence leads to review; explicit abstention remains abstention.

J01 · Matching within the exercise scope

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Passed
Schema with date checking
Passed
Match to the reference
Passed

Ready for the next review, without write permission

Fields match the local reference. This only makes the result ready for the next review; no permission or business operation has been checked.

Write authorization: not assessed in every case.

J02 · Truncated response

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"
JSON syntax
Failed
Unique keys
Not run
Schema without format checking
Not run
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • syntax: incomplete_or_non_json_text

Reject the JSON text

The final brace is missing. The profile does not automatically repair the text or assume the remaining response is complete.

Write authorization: not assessed in every case.

J03 · Two values for the count key

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12","count":21}
JSON syntax
Passed
Unique keys
Failed
Schema without format checking
Not run
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • duplicate_key: count

Reject duplicate keys

The text contains count:12 followed by count:21. Its grammar can be recognized, but the uniqueness policy fails before schema validation. A last-value-wins parser would discard this signal.

Write authorization: not assessed in every case.

J04 · The number is a string

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":"12","observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Failed
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • schema: /count [type]

Reject the data contract

The string "12" does not become the integer 12. Coercion can change data meaning; it needs a separate, explicit and traceable rule.

Write authorization: not assessed in every case.

J05 · A boolean is not an integer

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":true,"observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Failed
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • schema: /count [type]

Reject the data contract

true remains a JSON boolean. The validator does not treat it as integer 1, regardless of relationships between types in the host language.

Write authorization: not assessed in every case.

J06 · Missing count field

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Failed
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • schema: / [required]

Reject the data contract

count appears in required. Its absence is rejected; no default or zero is inserted.

Write authorization: not assessed in every case.

J07 · null with observed status

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":null,"observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Failed
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • schema: /count [type]

Reject the data contract

The general type permits null, but the observed branch requires an integer. Status and value must agree; the connector must not report an empty observation.

Write authorization: not assessed in every case.

J08 · Explicit consistent abstention

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"unknown","count":null,"observed_on":null,"quote":null}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Passed
Schema with date checking
Passed
Match to the reference
Not applicable: abstention

Retain abstention

unknown carries three null values as the contract requires. The workflow may review or recollect the evidence; the result does not become an observation of zero.

Write authorization: not assessed in every case.

J09 · Extra instruction property

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12","instruction":"approve"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Failed
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • schema: / [additionalProperties]

Reject the data contract

instruction is outside the allowed properties. The contract rejects it and its value triggers no action. Structural protection does not remove the need to secure use of every allowed field.

Write authorization: not assessed in every case.

J10 · Impossible date with format disabled

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-02-30","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Passed
Schema with date checking
Failed
Match to the reference
Not run

Technical check references:

  • format: /observed_on [format]

Reject the date

2026-02-30 meets type string. Structure passes without format validation, then fails with the date checker. Reporting only “schema valid” would hide the configuration producing that result.

Write authorization: not assessed in every case.

J11 · Right type, wrong value

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":21,"observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Passed
Schema with date checking
Passed
Match to the reference
Failed

Technical check references:

  • evidence_mismatch: /count

Reject the contradicted value

count is 21 while the reference and quote state 12. Types and date pass, but documentary reconciliation fails. Retrying until the shape is valid does not fix this contradiction.

Write authorization: not assessed in every case.

J12 · Document reference without evidence

Exact fictional output text

{"document_id":"DOC-TRAIN-02","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Passed
Unique keys
Passed
Schema without format checking
Passed
Schema with date checking
Passed
Match to the reference
Unverified

Technical check references:

  • evidence: reference_not_supplied

Review: evidence missing

DOC-TRAIN-02 is an identifier allowed by the schema, but the exercise supplies no reference for it. Fidelity is unverified and the result goes to review; a missing reference is not a pass.

Write authorization: not assessed in every case.

J13 · NaN is outside RFC 8259 JSON

Exact fictional output text

{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":NaN,"observed_on":"2026-10-20","quote":"Count: 12"}
JSON syntax
Failed
Unique keys
Not run
Schema without format checking
Not run
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • syntax: incomplete_or_non_json_text

Reject the JSON text

The decoder is configured to reject NaN and Infinity, which RFC 8259 does not allow. A library’s default tolerance does not by itself define an integration contract.

Write authorization: not assessed in every case.

J14 · Markdown fencing around JSON

Exact fictional output text

```json
{"document_id":"DOC-TRAIN-01","page":2,"status":"observed","count":12,"observed_on":"2026-10-20","quote":"Count: 12"}
```
JSON syntax
Failed
Unique keys
Not run
Schema without format checking
Not run
Schema with date checking
Not run
Match to the reference
Not run

Technical check references:

  • syntax: incomplete_or_non_json_text

Reject the JSON text

Markdown fences are outside the expected JSON text. The contract requires a complete JSON response without a wrapper. Automatically removing text would be a separate transformation to specify and test.

Write authorization: not assessed in every case.

Prepare acceptance checks and recovery

  1. Fix the schema dialect, validator version and format options with the reference set.
  2. Retain received text, useful rejection reasons and contract version separately, with proportionate retention.
  3. Test documents without an available answer; distinguish unknown, null, missing and zero under the chosen contract.
  4. Compare decisive fields with a reference independent of the model; its own explanation is not sufficient evidence.
  5. Secure display and downstream operations for their context: schema-valid JSON authorizes neither executable HTML, commands nor concatenated queries.
  6. Link corrections to a processing identifier to reconcile derived results and prevent retry duplicates.

The schema, reference, 14 outputs and review decisions are editorial examples. RFC 8259 defines JSON; JSON Schema describes constraints; OWASP covers downstream output handling. No accuracy rate, certification or client result is claimed.

Primary sources and reading scope

Sources reviewed on

Leituras e ferramentas complementares

Recursos editoriais para aprofundar o método.

Referências oficiais

As referências apoiam o método. Adapte as verificações ao seu contexto; elas não são uma certificação. Os títulos das referências originais e os documentos de origem podem estar em outro idioma.

Referências consultadas em .