リソース · 49
バージョン変更前にAI回帰を評価する
同じタスクに関するバージョンを比較し、局所的な損失を特定し、平均値ではなく事例に基づいて意思決定を行う。
更新済み · 7 min
このガイドが達成するのに役立つこと
- テストされた変更を分離する
- 独立した参照セットを保持する
- セグメントごとに障害を検査する
- シャットダウンまたはロールバックを準備する
クイックチェック
- どのコンポーネントが変更されたか?
- 候補の最適化にテストセットが使用されましたか?
- アノテーションの不一致は誰が解決しますか?
- 平均値は重大なエラーを隠蔽する可能性があるか?
- 以前の設定を復元できるか?
手順
- 1
タスクと拒否を定義する
期待される出力、許容されるデータ、およびコストのかかるエラーについて記述する。 正確性、有用性、適切な拒否、およびアクションの影響を区別する。 NISTのフレームワークは、状況に応じた測定を求めており、普遍的な信頼性スコアは提供していない。
成果物:評価基準と決定権者。
- 2
参照と発見を分離する。
安定したデータセットを最適化から除外する。 匿名化された新しいフィードバック事例は別途追加する。これらは盲点を明らかにするが、比較の分母を密かに変更してはならない。
成果物:来歴付きのバージョン管理されたデータセット。
- 3
文書注釈。
回答が許容可能、部分的、または不適切である理由を説明する。 有能なレビュー担当者が曖昧さを解消し、意見の相違の理由を保持する。 自由度の高いタスクでは、単一の参照回答は制約が強すぎる可能性がある。
成果物:ルーブリックと判定済み事例。
- 4
同一条件下での比較
記録されたバージョン、パラメータ、ツール、ソースを用いて、同一の入力を再現する。 出力が異なる場合は試行を繰り返し、変動を報告する。 モデルの失敗、データの欠落、ツールの利用不可、およびテストの不具合を分離する。
成果物:ペアになった結果と最小限に抑えられたトレース。
- 5
リスクファミリーによる判断
平均値が改善した場合でも、言語、文書の種類、および機密性の高い状況に基づいて損失を検査する。 結果を読み取る前に、停止、修正、および限定リリースの基準を定義する。 重大なケースが1件でも発生した場合は、リリースを保留する正当な理由となる。
成果物:決定、留保事項、および例外。
- 6
リリース後の再現
復元可能な構成と連絡可能な所有者を準備する。 局所的な成功をすべての使用の証拠として扱わずに、早期のフィードバックをテストセットと比較する。 データまたは依存関係が変更された場合は再評価する。
成果物:監視およびロールバック手順。
理解し、計算し、判断する
同じケースを比較する:純増と個別の退行
全体の率だけでは、どのケースが変わったか分かりません。架空の例では、事前に決めた同じ基準で各タスクのAとBを許容できるか判定します。
タスクによっては適切な回答拒否も許容できます。一方の判定が欠けるケースは別に保管し、失敗扱いにしません。
| A / B | Bは許容 | Bは不許容 |
|---|---|---|
| Aは許容 | 70両方とも許容 | 10AからBへの損失 |
| Aは不許容 | 15AからBへの改善 | 5両方とも不許容 |
計算式
N = c + l + g + e ; A% = 100(c + l)/N ; B% = 100(c + g)/N ; Δpp = 100(g − l)/N
遷移を解釈する
率だけでは決まらないこと
架空の分岐は計算欄の入力値とは独立しています。
- 対応付け
ケースID、バージョン、試験条件を揃えます。
- 判定
同じ基準を使い、欠落や曖昧な判定を解決します。
- 確認
判断の前にリスクの種類ごとに損失を確認します。
架空の演習であり、実システムの評価ではありません。
同じ率なら同じ許容回答?
- 観察
- 別の集合には改善10件と損失10件があります。
- 期待する解釈
- 純差はゼロでも20件の状態が変わります。
Bの判定が欠けた?
- 観察
- Aは判定済みで、Bはまだです。
- 期待する解釈
- 完全な表の外に保管し、欠落を明示して判定を得ます。
判定ルールが変わった?
- 観察
- Aは旧基準、Bは新基準を使っています。
- 期待する解釈
- 比較前に共通のルールで両方を再判定します。
重大な損失が1件だけ?
- 観察
- 損失の1件が、事前にリリース阻止条件とした分離ルールに違反しました。
- 期待する解釈
- この範囲のリリースを停止します。15件の改善では阻止条件は解消しません。
再利用可能なワークシート
承認された観察結果を記入してください。 これらのフィールドは作業用テンプレートであり、観察結果ではありません。
| フィールド | 記録する情報 |
|---|---|
| ケースとセグメント | 安定識別子、言語、タスクタイプ |
| 期待値 | 受入基準と参照証拠 |
| バージョンA/B | 結果、反復、失敗原因 |
| 決定 | 承認、修正、または停止;所有者と証拠 |
架空の事例
具体的な状況
架空の例です。顧客や実際の観測結果を示すデータではありません。 分類モデルの総合スコアは向上しましたが、緊急対応が必要な依頼の検出は悪化しています。
決定と期待される証拠
同じ事例を再実行し、依頼の種類別に結果を保存して、重大な誤りを共通の定義で確認します。 重大さ、件数、回復可能性で判断します。平均値が最も高いモデルが、そのサービスに最適とは限りません。
メカニズムの区別
| メカニズム | 目的 | 検証または制限 |
|---|---|---|
| 安定セット | バージョンの比較 | 最適化の対象外とする |
| 新規ケース | 盲点の発見 | 過去の結果とは別に報告する |
| 運用中の観察 | 実際の使用状況の理解 | 権限、最小化、およびコンテキストの尊重 |
管理指標
| 指標 | 測定対象 | 最初のアクション |
|---|---|---|
| ペア損失 | 以前は合格していたケースが不合格となる | 各重要損失の検査 |
| アノテーションの不一致 | 判断が異なるケース | 比較前に評価基準を明確にする |
| セグメントカバレッジ | 実際に表現された状況 | 未テストの使用箇所の命名 |
よくある間違い
- 最終テストでの最適化
- セットとバージョンを同時に変更する
- 自動判定を真実として扱う
- 平均値に基づいて重大な損失を受け入れる 改善点
よくある質問
自動審査システムは必要ですか?
いいえ。 評価基準が検証されていれば、トリアージを迅速化できますが、曖昧なケースやコストのかかるケースについては、依然として業務上の判断が必要です。
平均的な改善で十分ですか?
いいえ。関連するケースとセグメントを比較し、テスト前に設定した基準を適用してください。
必要なケース数はどれくらいですか?
ケース数は多様性とリスクによって異なります。 報告件数、出所、および制限事項を考慮する必要があります。 少数のケースでは、一般的な安全性は確保されません。
RAG:アクセス権、引用、キャッシュ
この言語版の詳しい参照メモは英語で提供しています。
Replay rights after every RAG-chain change
Changing a lexical engine, fusion, cache or citation resolver may reopen a secondary path. Freeze a fictional document set with expected outcomes before comparing versions.
- Version policy, index, connector, model and cases.
- Exercise initial, revoked-group and deleted-object states.
- Examine every difference without hiding a critical failure in an average.
Explore the RAG access matrix and replay cases →
References consulted on · OWASP · LLM08:2025 Vector and Embedding Weaknesses OWASP · API1:2023 Broken Object Level Authorization
AI:JSON出力を検証
この言語版の詳しい参照メモは英語で提供しています。
Test refused and undecidable outputs too
A model, prompt or validator update can change handling of duplicates, types and dates. Acceptance checks need to cover these decisions beyond the number of parseable JSON responses.
- Version the schema, validator settings and reference cases.
- Check that well-formed but false values remain blocked.
- Keep syntax, contract, date and evidence errors separate.
Compare the 14 outputs and their reasons →
Sources reviewed on · IETF · RFC 8259 · JSON Schema · Object reference · JSON Schema · Draft 2020-12 validation · Python 3.12 · json decoder · python-jsonschema · Schema validation · OWASP · LLM05:2025 Improper Output Handling
RAGの関連性とランキング
この言語版の詳しい参照メモは英語で提供しています。
Compare retrieval before evaluating the answer
Keep the same needs, judgments and depth k when comparing configurations. Inspect regressing queries before drawing conclusions from an average.
- Separate window precision, relevant-record coverage and ordering quality.
- Document missing judgments and the no-relevant-record convention.
- Then evaluate the answer, citations and refusals using a separate protocol.
Explore ranking measures and relevance judgments →
Stanford CS276 · Retrieval evaluation · 2019 course archive · PDF pp. 3, 5–6 · consulted 2026-10-23
NIST TREC · Reciprocal rank definition · Repository snapshot 35cf096ba6d5ae08ca4803c056b31ed61a56a6d4 · consulted 2026-10-23
公式参照文献
参照文献はメソッドを裏付けるものです。 チェックは状況に合わせて調整してください。 これらは認証ではありません。 元の参照文献のタイトルやソース文書は別の言語で書かれている場合があります。
参照資料の確認日 .
- NIST — AI Risk Management Framework 1.0, Measure
- NIST — AI RMF Core, Measure
- Dror et al. · ACL 2018 · §3.2.2, paired observations
- OWASP · LLM08:2025 Vector and Embedding Weaknesses
- OWASP · API1:2023 Broken Object Level Authorization
- IETF · RFC 8259
- JSON Schema · Object reference
- JSON Schema · Draft 2020-12 validation
- Python 3.12 · json decoder
- python-jsonschema · Schema validation
- OWASP · LLM05:2025 Improper Output Handling
- Stanford CS276 · Retrieval evaluation
- NIST TREC · Reciprocal rank definition
