応用 AI とエージェント

架空の業務事例

状況

サービスは、返信とアカウント変更の承認を維持しながら、リクエストの優先順位付けを自動化したいと考えています。

仕事

代表的な、曖昧で敵対的なケースについて、人間がラベル付けしたベースラインとアシスタントを比較します。ツールを制限し、拒否を追跡します。

成果物

バージョン化されたテストプロトコル、許可マトリックス、人間の承認しきい値、および生産停止基準。

スコーピング中に同意する許容基準の例

• 有用なタスクと禁止されたタスクには、異なるテスト ケースがあります。
• 信頼できないソースはツールの権限を拡大できません。
• シャットダウン基準と人間によるハンドオフが実行されます。