حوكمة وكلاء الذكاء الاصطناعي: دليل جاهزية الإنتاج

ما يُساعد هذا الدليل على تحقيقه

• تقييد الوكيل بما يحتاجه.
• اختبار حالات الفشل المكلفة قبل الإنتاج.
• الاحتفاظ بالآثار المفيدة دون الإفراط في جمعها.
• ضمان المساءلة البشرية الفعالة.

فحص سريع

• هل يمكن للوكيل التسبب في إجراء لا رجعة فيه؟
• هل البيانات المُقدمة مُصرّح بها؟
• هل يتطلب تجاوز حد معين موافقة بشرية؟
• هل للأدوات حد أدنى من الصلاحيات؟
• هل يمكن إيقاف النظام والتراجع عنه بسرعة؟

طريقة خطوة بخطوة

1. 1

   وصف النظام الحالي

   توثيق الغرض، والمستخدمين، والمدخلات، والنماذج، والأدوات، والمخرجات، والتبعيات، والأشخاص المتأثرين.

   المُخرَج: بطاقة نظام مُرَقَّمة.

2. 2

   تصنيف الإجراءات والبيانات

   فصل القراءة، والتوصية، والصياغة، والتنفيذ. تحديد البيانات المحظورة، والحساسة، والشخصية، والمحفوظة.

   المُخرَج: مصفوفة البيانات × الإجراءات.

3. 3

   تقليل الصلاحيات

   استخدام حسابات مُخصصة، وقوائم أدوات مُصرَّح بها، وبيئات معزولة، والموافقة قبل أي إجراء ذي تأثير كبير.

   المُخرَج: سياسة التفويض.

4. 4

   بناء التقييمات

   اختبار الحالات العادية، والغموض، والحقن، والبيانات المفقودة، والطلبات الخارجة عن النطاق، والأخطاء غير القابلة للإصلاح. تحديد العتبات قبل المرحلة التجريبية.

   المُخرَج: مجموعة الاختبار والنتائج.

5. 5

   مراقبة الإنتاج

   تسجيل إصدار النظام، والسياق اللازم، واستدعاءات الأدوات، والموافقات، والنتائج مع تقليل البيانات المحفوظة.

   المُخرَج: لوحة تحكم المراقبة والتنبيهات.

6. 6

   الاستعداد للأعطال

   تحديد معايير الإيقاف، والاستحواذ اليدوي، والإخطار، وتحليل الحوادث، والعودة إلى الخدمة.

   المُخرَج: دليل تشغيل حوادث الذكاء الاصطناعي. الاستعداد للأعطال

مؤشرات الإدارة

الأخطاء الشائعة

• قياس جودة الكتابة فقط
• منح الوكيل جميع صلاحيات المستخدم النهائي
• الاحتفاظ بكل محادثة افتراضيًا
• تغيير النموذج أو الموجه دون إعادة تشغيل التقييمات