ניהול סוכן בינה מלאכותית: מדריך מוכנות לייצור.

מה מדריך זה עוזר להשיג

• הגבלת הסוכן למה שהוא צריך.
• בדיקת כשלים יקרים לפני הייצור.
• שמירה על עקבות שימושיים ללא איסוף יתר.
• שמירה על אחריות אנושית יעילה.

בדיקה מהירה

• האם הסוכן יכול להפעיל פעולה בלתי הפיכה?
• האם הנתונים שהוגשו מאושרים?
• האם סף דורש אישור אנושי?
• האם לכלים יש הרשאות מינימליות?
• האם המערכת יכולה לעצור ולחזור למצב קודם במהירות?

שיטה שלב אחר שלב

1. 1

   תיאור המערכת בפועל

   תיעוד מטרה, משתמשים, קלטים, מודלים, כלים, פלטים, תלויות ואנשים מושפעים.

   תוצר: כרטיס מערכת עם גרסאות.

2. 2

   סיווג פעולות ונתונים

   הפרדת קריאה, המלצה, ניסוח וביצוע. זיהוי נתונים אסורים, רגישים, אישיים ושמורים.

   תוצר: נתונים × מטריצת פעולה.

3. 3

   צמצום הרשאות

   שימוש בחשבונות ייעודיים, רשימות היתרים לכלי עבודה, סביבות מבודדות ואישור לפני פעולה בעלת השפעה גבוהה.

   תוצר: מדיניות הרשאות.

4. 4

   בניית הערכות

   בדיקת מקרים רגילים, עמימות, הזרקה, נתונים חסרים, בקשות מחוץ לתחום ושגיאות בלתי הפיכות. קביעת ספים לפני הפיילוט.

   תוצר: מערך בדיקות ותוצאות.

5. 5

   ניטור ייצור

   רישום גרסת מערכת, הקשר נחוץ, קריאות לכלי, אישורים ותוצאות תוך מזעור נתונים שנשמרו.

   תוצר: ניטור לוח מחוונים והתראות.

6. 6

   הכנה לכשל

   הגדרת קריטריונים של כיבוי, השתלטות ידנית, הודעה, ניתוח אירועים וחזרה לשירות.

   תוצר: ריצת אירועי בינה מלאכותית.

מדדי ניהול

טעויות נפוצות

• מדידת איכות כתיבה בלבד
• מתן זכויות מלאות לסוכן של משתמש קצה
• שמירה על כל שיחה כברירת מחדל
• שינוי מודל או בקשה מבלי להפעיל מחדש הערכות