בינה מלאכותית עברה מניסויים למציאות תפעולית. היא תומכת בשירות לקוחות, גילוי הונאות, תהליכי עבודה של גיוס עובדים, סקירת מסמכים, פיתוח תוכנה וקבלת החלטות ניהוליות. ככל שהאימוץ גובר, כך גם הבדיקה. רגולטורים, משקיעים, לקוחות ועובדים שואלים שאלה קשה יותר מאשר האם בינה מלאכותית עובדת: הם רוצים לדעת האם היא פועלת באחריות.
ארגונים רבים כבר מפרסמים עקרונות אתיים של בינה מלאכותית כגון הוגנות, אחריות, שקיפות, פרטיות, בטיחות ופיקוח אנושי. האתגר האמיתי אינו כתיבת עקרונות אלה. אלא המרתם לתהליכים עסקיים חוזרים המשפיעים על רכש, פיתוח, פריסה, ניטור וממשל. ללא תרגום תפעולי, בינה מלאכותית אתית נותרת הצהרת מדיניות בעלת השפעה מוגבלת.
כדי להפוך בינה מלאכותית אתית לפרקטיקה עסקית, ארגונים צריכים להתייחס אליה כאל נושא של מודל תפעולי ולא כאל תרגיל מיתוג. משמעות הדבר היא הקצאת בעלות, הגדרת בקרות, הטמעת נקודות ביקורת בתהליכי עבודה קיימים ומדידת ביצועים לאורך זמן. במונחים מעשיים, בינה מלאכותית אתית הופכת למציאותית כאשר היא משפיעה על האופן שבו צוותים מאשרים מקרי שימוש, אוספים נתונים, בודקים מודלים, סוקרים ספקים, מתעדים החלטות ומגיבים לאירועים.
מדוע עקרונות לבדם אינם מספיקים
עקרונות ברמה גבוהה שימושיים משום שהם מבססים כוונה ויוצרים שפה משותפת בין צוותי משפט, ציות, אבטחה, נתונים ומוצר. עם זאת, עקרונות הם לעתים קרובות מופשטים מדי לביצוע יומיומי. הצהרה כמו "נבנה בינה מלאכותית הוגנת" אינה אומרת למנהל מוצר מה לעשות לפני ההשקה, או כיצד צוות ציות צריך להעריך מודל ספק, או מתי צוות ביקורת פנימית צריך להעלות חששות.
פער זה יוצר סיכון עסקי. צוותים עשויים לפרש דרישות אתיות בצורה לא עקבית, בקרות קריטיות עלולות להיות מדלגות תחת לחץ אספקה, וההנהגה עשויה להניח שממשל קיים כאשר הוא אינו קיים. בתוכניות בינה מלאכותית מתקדמות במהירות, היעדר כללים תפעוליים מוביל לעתים קרובות לפיקוח מקוטע, עבודה כפולה וחשיפה שניתן להימנע ממנה.
המטרה היא, אם כן, לבנות גשר בין עיקרון לתהליך. כל מחויבות אתית צריכה להיות ממופה לפעולות קונקרטיות, בעלים, ראיות ונקודות החלטה.
התחילו עם מסגרת ניהול בינה מלאכותית מבוססת סיכון
הדרך היעילה ביותר ליישם בינה מלאכותית אתית היא באמצעות מסגרת ניהול מבוססת סיכון. לא כל מקרה שימוש בבינה מלאכותית מציג את אותה רמת סיכון. כלי פנימי המסכם סיכומי פגישות שונה ממערכת המשפיעה על החלטות אשראי, קביעת סדרי עדיפויות בתחום הבריאות, תביעות ביטוח, הערכת ביצועי עובדים או גישה לשירותים ציבוריים.
מסגרת מעשית מסווגת מקרי שימוש בבינה מלאכותית לפי השפעה, רגישות וחשיפה. גורמי הערכה נפוצים כוללים:
- האם המערכת משפיעה על זכויות משפטיות, תוצאות פיננסיות, בטיחות, תעסוקה או גישה לשירותים
- האם היא מעבדת נתונים אישיים, סודיים או מוסדרים
- האם ההחלטות הן אוטומטיות לחלוטין או כפופות לבדיקה אנושית
- האם התפוקות הן פונות ללקוח או משמשות באופן פנימי בלבד
- האם המודל פותח באופן פנימי או מסופק על ידי צד שלישי
- האם המערכת יכולה לייצר תוצאות מזיקות, מטעות או מוטות בקנה מידה גדול
לאחר סיווג מקרי השימוש, עסקים יכולים להחיל בקרות פרופורציונליות. כלים בעלי סיכון נמוך עשויים לדרוש תיעוד קל ואישור מנהלים. מערכות בעלות סיכון גבוה צריכות להתמודד עם בדיקה, בדיקות, ניטור ואחריות ניהולית מחמירים יותר. גישה זו הופכת את הממשל למעשי מכיוון שהוא מיישר את המאמץ עם החשיפה העסקית והרגולטורית בפועל.
תרגום כל עיקרון אתי לבקרות תפעוליות
בינה מלאכותית אתית הופכת לפעולה כאשר כל עיקרון מחובר לקבוצת בקרות ודרישות תהליך. המבנה הבא הוא נקודת התחלה מעשית.
הוגנות
הוגנות צריכה להתבטא בסקירת נתונים, בדיקות הטיה והערכת השפעה. על הצוותים לזהות אילו קבוצות עלולות להיות מושפעות באופן לא פרופורציונלי, להגדיר מדדי הוגנות הרלוונטיים למקרה השימוש ולבחון ביצועים על פני מקטעים משמעותיים. כאשר מזוהים פערים, צריך להיות תהליך מתועד להפחתה, קבלה או דחייה.
במונחים עסקיים, הוגנות אינה שאיפה כללית. זוהי דרישה לבחון האם המודל מתנהג באופן עקבי והאם ניתן להצדיק, לצמצם או להסלים הבדלים כלשהם.
שקיפות
שקיפות צריכה להוביל לתיעוד המודל, גילוי נאות של משתמשים ורישומים ברורים של השימוש המיועד. ארגונים צריכים להגדיר מה יש לתעד עבור כל מערכת: מטרה, מקורות נתוני הדרכה, מגבלות, מצבי כשל ידועים, היסטוריית אישורים וציפיות ניטור. כאשר לקוחות או עובדים מקיימים אינטראקציה עם פלטים שנוצרו על ידי בינה מלאכותית, עסקים צריכים להחליט מתי נדרש גילוי וכיצד יש לתקשר אותו.
שקיפות חלה גם באופן פנימי. מקבלי החלטות זקוקים למספיק מידע כדי להבין מה עושה מערכת, למה אין להשתמש בה ואילו סיכונים נותרו.
אחריות
אחריות פירושה בעלות בשם. לכל מערכת בינה מלאכותית צריך להיות בעל עסק אחראי, בעל טכני ובעל בקרה לדרישות ממשל. נתיבי הסלמה צריכים להיות ברורים. אם מתעוררת בעיה הקשורה להטיה, פרטיות, אבטחה או תוכן מזיק, הארגון חייב לדעת למי יש סמכות להשהות את השימוש, לחקור ולאשר תיקון.
ללא בעלות מפורשת, כשלים אתיים בבינה מלאכותית הופכים לעתים קרובות לסכסוכים חוצי-פונקציות שבהם אף אחד לא פועל מספיק מהר.
פרטיות והגנה על נתונים
יש לשלב עקרונות פרטיות בקליטת נתונים, בקרת גישה, שמירה והגבלות שימוש במודלים. ארגונים זקוקים לכללים לגבי אילו נתונים עשויים לשמש להדרכה, כוונון עדין, הנחיות או בדיקות. יש למזער מידע רגיש, הגישה צריכה להיות מבוססת תפקידים ולאכוף לוחות זמנים לשמירה. עבור מודלים של צד שלישי, צוותי רכש ומשפט צריכים לוודא האם התשומות מאוחסנות, מנוצלות מחדש או מועברות בין תחומי שיפוט.
זה חשוב במיוחד עם בינה מלאכותית גנרטורה, שבה עובדים עלולים לחשוף בטעות מידע סודי או אישי באמצעות הנחיות וקבצים שהועלו.
בטיחות ואמינות
בטיחות צריכה להפוך לדרישה לבדיקות טרום פריסה, ספי ביצועים, נהלי גיבוי ותגובה לאירועים. צוותים צריכים להגדיר שיעורי שגיאה מקובלים, להעריך את החוסן בתנאים צפויים וקשים, ולהחליט מתי אדם חייב לסקור את התפוקות לפני נקיטת פעולה. מערכות שיכולות לייצר המלצות מזיקות או תוכן הזוי צריכות לכלול אמצעי הגנה כגון ספי ביטחון, מסנני פלט ומגבלות שימוש.
אמינות דורשת גם ניטור מתמשך. מודל שמבצע ביצועים טובים בעת ההשקה עשוי להתדרדר עם הזמן ככל שנתונים, הקשר או התנהגות משתמשים משתנים.
פיקוח אנושי
פיקוח אנושי צריך לציין היכן סקירה אנושית היא חובה, מה צפויים הבודקים לבדוק, ומתי הם רשאים לעקוף את פלטי המודל. לא ניתן להשאיר זאת מעורפל. אם הארגון טוען שבני אדם נשארים בשליטה, שליטה זו חייבת לבוא לידי ביטוי בתכנון זרימת העבודה, בהדרכה וברישומי הביקורת.
עבור החלטות בעלות השפעה גבוהה, סקירה אנושית צריכה להיות משמעותית ולא טקסית. הבודקים זקוקים לזמן, סמכות ומספיק מידע הקשרי כדי לאתגר את המערכת.
הטמעת אתיקה בזרימות עבודה עסקיות קיימות
אחת הטעויות הנפוצות ביותר היא בניית בינה מלאכותית אתית כתהליך נפרד שצוותים חווים כחיכוך חיצוני. גישה בת קיימא יותר היא לשלב בקרות בזרימות עבודה שכבר קיימות. זה כולל רכש, קליטת פרויקטים, ניהול נתונים, פיתוח תוכנה, סקירת אבטחה, אישור משפטי וביקורת פנימית.
דוגמאות לאינטגרציה מעשית כוללות:
- הוספת שאלות סיכון בתחום הבינה המלאכותית לטפסי התחלת פרויקטים
- דרישת כרטיסי מודל או תיעוד מקביל לפני אישור פריסה
- הכללת סעיפים ספציפיים לבינה מלאכותית בבדיקות נאותות ובחוזים של ספקים
- הרחבת הערכות השפעה על הפרטיות כך שיכסו הכשרה ושימוש בהסקת מסקנות של בינה מלאכותית
- הוספת מבחני הטיה וחוסן לשערי אבטחת איכות
- הכללת מערכות בינה מלאכותית במידול איומי אבטחה ותרגילי צוות אדום
- יצירת קטגוריות אירועים להתנהגות בינה מלאכותית מזיקה או שאינה תואמת
גישה זו מפחיתה כפילויות ומשפרת את האימוץ מכיוון שצוותים עובדים במסגרת מבני בקרה מוכרים במקום לנווט במערכת ממשל מקבילה.
יצירת מנגנון סקירה חוצה-פונקציות
בינה מלאכותית אתית אינה יכולה להיות בבעלות מחלקה אחת. המודל התפעולי צריך לכלול קבוצת סקירה או ועדה חוצת-פונקציות עם ייצוג מהנהלת העסק, משפט, תאימות, פרטיות, אבטחה, מדעי הנתונים, מוצר וניהול סיכונים. המטרה אינה לבחון כל מודל באותו אופן, אלא להעריך מקרי שימוש בסיכון גבוה יותר, לפתור פשרות ולשמור על סטנדרטים עקביים.
גוף זה צריך להיות בעל מנדט ברור. עליו להגדיר קריטריונים לאישור, לדרוש ראיות, לתחזק רישומי החלטות ולעקוב אחר פעולות תיקון. כמו כן, עליו להיות בעל סמכות לדחות או לעכב פריסות כאשר הבקרות אינן מספקות.
עבור ארגונים בוגרים, ועדה זו פועלת לעתים קרובות בצורה הטובה ביותר כאשר היא נתמכת על ידי תבניות סטנדרטיות, מטריצות החלטה ולוחות מחוונים לדיווח. זה מבטיח שהממשל ניתן לחזרה ולא תלוי בשיקול דעת אישי בלבד.
מדידה, ניטור וביקורת
מה שנמדד מנוהל. תהליכי בינה מלאכותית אתיים צריכים לכלול מדדים המראים האם הבקרות מתפקדות בפועל. אינדיקטורים שימושיים עשויים לכלול את מספר מערכות הבינה המלאי שנמצאו במלאי, אחוז הסיכון שהוערך לפני הפריסה, מספר מערכות בסיכון גבוה עם בדיקות שהושלמו, שיעורי תאימות ספקים, נפחי אירועים, שיעורי עקיפה ופריטי תיקון לא פתורים.
הניטור לא צריך להסתיים עם ההשקה. ארגונים צריכים להגדיר מרווחי סקירה לביצועי המודל, סחיפה, דפוסי גישה, תלונות משתמשים ושינויים רגולטוריים. פונקציות ביקורת פנימיות צריכות לבדוק מעת לעת האם הבקרות המוצהרות תואמות את הפרקטיקה בפועל. זה חשוב במיוחד עבור ארגונים הפועלים במגזרים מוסדרים או במספר תחומי שיפוט.
ראיות חשובות. אם רגולטור, לקוח או חבר דירקטוריון שואל כיצד מנוהלת בינה מלאכותית אתית, הארגון צריך להיות מסוגל לייצר מלאי, הערכות, אישורים, תוצאות בדיקות, רישומי הדרכה ויומני אירועים.
הכשרת צוותים בקבלת החלטות, לא רק במדיניות
תוכניות הדרכה רבות לבינה מלאכותית נכשלות משום שהן מתמקדות רק במודעות. עובדים זקוקים להדרכה מעשית הקשורה לתפקידיהם. מנהלי מוצר צריכים להבין את טריגרי האישור ואת דרישות התיעוד. מהנדסים צריכים להכיר את ציפיות הבדיקה ואת השימושים האסורים בנתונים. צוותי רכש צריכים לדעת מה לשאול ספקי בינה מלאכותית. מנהלים צריכים לדעת כיצד להעריך החלטות קבלת סיכונים. משתמשים בחזית צריכים לדעת מתי תפוקות דורשות אימות.
הכשרה מבוססת תפקידים מסייעת לעקרונות אתיים להשפיע על התנהגות ברגע קבלת ההחלטות. היא גם מפחיתה את הסבירות שממשל יעקוף מכיוון שצוותים אינם מבינים מה מצופה מהם.
הפיכת בינה מלאכותית של צד שלישי לחלק מאותה סביבת בקרה
סיכונים עסקיים רבים נובעים לא ממודלים שנבנו באופן פנימי אלא מספקי בינה מלאכותית חיצוניים, תכונות פלטפורמה מוטמעות וספקי תוכנה המוסיפים יכולות יצירתיות לכלים קיימים. לכן, תהליכי בינה מלאכותית אתיים חייבים לכסות רכש וניהול ספקים בקפדנות כמו פיתוח פנימי.
ארגונים צריכים להעריך ספקים לגבי נוהלי טיפול בנתונים, הסבר, שיטות בדיקה, בקרות אבטחה, תלות בקבלני משנה, מיקומי עיבוד גיאוגרפיים ומנגנונים לטיפול בתפוקות מזיקות או שינויים במודל. חוזים צריכים להתייחס לזכויות ביקורת, הודעה על הפרות, שימוש מותר בנתונים ואחריות לתאימות.
אם בינה מלאכותית של צד שלישי פטורה מממשל, פער בקרה משמעותי נותר פתוח.
מהצהרה למערכת
הפיכת עקרונות אתיים של בינה מלאכותית לתהליכים עסקיים מעשיים דורשת משמעת, לא סיסמאות. הארגונים שעושים התקדמות אמיתית הם אלו שמגדירים רמות סיכון, ממפים עקרונות לבקרות, מקצים בעלות, משלבים סקירות בזרימות עבודה קיימות ושומרים ראיות לאורך זמן. הם מבינים שבינה מלאכותית אחראית אינה נפרדת מביצועי עסקים. היא מגנה על אמון, מפחיתה הפתעות תפעוליות, מחזקת את המוכנות הרגולטורית ומשפרת את איכות קבלת ההחלטות.
בשוק הנוכחי, בינה מלאכותית אתית כבר אינה דיון תיאורטי. זוהי יכולת ממשל. עסקים שמפעילים אותה ביעילות יהיו בעמדה טובה יותר להרחיב את הבינה המלאכותית בביטחון, להגן על החלטותיהם תחת ביקורת ולהמיר חדשנות אחראית ליתרון תחרותי מתמשך.
