למידה פדרטיבית מאפשרת לתרום למודל משותף תוך שמירת נתוני האימון מקומית. עם זאת, העדכונים המוחלפים עלולים לחשוף מידע. המבנה לבדו אינו מבטיח אנונימיות או עמידה ב־GDPR.
אימון מבוזר עדיין דורש מודל איומים
בתכנון נפוץ, גורם מתאם מפיץ מודל, המשתתפים מאמנים אותו מקומית והמתאם מאגד את העדכונים. תוקף עשוי להסיק מידע מהעדכונים או מהמודל הסופי. משתתפים זדוניים יכולים גם להרעיל את האימון. מתאם מרכזי עלול להישאר נקודת כשל או פריצה.
לבחון כל הגנה בנפרד
איגום מאובטח יכול להסתיר תרומות בודדות מהמתאם בכפוף להנחות הפרוטוקול. הצפנה הומומורפית מאפשרת חישובים מסוימים על ערכים מוצפנים. פרטיות דיפרנציאלית מספקת ערובה כמותית כאשר מוגדרים המנגנון, היחידה המוגנת ותקציב הפרטיות. לשיטות יש עלויות ומגבלות, והן אינן מחליפות אבטחת מכשירים או בחינה משפטית.
לפני בחירת המבנה
- להגדיר תוקפים וסיכוני הסקה, קנוניה והרעלת מודל.
- למדוד יחד תועלת, פרטיות, תקשורת ועלות חישוב.
- לתעד מטרות, אחריות, תקופות שמירה והגנות שיושמו בפועל.
מקורות ותחום תחולה
- NIST · Privacy Attacks in Federated Learning · 2024
- NIST · Protecting Model Updates in Privacy-Preserving Federated Learning · 2024
- NIST SP 800-226 · 2025
- NIST AI 100-2e2025 · § 2.3.4
- NIST · BIT-FL · 2024
בדיקה עריכתית: 31 באוקטובר 2026.
למידה מאוחדת דורשת ניתוח של מידע שהוחלף.
שמירת נתונים במכשירים בלבד אינה מדגימה היעדר דליפה. עדכוני מלאי, מטא-נתונים, צבירה וגישה לתוצאות. בדוק גם לקוחות נעדרים, תרומות זדוניות ונתוני משתתפים שונים מאוד. הגדר מה יימדד ואת הערבויות שניתנו בפועל.
- תאר מידע שעוזב כל משתתף.
- בדוק דחיית תרומות לא חוקיות.
- השווה ביצועים בין אוכלוסיות מקומיות.
האם למידה מאוחדת הופכת נתונים לאנונימיים באופן אוטומטי?
לא. שיטת הלמידה אינה הוכחה לאנונימיות. יש להעריך את המידע המוחלף, את סיכוני ההסקה ואת ההגנות הנוספות של המערכת.
מקור ראשוני: NIST — Generative AI Profile. שיטה קשורה: קריאת המדריך המעשי.