Federoidussa oppimisessa osallistujat kehittävät yhteistä mallia pitäen koulutusaineistonsa paikallisesti. Vaihdetut päivitykset voivat silti paljastaa tietoja. Arkkitehtuuri ei yksin takaa anonymiteettiä tai GDPR:n noudattamista.
Hajautettu koulutus ei poista riskejä
Tavallisessa toteutuksessa koordinaattori jakaa mallin, osallistujat kouluttavat sitä paikallisesti ja koordinaattori yhdistää päivitykset. Hyökkääjä voi päätellä tietoja päivityksistä tai valmiista mallista. Haitalliset osallistujat voivat myös myrkyttää koulutuksen. Keskitetty koordinaattori voi edelleen olla vikaantumis- tai murtautumiskohta.
Arvioi suojaukset erikseen
Turvallinen aggregointi voi piilottaa yksittäiset päivitykset koordinaattorilta protokollan oletusten mukaisesti. Homomorfinen salaus mahdollistaa eräitä laskutoimituksia salatuilla arvoilla. Differentiaalinen yksityisyys antaa määrällisen takuun, kun mekanismi, suojattava yksikkö ja yksityisyysbudjetti on määritelty. Menetelmillä on kustannuksia ja rajoja, eivätkä ne korvaa päätelaitteiden suojausta tai oikeudellista arviointia.
Ennen valintaa
- Määritä hyökkääjät sekä päättelyn, yhteistyöhyökkäysten ja myrkyttämisen riskit.
- Mittaa mallin hyötyä, yksityisyyttä, viestintää ja laskentakustannuksia yhdessä.
- Dokumentoi tarkoitukset, vastuut, säilytysajat ja toteutetut suojaukset.
Lähteet ja rajaus
- NIST · Privacy Attacks in Federated Learning · 2024
- NIST · Protecting Model Updates in Privacy-Preserving Federated Learning · 2024
- NIST SP 800-226 · 2025
- NIST AI 100-2e2025 · § 2.3.4
- NIST · BIT-FL · 2024
Toimituksellinen tarkistus: 31. lokakuuta 2026.
Federoitu oppiminen edellyttää vaihdettujen tietojen analysointia.
Pelkkä tietojen säilyttäminen laitteilla ei osoita vuotojen puuttumista. Varastopäivitykset, metatiedot, yhdistäminen ja tulosten käyttö. Testaa myös poissaolevat asiakkaat, haitalliset lisäykset ja hyvin erilaiset osallistujien tiedot. Määrittele, mitä mitataan ja mitä takuita todellisuudessa annetaan.
- Kuvaile kunkin osallistujan lähettämät tiedot.
- Testaa virheellisten lisäysten hylkäämistä.
- Vertaa suorituskykyä paikallisissa populaatioissa.
Anonymisoiko federoitu oppiminen tiedot automaattisesti?
Ei. Oppimismenetelmä ei ole anonymiteetin todiste. Arvioi vaihdettuja tietoja, päättelyriskejä ja järjestelmän lisäsuojauksia.
Ensisijainen lähde: NIST — Generative AI Profile. Aiheeseen liittyvä menetelmä: lue käytännön opas.