Uppgift 3

Under utvecklingen av en stor språkmodell (LLM) implementerar ett team "Differential Privacy" (DP) som en etisk designbegränsning för att förhindra läckage av personligt identifierbar information (PII). Denna process innefattar en integritetsbudgetparameter (privacy budget parameter) ε.

Vilket av följande alternativ beskriver bäst den resulterande påverkan av denna begränsning på systemets prestanda?

  1. Modellens prestanda förblir konstant, men träningstiden ökar exponentiellt för att hantera integritetslagren (privacy layers).
  2. Det finns en inneboende avvägning där en ökad integritetsgaranti (minskning av ε) nödvändigtvis försämrar modellens noggrannhet (accuracy) och konvergenshastighet.
  3. Begränsningen fungerar som en regulariseringsterm och förbättrar generaliseringen genom att förhindra att modellen överanpassas till specifika datapunkter.
  4. Etiska begränsningar som Differential Privacy är enbart arkitektoniska och påverkar inte förlustfunktionen eller modellens slutliga vikter.

[Totalt 3 poäng]