Sarcina 3

În timpul dezvoltării unui Model Lingvistic de Mari Dimensiuni (LLM), o echipă implementează „Confidențialitatea Diferențială” ("Differential Privacy" - DP) ca o constrângere etică de proiectare pentru a preveni divulgarea Informațiilor de Identificare Personală (PII). Acest proces implică un parametru al bugetului de confidențialitate ε.

Care dintre următoarele descrie cel mai bine impactul rezultat al acestei constrângeri asupra performanței sistemului?

AAA

  1. Utilitatea modelului rămâne constantă, dar timpul de antrenare crește exponențial pentru a gestiona straturile de confidențialitate.
  2. Există un compromis inerent în care creșterea garanției de confidențialitate (scăderea lui ε) degradează în mod necesar acuratețea modelului și rata de convergență.
  3. Constrângerea acționează ca un termen de regularizare, îmbunătățind generalizarea prin prevenirea supraînvățării (over-fitting) pe anumite puncte din setul date.
  4. Constrângerile etice precum Confidențialitatea Diferențială sunt pur arhitecturale și nu afectează funcția de pierdere sau ponderile finale ale modelului.

[Total 3 puncte]