Առաջադրություն 3

Մեծ Լեզվական Մոդելի (LLM) մշակման ընթացքում թիմը կիրառում է «Տարբերական գաղտնիություն» (Differential Privacy, DP) որպես էթիկական նախագծային սահմանափակում՝ կանխելու Անձնական Տարբերակիչ Տեղեկությունների (PII) արտահոսքը։ Այս գործընթացը ներառում է գաղտնիության բյուջեի պարամետր ε։

Ի՞նչը հետևյալներից ամենալավն է նկարագրում այս սահմանափակման ազդեցությունը համակարգի արտադրողականության վրա։

  1. Մոդելի օգտակարությունը մնում է անփոփոխ, բայց ուսուցման ժամանակը էքսպոնենցիալ աճում է՝ գաղտնիության շերտերը մշակելու համար։
  2. Կա ներքին փոխզիջում, որտեղ գաղտնիության երաշխիքի բարձրացումը (ε-ի նվազեցումը) անպայմանորեն վատացնում է մոդելի ճշգրտությունն ու կոնվերգենցիայի արագությունը։
  3. Սահմանափակումը գործում է որպես ռեգուլյարիզացիոն անդամ, բարելավելով ընդհանրացումը՝ կանխելով մոդելի գերտարապատրաստումը կոնկրետ տվյալների վրա։
  4. Տարբերական Գաղտնիության նման էթիկական սահմանափակումները մաքուր ճարտարապետական են և չեն ազդում կորուստի ֆունկցիայի կամ մոդելի վերջնական քաշերի վրա։

[Ընդամենը 3 միավոր]