Завдання 3

Під час розробки великої мовної моделі (LLM) команда впроваджує «Диференціальну приватність» (DP) як етичне обмеження дизайну, щоб запобігти витоку персонально ідентифікованої інформації (PII). Цей процес передбачає параметр бюджету приватності ε.

Який із наведених варіантів найкраще описує вплив цього обмеження на продуктивність системи?

  1. Корисність моделі залишається сталою, але час навчання зростає експоненціально, щоб обробляти шари приватності.
  2. Існує невід’ємний компроміс: посилення гарантій приватності (зменшення ε) неминуче погіршує точність моделі та швидкість збіжності.
  3. Обмеження діє як регуляризатор, покращуючи узагальнення завдяки тому, що запобігає перенавчанню (overfitting) моделі на окремих точках даних.
  4. Етичні обмеження на кшталт диференціальної приватності є суто архітектурними й не впливають на функцію втрат або кінцеві ваги моделі.

[Усього 3 бали]