Задача 3

В ходе разработки большой языковой модели (LLM) команда внедряет «Дифференциальную приватность» (Differential Privacy, DP) как этическое ограничение проектирования, чтобы предотвратить утечку персонально идентифицируемой информации (PII). Этот процесс включает параметр бюджета приватности ε.

Какое из следующих утверждений наилучшим образом описывает влияние этого ограничения на производительность системы?

  1. Полезность модели остаётся постоянной, однако время обучения экспоненциально увеличивается для обработки уровней приватности.
  2. Существует внутренний компромисс: усиление гарантии приватности (уменьшение ε) неизбежно ухудшает точность модели и скорость её сходимости.
  3. Ограничение действует как член регуляризации, улучшая обобщающую способность за счёт предотвращения переобучения на конкретных точках данных.
  4. Этические ограничения, такие как дифференциальная приватность, носят исключительно архитектурный характер и не влияют на функцию потерь или конечные веса модели.

[Всего 3 балла]