Tarea 3

Durante el desarrollo de un Modelo de Lenguaje Grande (LLM), un equipo implementa la "Privacidad Diferencial" (DP) como una restricción de diseño ética para prevenir la filtración de Información Personal Identificable (PII). Este proceso implica un parámetro de presupuesto de privacidad ε.

¿Cuál de las siguientes opciones describe mejor el impacto resultante de esta restricción en el rendimiento del sistema?

  1. La utilidad del modelo permanece constante, pero el tiempo de entrenamiento aumenta exponencialmente para manejar las capas de privacidad.
  2. Existe un compromiso inherente donde aumentar la garantía de privacidad (disminuir ε) necesariamente degrada la precisión del modelo y su tasa de convergencia.
  3. La restricción actúa como un término de regularización, mejorando la generalización al evitar que el modelo sobreajuste a puntos de datos específicos.
  4. Las restricciones éticas como la Privacidad Diferencial son puramente arquitectónicas y no afectan la función de pérdida ni los pesos finales del modelo.

[Total 3 puntos]