Taak 7
  1. Druk de afstand uit van het beeld van een punt \(\mathbf{x}\) tot het massamiddelpunt van een verzameling voorbeelden
    \[
    S = \{\mathbf{x}_1, \ldots, \mathbf{x}_m\}
    \]
    in een feature space gedefinieerd door de kernel \(\kappa(\mathbf{x}, \mathbf{z}) = \langle \phi(\mathbf{x}), \phi(\mathbf{z})\rangle\) in termen van kernel-evaluaties.

[2 punten]

  1. Gebruikmakend van het resultaat uit punt 1: geef pseudocode voor het novelty-detection-algoritme dat een testpunt als nieuw labelt als het buiten de kleinste bol ligt met het massamiddelpunt als centrum die alle trainingsdata bevat.

[3 punten]

  1. Laat zien dat als we één punt \(\mathbf{x}_j\) uit \(S\) verwijderen, het massamiddelpunt weg beweegt van \(\phi(\mathbf{x}_j)\) langs de lijn van \(\phi(\mathbf{x}_j)\) door het massamiddelpunt, met \(\frac{1}{m-1}\) keer de afstand tussen beide.

[3 punten]

  1. Toon vervolgens, of anderszins, aan dat de novelty-detectionmethode — met hetzelfde centrum als in punt 2 hierboven, maar met de straal van de bol vergroot met \(\frac{m}{m-2}\) — ervoor zorgt dat de leave-one-out-fout (een fout treedt op als het weggelaten punt niet binnen de bol ligt) op de trainingsset hoogstens 1 is.

[5 punten]

[Totaal 13 punten]