data_mining:anomaly_detection

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revisionPrevious revision
Next revision
Previous revision
data_mining:anomaly_detection [2014/08/30 14:45] – [Anomaly detection vs. supervised learning] phreazerdata_mining:anomaly_detection [2014/08/30 17:00] (current) – [Schätzung von $\mu, \sigma$ (Normalverteilung)] phreazer
Line 7: Line 7:
  
 ===== Schätzung von $\mu, \sigma$ (Normalverteilung) ==== ===== Schätzung von $\mu, \sigma$ (Normalverteilung) ====
-$\mu_j = 1/m \sum_{i=1}^m x_j^{(i)}$+$\mu_j = \frac{1}{m\sum_{i=1}^m x_j^{(i)}$
  
 Vektorisierbar als $\mu = 1/m \sum_{i=1}^m x^{(i)}$ Vektorisierbar als $\mu = 1/m \sum_{i=1}^m x^{(i)}$
  
-$\sigma^2_j = 1/m \sum^m_{i=1} (x_j^{(i)}-\mu_j)^2$+$\sigma^2_j = \frac{1}{m\sum^m_{i=1} (x_j^{(i)}-\mu_j)^2$
  
 ===== Evaluierung durch Kennzahl ===== ===== Evaluierung durch Kennzahl =====
Line 42: Line 42:
 ===== Feature selection ===== ===== Feature selection =====
 Histogramm der Daten plotten, wenn es wie eine Normalverteilung aussieht, kann Feature verwendet werden. Histogramm der Daten plotten, wenn es wie eine Normalverteilung aussieht, kann Feature verwendet werden.
-Logarithmische Transformation möglich $log(x+c)$ oder $x^(1/2)$+Logarithmische Transformation möglich $log(x+c)$ oder $x^{(1/2)}$
  
 Häufigstes Problem: $p(x)$ ist ähnlich für normale und anormale Beispiele Häufigstes Problem: $p(x)$ ist ähnlich für normale und anormale Beispiele
 +
 +Anomaly betrachten und Features entwickeln, bei denen die Anomaly außerhalb liegt.
 +
 +===== Multivariate Normal Distribution =====
 +
 +Nicht $p(x_n)$ modellieren, sonden ein Model $p(x)$ als Ganzes
 +
 +Parameter:
 +$\mu$
 +Crosscorrelation Matrix: $\Sigma \in \mathbb{R}^{n \times n}$
 +
 +Vorteilhaft, wenn Features positiv/negativ korreliert.
 +
 +==== Schätzung ====
 +  - Fitten des Models durch Schätzung von $\mu,\Sigma$
 +  - p(x) berechnen
 +    * Anomaly flaggen wenn $p(x) < \epsilon$
 +
 +Unterschied zu vorherigem Modell: $\Sigma$ kann hier von 0 verschiedene Werte für nicht-diagonal Elemente besitzen.
 +
 +Ursprüngliches Modell:
 +  * Wenn manuell Features erzeugt werden, die ungewöhnliche Kombinationen beinhalten $x_3=x_1/x_2$
 +  * Weniger  Rechenintensiv (n = 10000 bis 100000)
 +  * Geeignet auch wenn m klein (Multivar. muss m > n haben)
  • data_mining/anomaly_detection.1409402749.txt.gz
  • Last modified: 2014/08/30 14:45
  • by phreazer