Differences

This shows you the differences between two versions of the page.

--- statistik:geometrische_sicht [2012/08/20 15:51] – [Principal Component Analysis] phreazer
+++ statistik:geometrische_sicht [2014/02/11 21:49] (current) – external edit 127.0.0.1
@@ Line 154: / Line 154: @@
 Standardisierung mit m: $\frac{e^\intercal x x^\intercal e}{m}$ wobei $C= \frac{x x^\intercal}{m}$ die Kovarianzmatrix der beobachteten Vektoren ist.
-Gesucht ist ein Maximum $lambda = e^\intercal C e$.
+Gesucht ist ein Maximum $\lambda = e^\intercal C e$.
 $$\lambda = e^\intercal C e \\
@@ Line 160: / Line 160: @@
 \iff (C-\lambda I) e = 0
 $$
+Eigenwertproblem, f.d. zur Lösung gelten muss $det(C-\lambda I) = 0$,
+wobei $e$ Eigenvektor von $X X^\intercal$ mit Eigenwert $\lambda$.
+Eigenvektoren der Kovarianzmatrix sind orthogonal und greifen disjunkte Teile der Varianz von X' ab. Man erhält eine neue orthogonale Basis. Achsen können absteigend nach der Größe ihrer Eigenwerte sortiert werden, wobei $\lambda_1 = max\{\lambda_i\}$ mit Eigenvektor $e_1$ die erste neue Achse ist.
+Z als Repräsentation von X in neuem Raum: $Z=XE$ und $X=ZE^\intercal$ (da für orthogonale Matrizen gilt $A A^\intercal= I$).
+====== Singular Value Decomposition (SVD) ======
+Reduktion der Variablendimensionalität durch kompakte Basis für den Zeilenraum von X' mit den Eigenvektoren von $X X^\intercal$
+Reduktion der Objektdimensionalität durch Schätzung des Spaltenraums von X' mit den Eigenvektoren  von $X^\intercal X$.
+SVD: $X = U \sigma V$ wobei
+U Eigenvektoren von  $X X^\intercal$, $\sigma$ Quadratwurzel der Eigenwerte und V Eigenvektoren von $X^\intercal X$.