Differences

This shows you the differences between two versions of the page.

--- statistik:geometrische_sicht [2012/08/20 15:42] – [Principal Component Analysis] phreazer
+++ statistik:geometrische_sicht [2014/02/11 21:49] (current) – external edit 127.0.0.1
@@ Line 148: / Line 148: @@
 Um $R^2(e,x) = SS_{reg}(e,x)$ zu bekommen:
-Quadriert: $e^\intercal x x^\intercal e$
+Quadriert: SS_{reg} = $e^\intercal x x^\intercal e$
+Nach Standardisierung mit den Anzahl der Variablen m, erhält man die durchschnittliche Summe der Fehlerquadrate pro Variable.
+Standardisierung mit m: $\frac{e^\intercal x x^\intercal e}{m}$ wobei $C= \frac{x x^\intercal}{m}$ die Kovarianzmatrix der beobachteten Vektoren ist.
+Gesucht ist ein Maximum $\lambda = e^\intercal C e$.
+$$\lambda = e^\intercal C e \\
+\iff e \lambda = C e \\
+\iff (C-\lambda I) e = 0
+$$
+Eigenwertproblem, f.d. zur Lösung gelten muss $det(C-\lambda I) = 0$,
+wobei $e$ Eigenvektor von $X X^\intercal$ mit Eigenwert $\lambda$.
+Eigenvektoren der Kovarianzmatrix sind orthogonal und greifen disjunkte Teile der Varianz von X' ab. Man erhält eine neue orthogonale Basis. Achsen können absteigend nach der Größe ihrer Eigenwerte sortiert werden, wobei $\lambda_1 = max\{\lambda_i\}$ mit Eigenvektor $e_1$ die erste neue Achse ist.
+Z als Repräsentation von X in neuem Raum: $Z=XE$ und $X=ZE^\intercal$ (da für orthogonale Matrizen gilt $A A^\intercal= I$).
+====== Singular Value Decomposition (SVD) ======
+Reduktion der Variablendimensionalität durch kompakte Basis für den Zeilenraum von X' mit den Eigenvektoren von $X X^\intercal$
+Reduktion der Objektdimensionalität durch Schätzung des Spaltenraums von X' mit den Eigenvektoren  von $X^\intercal X$.
+SVD: $X = U \sigma V$ wobei
+U Eigenvektoren von  $X X^\intercal$, $\sigma$ Quadratwurzel der Eigenwerte und V Eigenvektoren von $X^\intercal X$.