data_mining:hmm

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revisionPrevious revision
Next revision
Previous revision
data_mining:hmm [2014/11/22 02:55] phreazerdata_mining:hmm [2014/12/17 01:47] (current) – [Beispiel] phreazer
Line 17: Line 17:
  
 $p(x_1,\dots,x_n,Z1,\dots,Z_n) = p(z_1)p(x_1|z_1) \prod_{k=2}^n p(z_k|z_{k-1})p(x_k|z_k)$ $p(x_1,\dots,x_n,Z1,\dots,Z_n) = p(z_1)p(x_1|z_1) \prod_{k=2}^n p(z_k|z_{k-1})p(x_k|z_k)$
 +
 +
 +Beispiel Handschrifterkennung: 
 +  * Hiddenzustände: Alphabetzeichen
 +  * Beobachtete: Geschriebenes
 +
 +===== Parameter =====
 +
 +Transition probabilities (Übergangswahrscheinlichkeiten):
 +
 +$T(i,j) = P(Z_{k+1}=j|z_k=i)$ ($i,j \in \{i,\dots,m\}$)
 +
 +T ist die Transition Matrix (Übergangswkt.)
 +
 +Emission probabilities:
 +
 +$\varepsilon_i(x) = p(x|Z_k=i)$ für $i\in \{i,\dots,m\} x \in X$
 +
 +$\varepsilon_i$ ist eine Wahrscheinlichkeitsverteilung eine Dichte (pdf) auf $X$
 +
 +Wenn $X$ diskrete ZV: $\varepsilon_i(x) = P(X_k=x|Z_k=i)$
 +
 +pmf
 +
 +Initial distribution: 
 +
 +$\pi(i) = P(Z_i=i), \in \{i,\dots,m\}$
 +
 +Joint Distribution:
 +
 +$p(x_1,\dots,x_n,z_1,\dots,z_n) = \pi(z_1) \varepsilon_{z_1}(x_1) \prod_{k=2}^n T(z_{k-1},z_k) \varepsilon_{z_k}(x_k)$
 +
 +
 +
 +===== Forward-Backward Algorithmus =====
 +
 +===== Beispiel =====
 +Zustand ist Durschnittstemperatur: H oder C
 +Beobachtbarer Zustand ist Dicke der Ringe: S, M, L
 +
 +Nun wird Abfolge S,M,S,L beobachtet. Daraus soll die wahrscheinlichste Zustandssequenz des Markovprozess ermittelt werden.
  • data_mining/hmm.1416621310.txt.gz
  • Last modified: 2014/11/22 02:55
  • by phreazer