Differences

This shows you the differences between two versions of the page.

--- data_mining:entropie [2013/09/15 16:04] – [Mutual information] phreazer
+++ data_mining:entropie [2017/09/09 10:53] (current) – phreazer
@@ Line 1: / Line 1: @@
-====== Entropie ======
+====== Entropy ======
-Claude Shannon (1948): Information hängt mit der Überraschung zusammen
+Claude Shannon (1948): Entropy as a measure of surprise / uncertainty.
-Nachricht über ein Ereignis mit Wahscheinlichkeit p umfasst $- \mathit{log}_2 p$ Bits an Informationen
+Message about an event with a probability of occurrence p includes $- \mathit{log}_2 p$ bits of information
-Beispiel für eine faire Münze : $- \mathit{log}_2 0.5 = 1$
+Example of a fair coin: $- \mathit{log}_2 0.5 = $1
 ====== Mutual information ======
@@ Line 27: / Line 27: @@
 H(F) + H(B) - H(F,B)
-Smoothing
-$$
-p(+)=0,75\\
-p(-)=0,25\\
-p(hate)=800/8000\\
-p(~hate)=7200/8000\\
-p(hate,+)=1/8000 \text{(kommt in keinem positiven Kommentar vor, 1 anstelle von Null => Smoothing)}\\
-p(~hate,+)=6000/8000\\
-p(hate,-)=1200/8000\\
-p(~hate,-)=0,1
-$$
 Features selection => Die, die höchste MI haben, allerdings zu rechenintensiv