Diff for "RelativeEntropy"

Differences between revisions 3 and 4

InformationTheory에서 이산적 정보원 S, 출력심볼수를 r, 그 Entropy를 H(S)라고 했을 때,

$h(S)=\frac{H(S)}{\log_2{r}}$

을 그 정보원의 RelativeEntropy라고 한다.

$$ r(S)=1-h(S) $$

를 그 정보원의 중복도, Redundancy라고 한다.

-  ⇤ ← Revision 3 as of 2011-08-03 11:00:50 → 
  Size: 316
  Editor: localhost
  Comment: converted to 1.6 markup
+   ← Revision 4 as of 2012-07-30 08:23:08 → ⇥
  Size: 318
  Editor: 182
  Comment:
-Deletions are marked like this.
+Additions are marked like this.
 Line 1:
-InformationTheory에서 이산적 정보원 S, 출력심볼수를 r, 그 [Entropy]를 H(S)라고 했을 때,
+InformationTheory에서 이산적 정보원 S, 출력심볼수를 r, 그 [[Entropy]]를 H(S)라고 했을 때,