vault backup: 2023-04-14 10:25:25

TIiK/Wykład/4..md

@@ -0,0 +1,32 @@
+1100 1000 1110 1001 101 | 11
+Dane jest sekwencja. Zakładając że 19 symboli wystarcza do zapisania
+Entropia w przypadku bezpamięciowego źródła:
+p0=9/19
+p1=10/19
+Hx=-9/19 ld 9/19 - 10/19 ld 10/19= 0.998bit
+
+Źródło markowa 1 rzędu
+
+0   1
+p(0/0)=4/9
+p(1/0)=5/9
+p(0/1)=5/10
+p(1/1)=5/10
+
+```dot
+digraph {
+rankdir=TB;
+node [ shape = circle ];
+0->0 [label="4/9"]
+0->1 [label="5/9"]
+1->1 [label="5/10"]
+1->0 [label="5/10", minlen=3]
+}
+```
+
+|xi|xj|Pxj|pxi/xj|pxjxi|
+|-|-|-|-|-|
+|0|0|9/19|4/9|4/19|
+|0|1|9/19|5/9|5/19|
+|1|0|10/19|5/10|5/19|
+|1|1|10/19|5/10|5/19|

TIiK/Ćwiczenia/2. Markow.md

@@ -0,0 +1,29 @@
+Żródło generuje wiadomości 0, 1
+Entropia źródła przy założeniach:
+a) równoprawdopodobne i niezależne - 
+x={0,1}
+P_xi(1/2,1/2)
+H(X)=ld 2 = 1 bit
+b) niezależne - p0=3/4 p1=1/4
+H(x)=-3/4ld3/4-1/4ld1/4=0.81 Hb\<Ha
+c) źrodło z pamięcią, równo prawdopodobne
+P(0/1)=P(1/0)=1/3
+
+P(0)=P(1)=1/2
+![[2. Markow 2023-03-24 12.34.20.excalidraw]]
+$P(0)=\frac{2}{3}P(0)+ \frac{1}{3}P(1)$
+$P(1)=\frac{2}{3}P(1)+ \frac{1}{3}P(0)$
+$P0+P1=1$
+p0=1/2=P1
+$H_{1}(x)=-\sum\sum P(x_{i}x_{j})ld P(x_{i}/x_{j )=}0.688$
+|xjxi|P(xj)|P(xi/xj)|p(xixj)|
+|-|-|-|-|
+|00|1/2|2/3|1/3|
+|01|1/2|1/3|1/6|
+|10|1/2|1/3|1/6|
+|11|1/2|2/3|1/3|
+
+
+
+Funkcja gęstości prawdopodobieństwa dla zmiennej ciągłej rozkład równomierny 0,2
+![[2. Markow 2023-03-24 13.21.16.excalidraw]]