2.1 Kanal komunikimi diskret pa ndërhyrje
Nëse nuk ka ndërhyrje në kanalin e komunikimit, atëherë sinjalet hyrëse dhe dalëse të kanalit janë të lidhura pa mëdyshje, varësia funksionale.
Në këtë rast, entropia e kushtëzuar është e barabartë me zero, dhe entropitë e pakushtëzuara të burimit dhe marrësit janë të barabarta, d.m.th. sasia mesatare e informacionit në simbolin e marrë në raport me atë të transmetuar është
I (X, Y) = H(X) = H(Y); H(X/Y) = 0.
Nëse X T është numri i simboleve në kohën T, atëherë shkalla e transferimit të informacionit për kanal diskret komunikimi pa ndërhyrje është i barabartë me
ku V = 1/ është shpejtësia mesatare e transmetimit të një simboli.
Gjerësia e brezit për një kanal komunikimi diskret pa ndërhyrje
(7)
Sepse entropia maksimale korrespondon me simbolet ekuiprobabile, atëherë gjerësia e brezit për shpërndarje uniforme dhe pavarësia statistikore e simboleve të transmetuara është e barabartë me:
. (8)
Teorema e parë e Shannon-it për një kanal: Nëse fluksi i informacionit i gjeneruar nga burimi është mjaftueshëm afër kapacitetit të kanalit të komunikimit, d.m.th.
, ku është një vlerë arbitrare e vogël,
atëherë është gjithmonë e mundur të gjendet një metodë e tillë kodimi që do të sigurojë transmetimin e të gjitha mesazheve të burimit, dhe shpejtësia e transferimit të informacionit do të jetë shumë afër kapacitetit të kanalit.
Teorema nuk i përgjigjet pyetjes se si të kodohet.
Shembulli 1. Burimi gjeneron 3 mesazhe me probabilitete:
p 1 = 0,1; p 2 = 0,2 dhe p 3 = 0,7.
Mesazhet janë të pavarura dhe transmetohen në një kod binar uniform (m = 2) me një kohëzgjatje simboli prej 1 ms. Përcaktoni shkallën e transferimit të informacionit në një kanal komunikimi pa ndërhyrje.
Zgjidhje: Entropia e burimit është
Për të transmetuar 3 mesazhe me një kod uniform duhen dy bit, ndërsa kohëzgjatja e kombinimit të kodit është 2t.
Shpejtësia mesatare e sinjalit
V=1/2t=500.
Shkalla e transferimit të informacionit
C = vH = 500×1,16 = 580 [bps].
2.2 Kanal komunikimi diskret me zhurmë
Ne do të konsiderojmë kanale komunikimi diskrete pa memorie.
Një kanal pa memorie është një kanal në të cilin çdo simbol sinjal i transmetuar ndikohet nga interferenca, pavarësisht se cilët sinjale janë transmetuar më parë. Kjo do të thotë, ndërhyrja nuk krijon lidhje shtesë korrelative midis simboleve. Emri "pa memorie" do të thotë që gjatë transmetimit të radhës, kanali duket se nuk i kujton rezultatet e transmetimeve të mëparshme.
Në prani të ndërhyrjes, sasia mesatare e informacionit në simbolin e mesazhit të marrë është Y, në lidhje me simbolin e transmetuar X është e barabartë me:
Për një simbol mesazhi X T me kohëzgjatje T, i përbërë nga n simbole elementare, sasia mesatare e informacionit në simbolin e mesazhit të marrë - Y T në lidhje me atë të transmetuar - X T është e barabartë me:
I(Y T, X T) = H(X T) – H(X T /Y T) = H(Y T) – H(Y T /X T) = n)
