Dhe kanalet IP duke përdorur simetrike. Kanal i fshirë

Binar kanal simetrik(shkurtuar si DSC) përcaktohet nga diagrami i probabilitetit të tranzicionit të paraqitur në Fig. 1. Hyrja e kanalit merr sinjale binare, të tilla si 0 dhe 1. Për secilin prej këtyre sinjaleve hyrëse, ekziston një probabilitet që sinjali të merret saktë dhe një probabilitet që ai të merret gabimisht.

Oriz. 1. Kanal binar simetrik.

Shakaxhiu i keq që fut gabime në transmetim është shumë mendjelehtë: ai nuk ka kujtesë dhe i “keqinterpreton” simbolet rastësisht dhe në mënyrë të pavarur nga njëri-tjetri. Veprimet e tij janë shkatërruese, por nuk ka keqdashje të vetëdijshme tek ai dhe aktiviteti i tij është i qëndrueshëm, sipas të paktën, në kuptimin statistikor.

Një skemë abstrakte për transmetimin e informacionit me të cilën do të merremi është paraqitur në Fig. 2. Hyrja e koduesit merr një sekuencë të gjatë binare x,

i përbërë nga karakteret 0 dhe 1, të cilat do t'i quajmë një sekuencë informacioni. Kjo sekuencë mund të jetë krejtësisht arbitrare. Ne duam që ajo të riprodhohet me saktësi në daljen e pajisjes dekoduese me një probabilitet sa më të afërt me një. Pajisjet e koduesit dhe dekoderit lidhen vetëm me një kanal simetrik binar për të cilin dihet probabiliteti i kalimit

Në këtë situatë, koduesi është qartësisht i kufizuar në çfarë operacionesh mund të kryejë. Natyra e DSC është e tillë që kalon vetëm sekuenca binare.

Oriz. 2. Transmetimi i informacionit përmes një kanali simetrik binar.

Por koduesi mund të konvertojë sekuencën x në hyrjen e saj në një sekuencë më të gjatë në daljen e saj. Kështu, sekuenca futet në kanal dhe versioni i tij i shtrembëruar y arrin në hyrjen e pajisjes dekoduese. Detyra e pajisjes dekoduese, duke pasur parasysh probabilitetin e njohur të kalimit të kanalit të sekuencës së shtrembëruar y të marrë në hyrjen e kësaj pajisjeje dhe metodës së kodimit që specifikon transformimin, është të marrë një vendim në lidhje me sekuencën e informacionit x të marrë nga kodimi. pajisje.

Për një DSC të caktuar, detyra e kodimit është të përcaktojë një grup rregullash me të cilat çdo sekuencë informacioni x kodohet në një sekuencë të caktuar, në mënyrë që pajisja dekoduese të mund të rindërtojë në mënyrë unike dhe me një probabilitet arbitrar të ulët gabimi x, pavarësisht nga shtrembërimet që ndodhin në kanalin. Ne jemi të interesuar jo vetëm për

për të treguar se si një kodues nga x prodhon s (problemi i kodimit), por gjithashtu për të treguar se si dekoderi merr x nga y (problemi i dekodimit).

Ekziston të paktën një e thjeshtë dhe zgjidhje e dukshme për këtë detyrë: përsërisni çdo karakter të sekuencës x një herë. Për shembull, sekuenca e informacionit

sipas dëshirës korrespondon me sekuencën e transmetuar

Ne do të deshifrojmë y duke përdorur rregullin e shumicës. Nëse ose më shumë karaktere në çdo bllok karakteresh janë të barabarta me 1, atëherë pajisja e dekodimit do të printojë karakterin 1, përndryshe - karakterin 0. Nëse është e qartë se kur probabiliteti i gabimit Por, për fat të keq, numri i karaktereve që mund të dorëzohen te marrësi për dalje të pajisjes dekoduese do të priret në 0.

Mënyra klasike për të reduktuar probabilitetin e gabimit gjatë transmetimit të informacionit numerik të përkthyer në gjuhën DSC është që, së pari, probabiliteti i tranzicionit duhet të reduktohet, d.m.th., të ndërtohet kanali më i mirë. Nëse në ndonjë fazë përmirësim të mëtejshëm kanali rezulton të jetë joekonomik ose teknikisht i pamundur, atëherë transmetimi përsëritet aq herë sa është e nevojshme për të siguruar që probabiliteti i gabimit që rezulton të bjerë nën një kufi të caktuar që kënaq projektuesin. Vështirësia me qasjen klasike është se kur ky marzh gabimi i afrohet zeros, ose kanali bëhet në mënyrë disproporcionale i shtrenjtë ose të ardhurat nga përdorimi i tij janë në mënyrë disproporcionale të ulëta. Me fjalë të tjera, përsëri përballemi me faktin se përsosja zakonisht ka një kosto.

Puna kryesore e Shannon mbi teorinë e informacionit provoi dy teorema të përgjithshme, të cilat janë në kundërshtim të qartë me pritshmëritë tona.

1. Për një kanal të caktuar, është e mundur, duke përdorur kodimin e zgjedhur siç duhet, të transmetohet me një probabilitet gabimi më të vogël se çdo paraprakisht vlera e vendosur, nëse shkalla e transferimit të informacionit nuk kalon një kufi të caktuar të njohur si gjerësia e brezit kanali S.

2. Anasjelltas, për shpejtësi transmetimi informacioni më të madh se C, është e pamundur të transmetohet me një probabilitet të ulët gabimi arbitrarisht.

Në rastin e një kanali simetrik binar, është e përshtatshme që shpejtësia e transmetimit të informacionit t'i referohet një simboli të transmetuar, në vend të një njësie kohe. Kur të gjitha sekuencat e mundshme x në hyrje janë njësoj të mundshme, shpejtësia e transmetimit të informacionit përcaktohet nga relacioni

7.5. Kapaciteti i kanalit

Madhësia I(X; Y) luan një rol të veçantë në teorinë e informacionit dhe përshkruan transmetimin e informacionit përmes një kanali komunikimi. Nga përkufizimi (7.9) rezulton se I(X; Y) varet si nga probabilitetet e tranzicionit të kanalit ashtu edhe nga shpërndarja e probabilitetit të simboleve në hyrjen e kanalit. Për konsiderata të mëtejshme, merrni parasysh një kanal diskret pa memorie me probabilitete fikse tranzicioni dhe bëni pyetjen: Çfarë shuma maksimale informacioni mund të transmetohet përmes këtij kanali?

Gjerësia e brezit kanali me probabilitete të dhëna kalimi është i barabartë me maksimumin informacionin e transmetuar mbi të gjitha shpërndarjet hyrëse të simboleve burimore X

Komentoni.Dimensioni i gjerësisë së brezit është bit/simbol. Nëse, për shembull, një simbol për sekondë transmetohet në një kanal, atëherë mund të flasim edhe për dimensionet bit/sek.

Meqenëse maksimumi kërkohet mbi të gjitha burimet hyrëse të vlefshme, xhiroja varet vetëm nga probabilitetet e tranzicionit të kanalit.

Nga pikëpamja matematikore, kërkimi i kapacitetit të një kanali diskret pa memorie zbret në kërkimin e shpërndarjes së probabilitetit të simboleve të burimit hyrës që ofron informacion maksimal. I(X; Y). Në të njëjtën kohë, në probabilitetin e simboleve hyrëse vendosen kufizime

Në thelb, përcaktimi i maksimumit I(x,y) nën kufizimet (7.44) është e mundur kur përdoret shumëzues Metoda e Lagranzhit. Sidoqoftë, një zgjidhje e tillë është jashtëzakonisht e shtrenjtë. Në një rast të veçantë (kanalet simetrike), teorema e mëposhtme ndihmon për të gjetur xhiron.

Teorema 7.5.1. Në kanalet diskrete simetrike pa memorie, xhiroja arrihet me një shpërndarje uniforme probabiliteti të simboleve të burimit hyrës. X.

Komentoni.Gjithashtu ofrohet një metodë për të përcaktuar nëse kanali është simetrik apo jo.

7.5.1. Gjerësia e brezit

Kanali simetrik diskrete binar pa memorie (DSC) përcaktohet duke përdorur matricën e probabilitetit të kalimit të kanalit (7.2). Parametri i vetëm që karakterizon DSC është probabiliteti i gabimit ε. Nga shpërndarja uniforme e simboleve hyrëse dhe simetria e tranzicioneve të kanaleve, rrjedh shpërndarja uniforme e simboleve dalëse, d.m.th.

Duke përdorur (7.9), marrim

Zëvendësimi vlerat numerike, ne kemi

Entropia DSC përcaktohet përmes (2.32)

Më në fund marrim xhiron e DSC në një formë kompakte

Dy rastet e skajeve janë interesante:

1. Transmetimi i informacionit përmes një kanali të heshtur:

Dhe

2. Kanali është plotësisht i zhurmshëm:

DHE

Një rast i rëndësishëm i veçantë i DSC është kanal simetrik binar me fshirje (DSKS) ose kanal binar me fshirje (Binary Erasure Channel, WEIGHT - Anglisht). Ashtu si DSC, një kanal binar me fshirje mund të shërbejë si një model i thjeshtuar i transmetimit të informacionit mbi kanal Me aditiv zhurma e bardhë Gaussian (AWGN). Rregulli i vendimmarrjes në DSKS është paraqitur në Fig. 7.11. Nga figura mund të shihet se së bashku me vendimet për karakterin e transmetuar "0" ose "1", ndonjëherë merret një vendim për të fshirë karakterin e marrë "e" (Fshirje). Fshirja ndodh nëse zbulohet sinjal analog V bie në zonën për të cilën funksionojnë vlerat e densitetit të probabilitetit të kushtëzuar f(V/0) dhe f(V/1) rezultojnë të jenë afër zeros.

Oriz. 7.11. Funksionet e densitetit të probabilitetit të kushtëzuar të sinjalit të zbuluar dhe zonës së vendimmarrjes.

Komentoni.Në një kanal binar me fshirje, në vend të një vendimi të qartë "të vështirë" për simbolin e marrë "O" ose "1", merret një i ashtuquajtur "i butë". zgjidhje. Në këtë rast, ne gjithashtu kemi disa informacione në lidhje me besueshmërinë e simbolit binar të marrë. Në këtë drejtim, në teknologjinë e transmetimit të të dhënave ata flasin për marrjen me një vendim "të vështirë" dhe "të butë". Një zgjidhje "e butë" në kombinim me kodimin e përshtatshëm të informacionit lejon, në disa raste, transmetim më të besueshëm të të dhënave. Një shembull i përdorimit të një zgjidhjeje "të butë" mund të gjendet në pjesën e dytë të këtij libri.

Oriz. 7.12.

Le të shënojmë probabilitetin e fshirjes me q, dhe probabiliteti i gabimit të një simboli të pafshirë është R.

Diagrami i tranzicionit për një kapak me dy simbole hyrëse dhe tre dalje është paraqitur në Fig. 7.12. Matrica përkatëse e kanalit që përmban probabilitetet e tranzicionit ka formën

Le të gjejmë kapacitetin e kanalit me fshirje. Meqenëse kanali është simetrik, xhiroja arrihet me një shpërndarje uniforme të simboleve hyrëse

Nga kjo rrjedh se probabilitetet e simboleve të daljes janë të barabarta

Tani dihen të gjitha probabilitetet e nevojshme. Duke përdorur (7.9), ne kemi

Duke përdorur vetinë e simetrisë së kanalit, marrim

Siç e shohim, xhiroja e një kanali me fshirje varet vetëm nga probabilitetet R Dhe q. Orari C =f(fq, q) është një sipërfaqe hapësinore tredimensionale e vendosur mbi rrafsh (fq, q). Këtu do të kufizohemi vetëm në shqyrtimin e dy rasteve të rëndësishme të veçanta.

1. Kur q = 0, ne kemi një kanal binar simetrik, të diskutuar tashmë më parë. Zëvendësimi q = 0 në (7.59), siç pritej, marrim (7.49).

2. Kanali përmban vetëm fshirje, d.m.th. në p = 0 gabimet ose nuk janë të pranishme, ose ne i neglizhojmë ato. Në këtë rast

Në Fig. 7.13 tregon xhiron e DSC (7.49) dhe kanalin binar me fshirje (p = 0). Duhet të theksohet se me probabilitete të ulëta gabimi, duke zgjedhur zonat optimale të fshirjes në DSCS, është e mundur të arrihen xhiro dukshëm më të larta se në kanalet binare konvencionale.

Komentoni.Këtu lind pyetja për mundësinë e rritjes së xhiros gjatë marrjes me fshirje në praktikë. Këtu zbulohet dobësia e teorisë së informacionit. Teoria e informacionit shpesh nuk mund të ofrojë një dizajn që realizon kufijtë teorikisht të arritshëm. Megjithatë, një shembull i vogël, i diskutuar në detaje në pjesën e dytë të këtij libri, tregon se futja e fshirjeve ndonjëherë mund të zvogëlojë gjasat e gabimit. Le ta shohim këtë shembull në një nivel intuitiv. Le ta ndajmë rrjedhën e informacionit të transmetuar në blloqe që përmbajnë 7 karaktere binare (7 bit). Çdo blloku shtojmë një bit barazie (“O” ose “1”). Blloqet e tetë karaktereve binare të koduara në këtë mënyrë do të përmbajnë gjithmonë një numër çift të njësh. Lëreni që probabiliteti i gabimit në DSC të jetë mjaft i vogël. Le të prezantojmë zonën e fshirjes (Fig. 7.11) në këtë mënyrë:në mënyrë që gabimet më së shumti të kthehen në fshirje. Në të njëjtën kohë, probabiliteti i një gabimi "të pafshirë" do të jetë i papërfillshëm, dhe probabiliteti i fshirjes do të mbetet mjaft i vogël. Ne do të marrim një kapak fshirjeje (DSKS), në të cilin blloqet me tetë karaktere binare në shumicën dërrmuese të rasteve ose do të merren saktë ose do të përmbajnë vetëm një të fshirë karakter binar. Cilësia e pritjes do të përmirësohet ndjeshëm, pasi një fshirje në një bllok me një numër çift mund të korrigjohet gjithmonë.

Oriz. 7.13. Kapaciteti i gjerësisë së brezit të një kanali simetrik binar ME DSK me mundësi gabimi ε Dhe kanal binar me fshirje ME DSKS me probabilitet të fshirjes q dhe probabiliteti i gabimit R= 0.

Shembull: Kanal binar simetrik me fshirje.

Oriz. 7.14. Kanal binar me fshirje.

Në Fig. Figura 7.14 tregon diagramin e kalimit të një kanali simetrik me fshirje. Përcaktoni:

1. Matrica e kanalit

2. Shpërndarja e probabilitetit të simboleve burimore Y, nëse dihet se simbolet burimore X shpërndahet në mënyrë të barabartë, d.m.th. pa = pi = 1/2;

3. Kapaciteti i kanalit;

4. Diagrami i rrjedhave të informacionit me të gjitha entropitë;

5. Modeli i kanalit me matricë Ры/у.

Zgjidhje.

1. Duke marrë parasysh faktin se shuma e probabiliteteve në çdo rresht të matricës është e barabartë me 1, marrim

2. Bazuar në shpërndarjen uniforme të probabilitetit të simboleve në hyrje, sipas (7.52), kemi

3. Meqenëse kanali në shqyrtim është simetrik, xhiroja arrihet me një shpërndarje uniforme të simboleve hyrëse. Nga (7.54) duke marrë parasysh (7.56) kemi

4. Entropia e një burimi binar diskret, pa memorie X me probabilitet uniform shpërndarja e simboleve është e barabartë me

Entropia e burimit YR Ava

Meqenëse në një kanal simetrik me shpërndarja uniforme e simboleve hyrëse I(X; Y) përputhet me gjerësinë e brezit ME nga (7.58), entropia e përbashkët dhe dy entropitë e kushtëzuara mund të llogariten duke përdorur tabelën 7.3. Diagrami i rrjedhës së informacionit është paraqitur në Fig. 7.15.

Oriz. 7.15. Diagrami i rrjedhave të informacionit të një kanali simetrik binar me fshirje.

5. Rillogaritja e matricës së probabiliteteve të kalimit të kanalit në

Matricën ia lëmë lexuesit si një ushtrim të pavarur. Diagrami i kanalit me burimin hyrës Y dhe fundjavave X treguar në Fig. 7.16 për kontroll.

Oriz. 7.16. Kanal binar simetrik me fshirje.

7.6. Teorema e kodimit për kanale diskrete pa memorie

Le të shqyrtojmë një kanal diskret pa memorie me një gjerësi brezi prej C[bit/simbol], në të cilin çdo simbol transmetohet brenda T s sek. Për këtë kanal

Lëreni entropinë e ndonjë burimi X, e matur në një periudhë sekondash është H(X) pak. Atëherë vlen teorema e mëposhtme.

Teorema 7.6.1. Teorema e kodimit të kanalit(teorema e Chenault-it).

Për burim X me shpejtësi R = H(X)/ T S [bit/sek] dhe R < С ka një kod. me ndihmën e cilit burim informacioni X mund të transmetohet në një kanal komunikimi me një kapacitet C 1 [bit/sek] me një probabilitet të ulët gabimi arbitrarisht.*

* Teorema e kodimit nuk është e vërtetë vetëm për kanalet diskrete, por është e vërtetë edhe për transmetimin mesazhe diskrete Nga kanale të vazhdueshme. shënim përkthimi

Vërtetimi i teoremës së kodimit për një kanal (shih, për shembull,) është mjaft i ndërlikuar dhe është përtej qëllimit të këtij libri, kështu që ne do të kufizohemi këtu në komentet e mëposhtme.

Vërtetimi i teoremës së kodimit përfshin përdorimin e kode të rastësishme gjatësi të pafundme dhe një dekoder me gjasë maksimale, duke siguruar një probabilitet minimal gabimi. Prova nuk përdor asnjë zgjidhje konstruktive. Ai përdor vetëm vetitë statistikore dhe kalimet kufitare për kodet e bllokut me gjatësi blloku që priren në pafundësi. Prova nuk jep asnjë tregues për hartimin e kodeve optimale.

Teorema e kodimit përcakton gjithashtu një kufi të sipërm për shpejtësinë e transmetimit R.*

Kur vërtetohet teorema, paraqitet një tregues vlerësimi eksponencial R 0 , e cila mund të përdoret për të vlerësuar shkallën teknikisht të arritshme të transferimit të të dhënave.

* Këtu nevojitet një sqarim. Ekziston një teoremë e kodimit të anasjelltë që e thotë këtë. po për R> C Nuk ka asnjë metodë kodimi që lejon që informacioni të transmetohet me ndonjë probabilitet gabimi. shënim përkthimi

Kapitulli 8. Burimet dhe kanalet e vazhdueshme

Kapitulli 2 e përcakton entropinë si një masë të pasigurisë së burimit. Supozohej se entropia matej përmes eksperimenteve të rastësishme. Në këtë kapitull do të kemi një qasje të ngjashme me burimet e vazhdueshme.

Oriz. 8.1. Sinjali i burimit të vazhdueshëm.

Në vend të burimeve me një alfabet të fundëm simbolesh, ne do të shqyrtojmë burimet prodhimi i të cilave është sinjale të vazhdueshme. Një shembull i sinjaleve të tilla është tensioni që ndryshon nga koha në kanalet telefonike, etj. Figura 8.1 tregon një burim të vazhdueshëm X, dalja e të cilit është një sinjal analog x(t), që është një funksion i rastësishëm i kohës t. Ne do të marrim parasysh vlerat x(t) në disa pika fikse në kohë si eksperimente të rastësishme që mbartin disa informacione rreth burimit X.

8.1. Entropia diferenciale

Figura 8.2 tregon dy burime të vazhdueshme X Dhe Y, i lidhur me një kanal (i ngjashëm me Fig. 7.4). Këtu, në vend të probabiliteteve, ka funksione të densitetit të probabilitetit të ndryshoreve stokastike.

Përdorimi i variablave stokastike dhe funksionet e densitetit të probabilitetit të tyre na lejon të prezantojmë konceptin e informacionit, entropisë, entropisë së kushtëzuar dhe reciproke për dy burime të vazhdueshme në analogji me burime diskrete.

Oriz. 8.2. Dy burime të vazhdueshme pa memorie, të lidhura me një kanal.

Transformimi i një burimi të vazhdueshëm X të diskreteve. Për ta bërë këtë, ne kuantizojmë vlerat e prodhimit analog të burimit me një hap Δ (Fig. 8.3).

Oriz. 8.3. Dixhitalizimi i një burimi të vazhdueshëm me një interval kuantizimi Δ në momentet e vëzhgimit t 0 , t 1 etj.

Përveç kësaj, siç bëhet zakonisht në teorinë e informacionit, ne do të diskretizojmë burimin me kohë. Si rezultat, ne marrim një sekuencë të ndryshoreve stokastike.Në tabelën 7.2, ne përcaktojmë informacionin e ndërsjellë të simboleve x i, Dhe y j , Ku x i - vlera e simbolit të daljes në moment t m , a x j - në një moment në kohë t n

Informacioni i ndërsjellë mund të interpretohet si pasiguria "e hequr" (e humbur) e goditjes së ndryshores X P në interval , kur dihet se ndryshorja X T i përket intervalit ose anasjelltas. Ne do të shqyrtojmë funksionin e densitetit të probabilitetit funksion të vazhdueshëm. Pastaj, duke e drejtuar gjerësinë e intervalit të kuantizimit në zero, marrim

ato. një rezultat i ngjashëm me shprehjen e informacionit të ndërsjellë për burime diskrete. Informacioni i transmetuar mund të përkufizohet si pritshmëri matematikore

Komentoni.Këtu, për të sjellë shënimin e këtij kapitulli në përputhje me rezultatet e tabelës 7.2, në vend të X T të përdoruraX, dhe në vend të kësajY n - Y.

Informacioni burimor përcaktohet bazuar në arsyetime të ngjashme

Në ndryshim nga shprehja (8.3) për informacionin e ndërsjellë, në (8.4) shfaqet një term që varet nga intervali i kuantizimit Δ.

Në , vlera gjithashtu tenton në pafundësi. Si rezultat, shprehja për gjithashtu tenton në ∞. Kjo nuk është për t'u habitur, pasi me zvogëlimin e hapit të kuantizimit, rritet numri i ngjarjeve individuale (simbolet e alfabetit burimor) dhe, rrjedhimisht, rritet edhe pasiguria e burimit.

Madhësia nuk varet nga burimi dhe është krejtësisht i parëndësishëm për përshkrimin e tij, prandaj, duket krejt e natyrshme të përdoret vetëm funksioni i densitetit të probabilitetit të një burimi të vazhdueshëm. Kështu, kalojmë në përkufizimin tjetër.

Informacioni mesatar i një burimi të vazhdueshëm, i ashtuquajturi entropia diferenciale, përcaktuar si

Para së gjithash, vërejmë se një përkufizim i tillë arbitrar i entropisë diferenciale konfirmon përshtatshmërinë e tij me faktin se marrëdhëniet e entropisë për burime diskrete rezultojnë të jenë të vlefshme për rastin e burimeve dhe kanaleve të vazhdueshme. Në veçanti, për burimet e vazhdueshme qëndrojnë marrëdhëniet (7.39) - (7.42).

Kështu, entropia diferenciale e një burimi të vazhdueshëm varet vetëm nga funksioni i densitetit të probabilitetit, i cili në rast i përgjithshëmështë një sasi e pafundme, prandaj, le të shtrojmë pyetjen se sa e madhe mund të jetë vlera e entropisë diferenciale. Para së gjithash, vërejmë se karakteristikat e një procesi stokastik janë dy sasi: vlera mesatare që merr ndryshorja stokastike (e cila ka vetinë e linearitetit) μ dhe devijimi standard i ndryshores stokastike σ .

Vlera mesatare ose pritshmëri matematikore μ nuk ka efekt në entropinë diferenciale. Me rritjen σ , rritet pasiguria e burimit, çka sjell edhe rritjen e entropisë diferenciale. Në këtë drejtim, krahasimi funksione të ndryshme ka kuptim që në të njëjtën kohë të prodhohen dendësi të shpërndarjes së probabilitetit në raport me entropinë e tyre përkatëse σ .

Komentoni.NË teknologjia e informacionit merret si parametër fillestarσ 2 - dispersion, i cili përcakton fuqinë mesatare të procesit stokastik[ 10]. Është e qartë se me rritjen e fuqisë së transmetuesit rritet sasia e informacionit të transmetuar dhe anasjelltas me rritjen e fuqisë së zhurmës rritet edhe pasiguria, d.m.th. Më pak informacion transmetohet për njësi të kohës.

Nga teoria e informacionit rezulton se entropia diferenciale arrin maksimumin e saj me një shpërndarje probabiliteti Gaussian.

Teorema 8.1.1. Për një variancë të caktuar σ 2 , entropia diferenciale maksimale ka një burim me Shpërndarja Gaussian probabilitetet, dhe

Shembull: Entropia diferenciale e një burimi Gaussian.

Nga (8.5) rrjedh se entropia diferenciale e burimit Gaussian është e barabartë me

Shprehja në kllapa katrore mund të zgjerohet në dy integrale. Kështu, më në fund kemi

Shembuj numerikë për tre shpërndarjet më të zakonshme janë dhënë në tabelën 8.1.

Tabela 8.1. Një shembull i entropisë diferenciale.

Shembull: Telefonia.

Dobia praktike e rezultateve të mësipërme mund të demonstrohet qartë duke vlerësuar arritjet e shpejtësisë së transmetimit të informacionit (në bit) në linjat telefonike dixhitale. Moderne metoda standarde transmetim dixhital fjalimi (PCM logaritmike) kërkon 8 bit për të koduar një mostër, me një frekuencë të mostrës prej 8 kHz. Kështu, shpejtësia e transmetimit të zërit është 64 kbit/sek.

Bazuar në shpërndarjen uniforme të probabilitetit në intervalin [-1,1], ne marrim eksperimentalisht σ 2 = 1/3. Kështu, entropia diferenciale për mostër është

Meqenëse mostrat merren në një frekuencë prej 8 kHz, ne zbulojmë se shpejtësia e nevojshme e transmetimit të të folurit është 8 kbit/sek. Gjatë vlerësimit të entropisë, ne nuk kemi marrë parasysh lidhjet midis mostrave fqinje (memoria burimore) dhe. prandaj, entropia diferenciale aktuale e burimit të të folurit do të jetë edhe më e vogël. Në fakt, ne e dimë atë algoritme moderne kodimi i të folurit lejon transmetimin sinjali i të folurit me një shpejtësi prej rreth 8 kbit/sek me cilësi të krahasueshme me PCM standarde.

Internet satelitor ngjall interes tek përdoruesit kryesisht për shkak të disponueshmërisë së tij universale. Në fund të fundit, qasja në internet nga një satelit ndihmon kur opsionet e tjera për t'u lidhur me internetin janë joefektive ose nuk janë fare të disponueshme.

Në epokën e internetit të kudondodhur, për banorët e qyteteve të mëdha, mungesa e tij duket si një keqkuptim, por çfarë mundësish kanë banorët e shtëpive private dhe ato që ndodhen larg qyteteve të mëdha? vendbanimet vende? Shumica e ofruesve përfitojnë nga mbulimi i rrjetit rezidencial të vetëm ndërtesave të banimit. Është shumë më e vështirë për banorët e "sektorit privat" të organizojnë një kanal në internet, për të mos përmendur zonat e largëta ku ofruesit nuk ka gjasa të vijnë në të ardhmen e afërt. Natyrisht, është e mundur të hyni në internet përmes operatori celular, por duke pasur parasysh volumin aktual të trafikut është shumë i shtrenjtë.

Një alternativë e denjë për shpejtësinë e ulët dhe të shtrenjtë interneti celular - Internet satelitor . Kohët e fundit, vetëm disa e përdorën atë, por tani kjo metodë e hyrjes në internet është bërë shumë më e aksesueshme.

Mbulimi me internet satelitor

Internet satelitor- ky është komunikim përmes një kanali radio me pjesëmarrje satelitët artificialë Tokat, të cilat nuk janë burime të pavarura ose marrës përfundimtarë të sinjalit, pasi janë vetëm përsëritës që na lejojnë të anashkalojmë kufizimin e distancës së komunikimeve radio tokësore të shkaktuar nga terreni i pabarabartë i planetit tonë. Kështu, Interneti satelitor është vetëm një mënyrë për të dhënë një sinjal nga një ofrues tokësor te një klient tokësor.

E veçanta e internetit satelitore është se përsëritësi është në orbitë, duke rritur automatikisht zonën e mbulimit të sinjalit në disa zona dhe rajone. Duke marrë parasysh edhe koston e tyre, mund të justifikohet arsyeja pse ky lloj komunikimi nuk është i disponueshëm për askënd. Nje tjeter veçori e internetit satelitoreështë të kufizojë sasinë e informacionit të transmetuar. Në fund të fundit, nëse secilit pajtimtar duhet t'i ndahen dy kanale të veçanta (për marrjen dhe transmetimin e të dhënave), atëherë një pajisje e tillë thjesht nuk do të përshtatej në satelit, dhe numri i pajtimtarëve të mundshëm do të ishte jashtëzakonisht i vogël. Për të optimizuar disi kostot, ofruesit përfitojnë nga veçoritë e trafikut të internetit.

Internet asimetrik - satelitor me 50%

Nëse flasim për statistika, atëherë mesatarisht trafiku në hyrje tejkalon atë dalës dhe gjatë projektimit të rrjeteve nisen nga ky faktor duke siguruar shpejtësi të ndryshme kanalet hyrëse dhe dalëse. Le të marrim për shembull një kanal ADSL (nga rruga, këtë shkurtim do të thotë "asimetrike" linjë dixhitale"), në të cilin trafiku në hyrje është disa herë më i shpejtë se trafiku në dalje. Në të njëjtën kohë, përdoruesit ndihen mjaft rehat, dhe ofruesi kursen në burimet e frekuencës. Një teknologji e ngjashme përdoret në organizim komunikimet satelitore, vetëm këtu operatorët përfitojnë nga mundësia jo vetëm për të ulur shpejtësinë e kanalit të kundërt, por heqje e plotë atë nga sateliti, domethënë transferimi i këtij funksioni në duart e ofruesve tokësorë. Kjo skemë quhet kanal asimetrik. Zakonisht përdoret si kanal kthimi linjë telefonike(të palëvizshme ose komunikimet celulare), por këtë rol mund ta luajë edhe një ofrues që punon rrjet lokal ose akses me valë.

Ekziston një stereotip se interneti satelitor synon rajone me infrastrukturë të dobët të zhvilluar; kjo nuk mund të kuptohet si mungesë e plotë e telekomunikacionit si të tillë. Përkundrazi, kjo do të thotë mungesë e ofruesve të mirë tokësor me tarifa të arsyeshme. Ky opsion gjithashtu ju lejon të rritni ndjeshëm shpejtësinë e hyrjes nëse, për shembull, qasja në internet është e mundur vetëm përmes një modemi telefonik ose një kanali të ngadaltë GPRS të Internetit celular.

Në të njëjtën kohë, ekziston edhe Internet satelitor me dy drejtime, por fenomeni është larg të qenit i përhapur. Ky opsionështë menduar kryesisht për ata që kanë nevojë për qasje në internet kur mungesë e plotë alternativa nga kudo në botë. Kjo zgjidhje me të vërtetë nuk varet nga rrjetet ekzistuese, megjithëse ende kërkon energji elektrike për të funksionuar. Por për shkak të kostos së lartë të një kanali të tillë, ai përdoret kryesisht për qëllime të punës emergjente, kështu që më shpesh nën Internet satelitor Kjo do të thotë një kanal asimetrik që kombinon sa vijon:

• marrës satelitor për pritje
• shërbimet e një ofruesi tokësor (për shembull, një operator celular) për të dërguar kërkesa dhe të dhëna.

Opsione për organizimin e një kanali të kundërt

Mënyrat për të organizuar kanali i kthimit ka shume. Sigurisht, zgjedhja e teknologjisë duhet të përcaktohet kryesisht nga aftësitë e disponueshme në një të veçantë pikë gjeografike. Kjo mund të jetë jo vetëm një linjë telefonike fikse ose celulare, por edhe një lloj opsioni i hyrjes në radio. Nuk përjashtohet ofruesi lokal me " rrjeti i shtëpisë"(për disa arsye nuk ju përshtatet si e vetmja lidhje me World Wide Web).

Softueri i ofruar nga operatori i Internetit satelitor është përgjegjës për shpërndarjen e saktë të të dhënave (ku të dërgoni kërkesën dhe nga të lexoni informacionin). Pa të punë kompetente një kanal asimetrik nuk është i mundur.

Karakteristikat e një kanali asimetrik

Fatkeqësisht, edhe me skema asimetrike për organizimin e aksesit në internet numri i frekuencave për transmetimin e të dhënave nga sateliti është i kufizuar. Kjo do të thotë se është e pamundur t'i sigurohet çdo abonenti një kanal të veçantë jo vetëm për marrjen/transmetimin, por edhe thjesht për marrjen e informacionit. Për më tepër, çdo ndarje tjetër e kanaleve, për shembull sipas kohës, gjithashtu nuk është efektive. Prandaj, standardi i Internetit satelitor nënkupton transmetim të dhëna për të gjithë përdoruesit, që do të thotë se informacioni i marrë nga marrësi përmban jo vetëm faqet që keni kërkuar, por edhe postën e fqinjit tuaj, pjesë të filmit të shkarkuar të të afërmit tuaj në një qytet tjetër, madje edhe mesazhe nga një mesazher i një të huaji.

Marrës satelitor deshifron sinjalin që vjen nga sateliti në të dhënat e kërkuara të Internetit

Marrësi zgjedh të dhënat e nevojshme nga kjo masë duke përdorur adresën MAC të terminalit satelitor. Sigurisht, ofruesit e Internetit satelitor përdorin truket e ndryshme për të parandaluar përdoruesit të lexojnë informacione që nuk janë të destinuara për ta - për shembull, kanalet janë të koduara duke përdorur algoritme të ndryshme. Por vetë fakti që të dhënat konfidenciale mund të aksesohen tërheq shumë mashtrues dhe thjesht njerëz kureshtarë. Argëtimi që konsiston në leximin e të dhënave të njerëzve të tjerë quhet "peshkimi satelitor".

Pajisje për internet satelitor

Ato më të njohurat për organizimin e Internetit satelitor sot janë Standardet DVB-S dhe DVB-S2 (e dyta është një version i përmirësuar i të parit). Për t'u lidhur me rrjetin nëpërmjet satelitit duke përdorur një skemë të zakonshme asimetrike, do t'ju duhet:

• pjatë satelitore me diametër të rekomanduar
• konverteri i sinjalit
• marrës (terminali satelitor i internetit)
• kabllot e nevojshme
• kontratë me një operator satelitor.

Siç thashë më herët, është gjithashtu e nevojshme lidhje alternative në Rrjetin "tokësor" dhe softuerin për menaxhimin e paketave të të dhënave.

Antenat satelitore nuk janë të ndryshme nga pajisjet për marrjen e televizionit satelitor dixhital, por ato ndryshojnë ndjeshëm si në çmim ashtu edhe në madhësi nga antenat e transmetuesit. Zakonisht operatori Internet satelitor, siç është rasti me televizion satelitor, rekomandon një diametër minimal të caktuar të "pjatës", në varësi të vendndodhjes gjeografike të pajtimtarit (dhe për rrjedhojë fuqisë sinjal satelitor në kushte ideale). Mbrapa informacion të saktë Ju duhet të kontaktoni faqen e internetit të operatorit. Teorikisht, ju mund të instaloni vetë një pjatë satelitore. Sidoqoftë, më shpesh rekomandohet të kontaktoni specialistë të cilët do ta drejtojnë atë qartë në një satelit të vendosur në orbitë gjeostacionare.

Konvertuesit mund të ndryshojnë nga njëri-tjetri në një numër parametrash (për shembull, në polarizimin me të cilin punojnë), kështu që kur zgjidhni, rekomandohet t'i kushtoni vëmendje listave të pajisjeve të mbështetura në faqen e internetit të ofruesit.

Marrësi në formatin e kartës PCI futet brenda njësisë së sistemit dhe i siguron përdoruesit trafikun në hyrje nga televizioni satelitor dhe satelitor.

Terminali satelitor është një tabelë ndërfaqeje që mund të futet në të njësi të sistemit kompjuter (për shembull, nëpërmjet një ndërfaqeje PCI) ose i vendosur në një kuti të jashtme dhe i lidhur me një PC nëpërmjet një porti USB.

Kujdes! Së pari nuk duhet të blini pajisje dhe më pas të kërkoni një ofrues shërbimi satelitor të internetit. Nëse "pllakat" janë pak a shumë universale, atëherë terminalet e aksesit të ofruara operatorë të ndryshëm, shumë shpesh rezultojnë të jenë të papajtueshme. Ofruesi juaj i shërbimit të internetit zakonisht mund t'ju ofrojë si harduerin ashtu edhe software, në të cilën është specifikuar tashmë cilësimet e veta(kodimi, proxy servers, etj.).

Kanal komunikimi satelitor me dy drejtime

Kanal simetrik

Natyrisht, për të organizuar një kanal të dyanshëm, do t'ju duhet jo vetëm pajisje marrëse, por edhe transmetuese, domethënë një antenë marrëse më e shtrenjtë, një njësi transmetuese (përveç asaj marrëse), si dhe një terminal special. Përveç kostos së lartë të gjithë kësaj pajisjeje dhe marrjes me qira të kapacitetit satelitor, interneti satelitor i dyanshëm ka disavantazhe të tjera:

• Meqenëse të dhënat nga ju dërgohen përmes ajrit, pajisjet transmetuese duhet të regjistrohen siç duhet në agjencitë qeveritare, gjë që mund të zgjasë shumë, por më shpesh ofruesit kujdesen për këtë problem.
• Interneti satelitor i dyanshëm është një metodë shumë specifike e komunikimit. Duke marrë parasysh kohën që duhet për një sinjal radioje për të udhëtuar përmes satelitit te ofruesi dhe mbrapa, përgjigjet ndaj kërkesave të dërguara mund të mos kthehen në disa milisekonda, siç jemi mësuar me ofruesit tokësorë, por në sekonda. Një vonesë e caktuar është gjithashtu tipike për "asimetrike" lidhje satelitore, por në këtë rast sinjali udhëton vetëm një herë përgjatë rrugës "të gjatë" (nëpërmjet satelitit). Kur organizohet një vijë simetrike sinjali po vjen përmes satelitit dy herë (një kërkesë për ofruesin dhe një përgjigje ndaj përdoruesit), domethënë, koha e pritjes dyfishohet dhe bëhet e dukshme. Kjo do të thotë se nuk ka rrjet Lojra kompjuterike, që kërkon një përgjigje të shpejtë dhe nuk ia vlen të mendohet.

A është i shtrenjtë interneti satelitor?

Interneti tradicional satelitor është i ndryshëm kosto e larte lidhje, sepse abonenti duhet të paguajë pajisje të shtrenjta. Por me popullarizimin e shërbimit, po shfaqen gjithnjë e më shumë terminale dhe pjata satelitore të aksesueshme, gjë që na lejon të shpresojmë për një ulje të çmimeve në të ardhmen e afërt. Kostoja e sotme akses simetrikështë rreth 2-3 dhjetëra mijëra rubla për lidhje dhe konfigurim, si dhe nga 1000 rubla në muaj për trafik ose si tarifë abonimi.

ME akses asimetrik situata është më e mirë: kostoja e marrjes së pajisjeve është rreth 5000-7000 rubla. Shpenzimet mujore në trafik ose tarifë abonimi mesatarisht ato variojnë nga 500 rubla për lidhjet pa një prag më të ulët të shpejtësisë së garantuar (CIR) dhe nga 2000 rubla - me një prag të tillë.

Keni nevojë për internet satelitor?

Interneti satelitor mund të jetë mundësia e vetme për t'u lidhur me internetin ku nuk ka shërbim të qëndrueshëm celular ose kabllor komunikimi telefonik. Dhe nëse çmimi i çështjes nuk ju ndalon, ka kuptim t'i kushtoni vëmendje metodë simetrike akses. Por ia vlen të merren parasysh disavantazhet e llojeve të komunikimit në internet satelitor. Fatkeqësisht, një akses i tillë në internet, çuditërisht, nuk është aq i besueshëm. Duke marrë parasysh që sinjali udhëton mijëra kilometra drejt satelitit, çdo re e dukshme mund të bëhet një ndërhyrje. Kjo mund të luftohet duke përdorur një zonë më të madhe pjatë satelitore, e cila do të kushtojë më shumë. Një tjetër disavantazh i një lidhjeje të tillë është nevoja për ndihmë specialistike gjatë instalimit dhe konfigurimit të pajisjeve, gjë që kërkon gjithashtu para.

Kanal komunikimi diskret me ndërhyrje

Ne do të konsiderojmë kanale komunikimi diskrete pa memorie.

Kanal pa memorie është një kanal në të cilin çdo simbol i sinjalit të transmetuar ndikohet nga interferenca, pavarësisht se çfarë sinjalesh janë transmetuar më parë. Kjo do të thotë, ndërhyrja nuk krijon lidhje shtesë korrelative midis simboleve. Emri "pa memorie" do të thotë që gjatë transmetimit të radhës kanali duket se nuk i kujton rezultatet e transmetimeve të mëparshme.

Në prani të ndërhyrjes, sasia mesatare e informacionit në një simbol të mesazhit të marrë është Y, në lidhje me të transmetuarit - X barazohet me:

Për simbolin e mesazhit X T kohëzgjatja T, që përbëhet nga n simbolet elementare sasia mesatare e informacionit në një mesazh simboli të marrë - Y T në lidhje me atë që u transmetua - X T barazohet me:

Unë (Y T , X T ) = H(X T ) - H(X T /Y T ) = H(Y T ) - H(Y T /X T ) = n )