Kako podesiti pametne telefone i računare. Informativni portal
  • Dom
  • Iron
  • Količina informacija sadržanih u poruci. Lekcija iz informatike i IKT-a „Količina informacija kao mjera smanjenja nesigurnosti znanja

Količina informacija sadržanih u poruci. Lekcija iz informatike i IKT-a „Količina informacija kao mjera smanjenja nesigurnosti znanja

Podaci o autoru

Četvergova Yu. N.

Mjesto rada, pozicija:

Opštinska obrazovna ustanova "Srednja" sveobuhvatne škole br. 1, Porkhov", nastavnik

Pskov region

Karakteristike lekcije (lekcije)

Nivo obrazovanja:

Srednje (potpuno) opšte obrazovanje

Ciljna publika:

učitelj (učitelj)

Casovi):

Stavke:

Računarstvo i IKT

Svrha lekcije:

Ponavljanje, učvršćivanje, kontrola znanja i vještina

Vrsta lekcije:

Lekcija o sveobuhvatnoj primjeni znanja učenika o učenju

Učenici u razredu (auditorij):

Korištena metodološka literatura:

Razvoj nastave iz informatike. 10. razred. O. L. Sokolova;

Korištena oprema:

Program kalkulatora

Kalkulator

Predmet. Količina informacija. Hartley i Shannon formule

Napredak lekcije

Ponavljanje gradiva obrađenog na času. Dodatak. (10 minuta)

Kartice za obuku. Grupni rad (20 minuta)

Rješavanje problema. Rad u paru (10 minuta)

Test. (40 minuta)

Peer review. Radite na greškama.

Osnovna znanja, vještine i kompetencije

Znanje:

Koji su događaji jednako vjerovatni, a koji nisu jednako vjerovatni;

Kako pronaći vjerovatnoću događaja;

Kako pronaći količina informacija u porukama za razne događaje.

Vještine:

Razlikovati podjednako verovatne i nejednako verovatne događaje;

Pronađite količinu informacija za različite događaje.

kompetencije:

Saradnja

Komunikacijske vještine

Kreativnost i radoznalost

Kritičko razmišljanje (vrednosni sud)

Ponavljanje gradiva obrađenog na času

Koji su događaji podjednako vjerovatni, a koji nisu?

Godine 1928. američki inženjer R. Hartley predložio je naučni pristup evaluaciji poruka. Formula koju je predložio bila je sljedeća:

I = log 2 K,
gdje je K broj jednako vjerovatnih događaja; I je broj bitova u poruci tako da se desio bilo koji od K događaja. Tada je K=2 I .
Ponekad se Hartleyeva formula piše ovako:

I = log 2 K = log 2 (1 / r) = - log 2 r,
pošto svaki od K događaja ima jednako vjerojatan ishod p = 1 / K, tada je K = 1 / p.

Lopta se nalazi u jednoj od tri urne: A, B ili C. Odredite koliko bitova informacija sadrži poruka koja se nalazi u urni B.

Rješenje.

Takva poruka sadrži I = log 2 3 = 1,585 bita informacija.

Ali nemaju sve situacije istu vjerovatnoću implementacije. Mnogo je takvih situacija u kojima se vjerovatnoće realizacije razlikuju. Na primjer, ako bace asimetričan novčić ili "pravilo sendviča".

„Jednom kao detetu, ispao mi je sendvič. Gledajući me kako brišem sa krivicom uljna mrlja ostavljen na podu, stariji brat me je uvjeravao:

Ne brini, zakon sendviča je proradio.

Kakav je ovo zakon? - Pitao sam.

Zakon koji kaže: "Sendvič uvijek slijeće puterom stranom prema dolje." Međutim, ovo je šala", nastavio je brat. "Nema zakona." Samo što se sendvič zaista čudno ponaša: većina putera završi na dnu.

Hajde da bacimo sendvič još par puta i proverimo”, predložio sam. - Ionako ćeš ga morati baciti.

Provjerili smo. Od deset puta, osam puta sendvič je pao puterom nadole.

A onda sam pomislio: da li je moguće unapred znati da li će sendvič pasti puterom nadole ili gore?

Naše eksperimente je prekinula naša majka..."
(Odlomak iz knjige “Tajna velikih komandanata”, V. Abchuk).

Godine 1948. američki inženjer i matematičar K. Shannon predložio je formulu za izračunavanje količine informacija za događaje s različitim vjerovatnoćama.
Ako je I količina informacija,
K - broj mogućih događaja, p i - vjerovatnoće pojedinačnih događaja,
tada se količina informacija za događaje sa različitim vjerovatnoćama može odrediti formulom:

I = - Zbir r i log 2 r i, gdje i uzima vrijednosti od 1 do K.

Hartleyeva formula se sada može posmatrati kao poseban slučajŠenonove formule:

I = - Zbir 1 / K log 2 (1 / K) = I = log 2 K.

U slučaju jednako vjerovatnih događaja, količina dobijenih informacija je maksimalna.

Kako pronaći vjerovatnoću događaja?

Ako je informacija sadržana u poruci nova, razumljiva za osobu i dopunjava njeno znanje, tj. dovode do smanjenja nesigurnosti znanja, tada poruka sadrži informacije.

1 bit - količina informacija sadržanih u poruci, što smanjuje nesigurnost znanja za 2 puta.

Primjer

Prilikom bacanja novčića moguća su 2 događaja (slučaja) - novčić će pasti na glavu ili rep, a oba događaja su podjednako vjerovatna (ako velike količine od bacanja, koliko puta novčić sleti na glavu i rep je isti). Nakon primanja poruke o rezultatu pada novčića, nesigurnost znanja se smanjila za 2 puta, pa je stoga količina primljenih informacija u ovom slučaju jednaka 1 bit.

Kako pronaći količinu informacija u poruci za različite događaje?

Proračun količine informacija za jednako vjerovatne događaje.

Ako su događaji jednako vjerovatni, tada se količina informacija može izračunati pomoću formule:

N=2I

gdje je N - broj mogućih događaja,

I - količina informacija u bitovima.

Formulu je predložio američki inženjer R. Hartley 1928. godine.

Zadatak 1.Kutija sadrži 32 olovke, sve olovke različite boje. Nasumce su izvukli jednu crvenu. Koliko je informacija dobijeno?

Rješenje.

Budući da je izvlačenje olovke bilo koje boje od 32 olovke u kutiji jednako vjerovatno, broj mogućih događaja

jednako 32.

N = 32, I = ?

N = 2 I, 32 = 2 5, I = 5 bita.

odgovor: 5 bita

Proračun količine informacija za događaje sa različitim vjerovatnoćama.

Postoje mnoge situacije u kojima mogući događaji imaju različite vjerovatnoće nastanka. Pogledajmo primjere takvih događaja.

1. Kutija sadrži 20 olovaka, od kojih je 15 crvenih i 5 crnih. Veća je vjerovatnoća da ćete nasumično izvući crvenu olovku nego crnu.

2. Ako sendvič slučajno padne, veća je vjerovatnoća da će pasti sa stranom putera prema dolje (teža strana) nego sa stranom putera prema gore.

3. U ribnjaku živi 8.000 karaša, 2.000 štuka i 40.000 gavarica. Najviše Velika šansa za ribara - da u ovom ribnjaku uhvate gudura, na drugom mjestu - karaša, na trećem - štuku.

Količina informacija u poruci o događaju zavisi od njegove vjerovatnoće. Što je manja vjerovatnoća događaja, to više informacija to nosi.
P=K/N , gdje je K broj slučajeva realizacije jednog od ishoda događaja, N - ukupan broj mogući ishodi nekog od događaja
2
I = log 2 (1/ p ), gdje je I - količina informacija, str - vjerovatnoća događaja

Problem 1 . U kutiji se nalazi 50 loptica, od kojih je 40 bijelih i 10 crnih. Odredite količinu informacija u poruci o nasumično izvlačenju bijele i crne kugle.

Rješenje.
Verovatnoća izvlačenja bele lopte

P 1 = 40/50 = 0,8
Vjerovatnoća izvlačenja crne lopte
P 2 = 10/50 = 0,2
Količina informacija o izvlačenju bijele lopte
I 1 = log 2 (1/0,8) = log 2 1,25 = log 1,25/ log 2 " 0,32 bit
Količina informacija o izvlačenju crne lopte

I 2 = log 2 (1/0,2) = log 2 5 = log5/log2» 2.32 bit

Odgovori: 0,32 bit, 2,32 bit

Šta je logaritam?

Logaritam broja a prema osnovici b je eksponent na koji se broj mora podići a da dobijem broj b.

a logab = b, a > 0, b > 0, a ≠ 1

Analiza problema
Odredite količinu informacija dobijenih tokom implementacije jednog od događaja ako je bačen
a) asimetrična tetraedarska piramida;
b) simetrična i ujednačena tetraedarska piramida.

Rješenje.

A) Bacićemo asimetričnu tetraedarsku piramidu.
Vjerovatnoća pojedinačnih događaja će biti sljedeća:
p1 = 1 / 2,
p2 = 1/4,
p3 = 1/8,
p4 = 1/8,
tada se količina informacija primljena nakon implementacije jednog od ovih događaja izračunava po formuli:
I = -(1/2 log 2 1/2 + 1/4 log 2 1/4 + 1/8 log 2 1/8 + 1/8 log 2 1/8) = 1/2 + 2/4 + 3 / 8 + 3 / 8 = 14/8 = 1,75 (bitovi).
b) Sada izračunajmo količinu informacija koja će se dobiti pri bacanju simetrične i uniformne tetraedarske piramide:
I = log 2 4 = 2 (bit).
2. Vjerovatnoća prvog događaja je 0,5, a drugog i trećeg 0,25. Koliko ćemo informacija dobiti nakon implementacije jednog od njih?
3. Koliko informacija će se dobiti kada se igra rulet sa 32 sektora?
4. Koliko različiti brojevi može li se kodirati pomoću 8 bita?
Rješenje: I=8 bita, K=2 I =2 8 =256 različitih brojeva.

Zadatak 2.Jezero naseljavaju karas i smuđ. Procjenjuje se da je karasa 1500, a smuđa 500. Koliko informacija sadrži izvještaj da je ribar ulovio karasa, smuđa ili ribu?

Rješenje.
Događaji hvatanja karasa ili smuđa nisu jednako vjerovatni, jer u jezeru ima manje smuđa nego karasa.

Ukupan broj karasa i smuđa u ribnjaku je 1500 + 500 = 2000.
Verovatnoća hvatanja karasa

p 1 = 1500/2000 = 0,75, smuđ p2 = 500/2000 = 0,25.

I 1 = log 2 (1/ p I), I 1 = log 2 (1/ p 2), gdje je P 1 i P 2 - vjerovatnoća hvatanja karasa i smuđa, respektivno.

I 1 = log 2 (1 / 0,75) » 0,43 bita, I 2 = log 2 (1 / 0,25) = 2 bita - količina informacija u poruci za ulov karasa i grgeča.

Količina informacija u poruci za ulov ribe (karaš ili smuđ) izračunava se pomoću Shanononove formule

I = - p 1 log 2 p 1 - p 2 log 2 p 2

I = - 0,75*log 2 0,75 - 0,25*log 2 0,25 = - 0,75*(log0,75/log2)-0,25*(log0,25/log2) =

0,311 + 0,5 = 0,811

odgovor:poruka sadrži 0,811 bita informacija

Kartice za obuku (20 minuta)

№1

1. U kutiji su bile 32 raznobojne olovke. Koliko informacija prenosi poruka da je crvena olovka izvađena iz kutije?

2. Poruka da vaš prijatelj živi na 9. spratu nosi 4 bita informacija. Koliko spratova ima kuća?

3. Koliko će kilobajta činiti poruku od 384 znaka u abecedi od 16 znakova?

4. Knjiga, kucana kompjuterski, sadrži 250 stranica; svaka stranica ima 40 redova, svaki red ima 60 karaktera. Koliko informacija ima u knjizi?

5. Upišite sljedeće brojeve binarni sistem Brojevi: 37 i 52.

№2

2. U školskoj biblioteci ima 8 polica sa knjigama. Svaki stalak ima 4 police. Bibliotekar je rekao Vasji da je knjiga koja mu je potrebna na petoj polici na drugoj polici odozgo. Koliko je informacija bibliotekarka prenela Vasji?

4. Koliko informacija sadrži poruka koja smanjuje nesigurnost znanja za 2 puta?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 12 i 49.

1. Prilikom pogađanja cijelog broja u određenom rasponu primljeno je 8 bitova informacija. Koliko brojeva sadrži ovaj raspon?

2. Prišli ste semaforu kada je svijetlo crveno. Nakon toga se upalilo žuto svjetlo. Koliko ste informacija dobili?

3. Pleme Pulti ima abecedu od 16 znakova. Multi pleme koristi abecedu od 32 znaka. Plemenske vođe su razmijenile pisma. Pismo iz plemena Pulti sadržavalo je 90 znakova, a pismo iz plemena Multi sadržavalo je 70 znakova. Uporedite količinu informacija sadržanih u pismima.

4. Koliko će kilobajta činiti poruku od 384 znaka u abecedi od 8 znakova?

5. Upišite sljedeće brojeve u binarni brojevni sistem: 33 i 15.

2. Poruka zauzima 2 stranice i sadrži 1/16 KB informacija. Svaka stranica sadrži 256 znakova. Koliko informacija prenosi jedno slovo upotrijebljene abecede?

3. Poruka, napisana slovima abecede od 128 znakova, sadrži 11 znakova. Koliko informacija nosi?

4. Kutija sadrži 64 raznobojne olovke. Koliko informacija sadrži poruka da je zelena olovka izvađena iz kutije?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 17 i 42.

1. Koliko će informacija dobiti drugi igrač nakon prvog poteza prvog igrača u igri tic-tac-toe na 4x4 tabli?

2. U bubnju lutrije ima 8 loptica. Koliko informacija sadrži poruka o prvom izvučenom broju, na primjer, broju 2?

3. Broj bitova informacija u poruci „Miša je zauzeo jedno od 16 mesta na informatičkoj olimpijadi“?

4. Raster grafički fajl sadrži crno-bijela slika sa 16 gradacija siva Veličina 10x10 piksela. Koliki je obim informacija ove datoteke?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 28 i 51.

1. Višeplemenska abeceda se sastoji od 8 slova. Koliko informacija sadrži poruka od 13 znakova?

2. Rasterska grafička datoteka sadrži crno-bijelu sliku (bez sivih tonova) veličine 100x100 piksela. Koliki je obim informacija ove datoteke?

3. Prilikom pogađanja cijelog broja u određenom rasponu primljeno je 5 bitova informacije. Koliko brojeva sadrži ovaj raspon?

4. Primljen je telegram: “Upoznajte auto 6.” Poznato je da voz ima 16 vagona. Koliko je informacija primljeno?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 23 i 38.

1. Baca se simetrična tetraedarska piramida. Koliko informacija dobijamo u vizuelnoj poruci o njegovom padu na jedno od lica?

2. Koliki je obim informacija teksta koji sadrži riječ KODIRANJE u 8-bitnom kodiranju?

3. Raster u boji (sa paletom od 256 boja). grafička slika ima veličinu 10x10 piksela. Koliko memorije će zauzeti ova slika?

4. Poruka da vaš prijatelj živi na 8. spratu nosi 4 bita informacija. Koliko spratova ima kuća?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 19 i 46.

1. Jedna karta se bira iz špila od 32 karte. Koliko informacija dobijamo u vizuelnoj poruci o odabiru određene kartice?

2. Koliko informacija je potrebno da binarno kodiranje svaki znak u skupu od 256 znakova?

3. Tekst zauzima 0,5 KB memorije računara. Koliko znakova sadrži ovaj tekst?

4. Abeceda plemena Pulti sastoji se od 128 slova. Koliko informacija nosi jedno slovo ove abecede?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 11 i 35.

1. „Je li tvoj prijatelj kod kuće?“ pitali su učenika u školi. “Ne”, odgovorio je. Koliko informacija sadrži odgovor?

2. Poruka zauzima 3 stranice od 25 redova. Svaki red sadrži 60 znakova. Koliko znakova se koristi u abecedi ako cijela poruka sadrži 1125 bajtova?

3. Kutija sadrži 16 raznobojnih loptica. Koliko informacija sadrži poruka da je žuta lopta izvađena iz kutije?

4. Prilikom pogađanja cijelog broja u određenom rasponu, primljeno je 5 bitova informacija. Koliko brojeva sadrži ovaj raspon?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 13 i 41.

1. Koliki je broj bitova informacija u poruci „Vanja je zauzela jedno od 8 mjesta na informatičkoj olimpijadi“?

2. Knjiga, kucana kompjuterski, sadrži 150 stranica; svaka stranica ima 40 redova, svaki red ima 60 karaktera. Koliko informacija ima u knjizi? Definirajte u KB.

3. Kada se pogađa cijeli broj u rasponu od 1 do N, primljeno je 8 bitova informacija. Čemu je jednako N?

4. Poruka napisana slovima abecede od 32 znaka sadrži 30 znakova. Koliko informacija nosi?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 16 i 39.

1. Višeplemenska abeceda se sastoji od 16 slova. Koliko informacija nosi jedno slovo ove abecede?

2. Poruka da vaš prijatelj živi na 8. spratu nosi 5 bitova informacija. Koliko spratova ima kuća?

3. Pronađite maksimalni iznos knjige (svaki tom ima 200 stranica, svaka stranica ima 60 redova, 80 znakova po redu), u potpunosti se nalaze na laserdisc sa kapacitetom od 600 MB.

4. Koliko informacija je potrebno da se pogodi jedan od 64 broja?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 14 i 53.

1. Primljen je telegram: “Upoznajte auto 4.” Poznato je da voz ima 8 vagona. Koliko je informacija primljeno?

2. Veličina poruke, koja je sadržavala 2048 karaktera, bila je 1/512 MB. Koja je veličina abecede (koliko znakova ima u abecedi?) kojom je napisana poruka?

3. "Silazite li na sljedećoj stanici?" - pitali su čoveka u autobusu. „Da“, odgovorio je. Koliko informacija sadrži odgovor?

4. Poruka, napisana slovima abecede od 16 znakova, sadrži 25 znakova. Koliko informacija sadrži odgovor?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 26 i 47.

1. Koliko kilobajta ima poruka koja sadrži 12288 bita?

2. Koliko informacija sadrži poruka koja smanjuje nesigurnost znanja za 4 puta?

3. Koliko znakova sadrži poruka napisana abecedom od 16 znakova, ako je njena zapremina 1/16 MB?

4. Grupa školaraca je došla na bazen koji je imao 8 staza za plivanje. Trener je najavio da će grupa plivati ​​u stazi broj 4. Koliko informacija su učenici dobili iz ove poruke?

5. Upišite sljedeće brojeve u binarni brojevni sistem: 18 i 25.

1. Prišli ste semaforu kada je svijetlo žuto. Nakon toga se upalilo zeleno svjetlo. Koliko ste informacija dobili?

2. Za pisanje teksta korištena je abeceda od 256 znakova. Svaka stranica sadrži 30 redova od 60 znakova po redu. Koliko informacija sadrži 6 stranica teksta?

3. U bubnju lutrije se nalaze 64 kuglice. Koliko informacija sadrži poruka o prvom izvučenom broju (npr. izvučen je broj 32)?

4. Prilikom pogađanja cijelog broja u određenom rasponu primljeno je 7 bitova informacija. Koliko brojeva sadrži ovaj raspon?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 27 i 56.

1. Poruka da Petya živi u prvom ulazu nosi 2 bita informacije. Koliko ulaza ima u kući?

2. Poruka napisana slovima abecede od 128 znakova sadrži 40 znakova. Koliko informacija nosi?

3. Informativna poruka zapremine 1,5 KB sadrži 3072 karaktera. Koliko znakova sadrži abeceda kojom je napisana ova poruka?

4. Koliko će kilobajta činiti poruku od 284 znaka u abecedi od 16 znakova?

5. Upišite sljedeće brojeve u binarni brojevni sistem: 10 i 29.

1. Koliko će informacija dobiti drugi igrač nakon prvog poteza prvog igrača u igri tic-tac-toe na tabli 4x4?

2. Koliko bajtova informacija je sadržano u 1MB?

3. Koliki je bio broj mogućih događaja ako smo nakon implementacije jednog od njih dobili količinu informacija jednaku 7 bita?

4. Za snimanje poruke korištena je abeceda od 64 znaka. Svaka stranica sadrži 30 redova. Cijela poruka sadrži 8775 bajtova informacija i zauzima 6 stranica. Koliko znakova ima u liniji?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 22 i 59.

1. Poruka napisana slovima abecede od 128 znakova sadrži 40 znakova. Koliko informacija nosi?

2. Koliko će informacija dobiti drugi igrač u igri “Pogodi broj” sa pravilnom strategijom ako je prvi pogodio broj u rasponu od 1 do 64?

3. Za pisanje teksta korištena je abeceda od 256 znakova. Svaka stranica sadrži 30 redova od 70 znakova po redu. Koliko informacija sadrže 3 stranice teksta?

4. Tekst zauzima 0,25 KB memorije računara. Koliko znakova sadrži ovaj tekst?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 32 i 51.

1. Koliko bitova informacija je sadržano u 1 KB?

2. Prvo pleme ima abecedu od 16 znakova. Drugo pleme koristi abecedu od 32 znaka. Plemenske vođe su razmijenile pisma. Pismo prvog plemena sadržavalo je 90 znakova, a pismo drugog plemena 80 znakova. Uporedite količinu informacija sadržanih u pismima.

3. Koliko informacija će se dobiti kada se igra rulet sa 32 sektora?

4. Informacije se prenose brzinom od 2,5 KB/s. Koliko informacija će se prenijeti za 20 minuta?

5. Napišite sljedeće brojeve u binarnom brojevnom sistemu: 21 i 48.

Rješavanje opcionih problema (20 minuta)

№1

Poruka je napisana abecedom koja sadrži 8 znakova. Koliko informacija nosi jedno slovo ove abecede? Rješenje: I = log 2 8 = 3 bita.

odgovor: 3 bita.

№2

Količina informacija jednog karaktera određene poruke je 6 bita. Koliko znakova ima u abecedi sa kojom je ova poruka sastavljena? Rješenje: N=2 I = 2 6 = 64 znaka.

odgovor: 64 karaktera.

№3

Količina informacija jednog karaktera neke poruke je jednaka 5 bits. Koje su granice (maksimalni i minimalna vrijednost) moć abecede kojom je ova poruka sastavljena?

Rješenje: N=2I = 2 5 = 32 — maksimalna vrijednost moć abecede. Ako postoji barem još jedan znak, tada će biti potrebno 6 bita za kodiranje.

Minimalna vrijednost je 17 znakova, jer za manje znakova, 4 bita će biti dovoljna. odgovor: 4 bita.

№4

Poruka napisana slovima abecede od 128 znakova, koja sadrži 30 znakova. Koliko informacija nosi?

Dato: N = 128, K = 30.

Pronađite: 1 t — ?

Rješenje:

1) I t = KI, nepoznato I;

2) I = log 2 N = log 2 l 28 = 7 bita - volumen jednog znaka;

3) I t = 30*7 = 210 bita - volumen cijele poruke.

odgovor:210 bita volumen cijele poruke.

№5

Poruka sastavljena pomoću abecede od 32 znaka sadrži 80 znakova. Druga poruka je napisana abecedom od 64 znaka i sadrži 70 znakova. Uporedite količinu informacija sadržanih u porukama.

Dato: N 1 = 32, K 1 = 80, N 2 = 64, K 2 = 70.

Pronađite: I t1 I t2

Rješenje:

I ) I 1 = log 2 Nl = log 2 32 = 5 bita - volumen jednog znaka prve poruke;

Količina informacija je numerička karakteristika signala, koja odražava stepen nesigurnosti (nepotpunosti znanja) koji nestaje nakon prijema poruke u obliku datog signala.
Ova mjera nesigurnosti u teoriji informacija naziva se entropija. Ako se kao rezultat prijema poruke postigne potpuna jasnoća po nekom pitanju, kaže se da je primljena potpuna ili iscrpna informacija i da je potrebno pribaviti Dodatne informacije br. I obrnuto, ako nakon prijema poruke nesigurnost ostane ista, tada informacija nije primljena (nula informacija).
Navedena razmatranja pokazuju da postoji bliska veza između pojmova informacija, neizvjesnosti i izbora. Dakle, svaka neizvjesnost pretpostavlja mogućnost izbora, a svaka informacija, smanjujući neizvjesnost, smanjuje mogućnost izbora. Sa potpunim informacijama nema izbora. Djelomične informacije smanjuju broj izbora, čime se smanjuje nesigurnost.
Pogledajmo primjer. Osoba baci novčić i gleda na koju stranu slijeće. Obje strane novčića su jednake, tako da je jednako vjerovatno da će se pojaviti jedna ili druga strana. Ova situacija se pripisuje početnoj neizvjesnosti koju karakteriziraju dvije mogućnosti. Nakon što novčić padne, postiže se potpuna jasnoća i nesigurnost nestaje (postaje nula).
Navedeni primjer se odnosi na grupu događaja u odnosu na koje se može postaviti pitanje „da-ne“.
Količina informacija koja se može dobiti odgovorom na da-ne pitanje naziva se bit (engleski bit - skraćenica za binarnu cifru - binarna jedinica).
Bit je minimalna jedinica informacije, jer je nemoguće dobiti informaciju manju od 1 bita. Prilikom prijema informacije od 1 bita, nesigurnost se smanjuje za 2 puta. Dakle, svako bacanje novčića nam daje 1 bit informacije.
Razmotrite sistem od dva sijalice, koji se mogu uključiti ili isključiti nezavisno jedan od drugog. Za takav sistem moguća su sljedeća stanja:
Lampa A: 0 0 1 1 ;
Lampa B: 0 1 0 1 .
Za dobijanje pune informacije o stanju sistema, potrebno je da postavite dva da-ne pitanja o sijalici A i sijalici B, respektivno. U ovom slučaju, količina informacija sadržanih u ovom sistemu je već određena u 2 bita, a broj mogućih stanja sistema je 4. Ako uzmete tri sijalice, onda morate postaviti tri pitanja i dobiti 3 bita informacije. Broj stanja takvog sistema je 8 itd.
Veza između količine informacija i broja stanja sistema uspostavlja se Hartlijevom formulom.
i= log 2N,
gdje je i količina informacija u bitovima; N je broj mogućih stanja. Ista formula se može predstaviti drugačije:
N=2i.
Grupa od 8 bitova informacija naziva se bajt.
Ako je bit minimalna jedinica informacije, onda je bajt njegova osnovna jedinica. Postoje izvedene jedinice informacija: kilobajt (KB, KB), megabajt (MB, MB) i gigabajt (GB, GB).
Dakle, postoji bliska veza između pojmova “informacija”, “neizvjesnost” i “izbor”. Svaka neizvjesnost pretpostavlja mogućnost izbora, a svaka informacija, smanjujući neizvjesnost, smanjuje mogućnost izbora. Djelomične informacije smanjuju broj izbora, čime se smanjuje nesigurnost.
Količina informacija je numerička karakteristika signala, koja odražava stepen nesigurnosti (nepotpunosti znanja) koji nestaje nakon prijema poruke u obliku datog signala.

Više o temi Koncept količine informacija:

  1. Pojam, vrste informacija i principi pravnog uređenja odnosa u oblasti informisanja
  2. Novinarstvo kao masovna informativna djelatnost. Koncepti “informacije” i “masovne informacije”. Masovna informacija kao proizvod aktivnosti masovnog informisanja. Masovne informacije i društvene informacije.

























































Nazad napred

Pažnja! Pregled Slajdovi su samo u informativne svrhe i možda ne predstavljaju sve karakteristike prezentacije. Ako si zainteresovan ovo djelo, preuzmite punu verziju.

Svrha lekcije: jačanje vještina rješavanja problema korištenjem abecednog i sadržaja zasnovanog pristupa.

Ciljevi lekcije:

  • Obrazovni– obrazac informatička kultura učenici, pažnja, tačnost, disciplina, istrajnost, tolerancija, sposobnost za rad u grupi.
  • Obrazovni– ponovite abecedni i smisleni pristup pronalaženju količine informacija, razvijajte vještine rješavanja problema koristeći Hartleyjevu formulu i riješite nekoliko problema.
  • Razvojni– razvijati logičko mišljenje, pažnju, samokontrolu.

Vrsta lekcije: Kombinovana lekcija. Rad u grupama.

Forms obrazovne aktivnosti studenti: pojedinac, grupa.

Sredstva obrazovanja:čas računara, interaktivna tabla.

Plan lekcije:

  • Motivacija(2 minute).
  • Ažuriranje referentnog znanja(5 minuta).
  • Zajednička odluka zadataka na temu(10 minuta).
  • Fizminutka(3 minute).
  • Organizacija grupni rad, definicija grupe(1 minuta).
  • Rješavanje zadataka u grupama za ocjenjivanje, samokontrolu(15 minuta).
  • (5 minuta).
  • (1 minuta).
  • Zadaća(1 minuta).
  • Refleksija(2 minute).

Tokom nastave

Motivacija. Određivanje svrhe i ciljeva časa.

Zdravo!

Trenutno, na ispitima iz informatike, uključujući Jedinstveni državni ispit (dijelovi A, B), postoji mnogo zadataka na temu „Određivanje količine informacija“. Target ovu lekciju– jačanje vještina rješavanja problema korištenjem abecednog i sadržaja zasnovanog pristupa.

Da bi se dobro razumjelo rješavanje problema koji uključuje pronalaženje količine informacija, potrebno je riješiti probleme različite vrste. Da bismo to uradili, prisjetimo se...

Ažuriranje osnovnih znanja (ponavljanje).

Koristeći koju formulu određujemo količinu informacija u različitim porukama i događajima? (Koristi se ista Hartleyeva formula, izvedena iz vjerovatno-statističkog pristupa K.-E. Shannon N=2 i , i=log 2 N, gdje je i količina informacija (u bitovima), N količina informativne poruke(događaji). U jednom slučaju se razmatraju jednako vjerovatni događaji, u drugom - snaga abecede).

Koja je razlika između alfabetskog i sadržajnog pristupa za određivanje količine informacija? (Kod abecednog pristupa, tekst se posmatra kao skup simbola, a kod sadržajnog pristupa sadržaj događaja koji se dešavaju. Prvi pristup je objektivniji, jer nam omogućava da izbjegnemo dvosmislenost događaja koji se dešavaju. .). Substantivni pristup razmatra podjednako vjerovatne događaje, pa je za rješavanje problema potrebno znati broj svih mogućih događaja. Da biste pronašli količinu informacija koristeći abecedni pristup potrebno je znati snagu abecede koja se koristi. Budući da ne određujemo informacijski kapacitet ne jednog znaka, već više međusobno povezanih znakova u riječi, rečenici, tekstu, potrebno je znati broj znakova u riječi.

Zajedničko rješavanje problema.

Hajde da riješimo nekoliko problema na ovu temu.

1. Poruka napisana abecedom od 64 karaktera sadrži 20 znakova. Koliko informacija nosi?

Rješenje:

Jedan znak abecede nosi 6 bitova informacije (2^6=64),
Prema tome, poruka od 20 karaktera nosi 6 x 20 = 120 bita.
Odgovor: 120 bita.

2. Stanovnici planete Printer koriste abecedu od 256 znakova, a stanovnici planete Plotter abecedu od 128 znakova. Za stanovnike koje planete poruka od 10 karaktera prenosi više informacija i koliko?

Rješenje:

Jedan znak abecede stanovnika planete Printer nosi 8 bitova informacija (2^8=256), a stanovnika planete Ploter - 7 bitova informacija (2^7=128). Shodno tome, poruka od 10 karaktera za korisnike štampača nosi 10 x 8 = 80 bita, a za korisnike plotera - 10 x 7 = 70 bita
80 - 70 = 10 bita.
Odgovor: Više za stanovnike 10-bitni štampač.

3. Za kodiranje notnih zapisa koristi se 7 ikona nota. Svaka nota je kodirana istim minimalnim mogućim brojem bitova. Koliki je obim informacija poruke koja se sastoji od 180 bilješki?

Rješenje:

Svaka nota je kodirana sa 3 bita (2^2=4<7<2^3=8).
Količina informacija poruke je 180 x 3 = 540 bita.
Odgovor: 540 bita.

4. Rasterska grafička slika u boji, čija paleta uključuje 65.536 boja, ima veličinu 100X100 piksela. Koliko računarske video memorije (u KB) zauzima ova BMP slika?

Rješenje:

65536 =2^16, I = 16 bita za kodiranje 1 boje. Cijela slika se sastoji od 10x10=10.000 piksela. Stoga je količina informacija potrebna za pohranjivanje cijele slike 16 * 10 000 = 160 000 bita = 20 000 bajtova = 19,5 KB.
Odgovor: 19,5 kilobajta.

5. U ciklokrosu učestvuje 119 sportista. Poseban uređaj registruje prolazak srednjeg cilja svakog učesnika, beležeći njegov broj koristeći minimalni mogući broj bitova, isti za svakog takmičara. Koliki je obim informacija poruke koju je snimio uređaj nakon što 70 biciklista završi srednji cilj?

Rješenje:

N=119 (2^6=64<7<2^7=128), I ≈7 бит необходимо для кодирования одного спортсмена, поскольку была записана информация о 70 спортсменах, объем сообщения составил: 7 х 70 = 490 бит.
Odgovor: 490 bita.

Težak zadatak

6. Rečnik određenog jezika je 256 reči, od kojih se svaka sastoji od tačno 4 slova. Koliko slova ima abeceda jezika?

Rješenje:

Uz alfabetski pristup mjerenju količine informacija, poznato je da ako je snaga abecede N (broj slova u abecedi), a maksimalni broj slova u riječi napisanoj ovom abecedom iznosi m, tada maksimalni mogući broj riječi određen je formulom L=N m. Iz uslova zadatka znamo broj riječi (L=256) i broj slova u svakoj riječi (m=4). Trebamo pronaći N iz rezultirajuće jednačine 256=N 4 . Dakle, N=4.
Odgovor: 4 slova.

Fizminutka

(djeca su sjedila uspravno, opušteno, zatvorila oči, zvuči mirno muzika, komentar nastavnika):

Trenutno je poznato više od hiljadu biološki aktivnih tačaka na uhu, pa se njihovim masiranjem može indirektno uticati na celo telo. Morate pokušati masirati uši tako da vam uši "gore". Izradimo nekoliko masažnih pokreta:

  1. povucite ušne resice od vrha do dna;
  2. povucite uši prema gore;
  3. povucite uši prema van;
  4. Izvodite kružne pokrete ušne školjke u smjeru kazaljke na satu i suprotno.

Zatim masiramo određena mjesta na glavi, čime se aktivira cirkulacija krvi u vrhovima prstiju, sprječava zastoj krvi ne samo u rukama, već i po cijelom tijelu, jer su vrhovi prstiju direktno povezani s mozgom. Masaža se izvodi u sljedećem redoslijedu:

  1. pronađite tačku na čelu između obrva („treće oko”) i masirajte je;
  2. zatim uparene tačke duž ivica krila nosa (pomaže u obnavljanju čula mirisa);
  3. tačka na sredini gornje ivice brade;
  4. uparene tačke u temporalnim jamama;
  5. tri tačke na potiljku u udubljenjima;
  6. uparene tačke u području tragusa uha.

Mora se imati na umu da svaka vježba može biti korisna, bez efekta ili nanijeti štetu. Stoga ga morate izvoditi vrlo marljivo, uvijek dobro raspoloženi.

Organizacija grupnog rada, identifikacija grupa.

Postavljanje učenika za računare, gde svako ima otvoren zadatak (Prezentacija zadataka) najviše 3 osobe za svaki računar. Djeca sa sobom nose samo bilježnicu i olovku za rješavanje problema. Ovdje je potrebno objasniti da ćete u prezentaciji morati da se krećete kroz linkove, uključujući i odabir tačnog odgovora, ukupno ima 5 zadataka (3 minute po zadatku). Na kraju, rezultat će se automatski pojaviti na ekranu monitora u obliku oznake za lekciju. Deca se mogu upoznati sa kriterijumima za ocenjivanje za rešavanje ove vrste zadataka:

1 tačan zadatak – oznaka „2”
2 tačna zadatka - označite "3"
3 tačna zadatka - označite "4"
4 tačna zadatka - označite "4"
5 tačnih zadataka – oznaka “5”.

Zajednička diskusija o uobičajenim greškama.

– provjeravanje, rješavanje pitanja u vezi rješavanja problema:

1. Koliko informacija prenosi poruka da je pogoden broj u rasponu cijelih brojeva od 684 do 811?

Rješenje:

811-684=128 (uključujući broj 684), N=128, i=7 bita (2^7=128).
Odgovor: 7 bitova informacija.

2. U nekim zemljama registarska tablica od 7 znakova se sastoji od velikih slova (ukupno 26 slova) i decimalnih cifara bilo kojim redoslijedom. Svaki znak je kodiran istim i minimalnim mogućim brojem bitova, a svaki broj je kodiran istim i minimalnim mogućim brojem bajtova. Odredite količinu memorije potrebnu za pohranjivanje 20 registarskih tablica.

Rješenje:

ukupno 26 slova + 10 brojeva = 36 simbola se koristi za kodiranje 36 opcija koje trebate koristiti 6 bita, pošto je 2^5=32<36<2^6=64, т.е. пяти бит не хватит (они позволяют кодировать только 32 варианта), а шести уже достаточно таким образом, на каждый символ нужно 6 бит (минимально возможное количество бит).
puni broj sadrži 7 znakova, svaki 6 bita, tako da je 6 x 7 = 42 bita potrebno po broju.
Prema uslovu, svaki broj je kodiran cijelim brojem bajtova (svaki bajt ima 8 bitova), tako da je potrebno 6 bajtova po broju (5x8=40<42<6x8=48), пяти байтов не хватает, а шесть – минимально возможное количество на 20 номеров нужно выделить 20x6=120 байт.
Odgovor: 120 bajtova.

3. Svaka ćelija polja 8x8 je kodirana sa minimalnim mogućim i identičnim brojem bitova. Rješenje problema viteza koji prolazi kroz polje je zapisano kao niz kodova za ćelije koje se posjećuju. Kolika je količina informacija nakon 11 napravljenih poteza? (Snimanje rješenja počinje od početne pozicije viteza).

Rješenje:

Ukupan broj ćelija je 8x8 = 64. Za kodiranje 1 ćelije potrebno je 6 bitova (2^6=64). Zapis rješenja će opisati 12 ćelija (11 poteza + početna pozicija). Količina informacija za snimanje je 12x6 = 72 bita = 72:8 = 9 bajtova.
Odgovor: 9 bajtova.

4. Informativna poruka zapremine 1,5 kilobajta sadrži 3072 karaktera. Koliko znakova sadrži abeceda kojom je napisana ova poruka?

Rješenje:

1,5 KB = 1,5*1024*8 = 12288 bita. 12288/3072 = 4 bita - težina informacije jednog znaka. Kapacitet abecede je 2^4=16 znakova. Odgovor: 16 karaktera.

5. Snaga abecede je 64. Koliko KB memorije bi bilo potrebno za pohranjivanje 128 stranica teksta koji sadrži u prosjeku 256 znakova po stranici?

Rješenje:

Ukupno, trebate pohraniti 128 x 256 = 32768 znakova.
Težina informacije 1 karaktera je 6 bita (2^6=64). Da biste sačuvali sav tekst, trebat će vam 32768 x 6 = 196608 bita = 196608: 8 = 24576 bajtova = 24576: 1024 = 24 KB.
Odgovor: 24 KB.

Sumiranje, označavanje.

objavljivanje ocjena za čas.

Zadaća:

Za sljedeću lekciju sastavite 1 zadatak da pronađete količinu informacija koristeći abecedni ili smisleni pristup i riješite ga u svojoj bilježnici.

Refleksija

(podijelite pripremljene listove -Aneks 1 )

PRAVILA PISANJA SINQWINE

(Sinkwine je način da se u bilo kojoj fazi časa, proučavajući neku temu, provjeri šta učenici imaju na nivou asocijacija).

1 red– jedna riječ – naslov pjesme, tema, najčešće imenica.
2. red– dvije riječi (pridjevi ili participi). Opis teme, riječi se mogu povezati veznicima i prijedlozima.
3 linija– tri riječi (glagoli). Radnje vezane za temu.
4 linija– četiri riječi – rečenica. Fraza koja pokazuje stav autora prema temi u 1. redu.
5 linija– jedna riječ – asocijacija, sinonim koji ponavlja suštinu teme u prvom redu, najčešće imenica.

Ova vrsta refleksije će biti korisna za nastavnika da izvrši samoanalizu.

HVALA SVIMA!

Zadaci su preuzeti sa raznih internet izvora.

Laboratorijski rad br.1

ODREĐIVANJE KOLIČINE INFORMACIJE U PORUCI

1 Svrha i sadržaj

Uvesti koncept “količine informacija”; formirati kod učenika razumevanje verovatnoće, podjednako verovatnih i nejednako verovatnih događaja; naučiti učenike da odrede količinu informacija.

Ova praktična lekcija sadrži informacije o pristupima određivanju količine informacija u poruci.

2 Teorijska osnova

2.1 Uvođenje koncepta "količine informacija"

Naš svijet se zasniva na tri komponente: materiji, energiji i informacijama. Koliko materije, energije i informacija postoji na svijetu? Možete izmjeriti količinu tvari, na primjer vaganjem. Možete odrediti količinu toplotne energije u džulima, električnu energiju u kilovat/sat, itd.

Da li je moguće izmjeriti količinu informacija i kako to učiniti? Ispostavilo se da se informacija također može izmjeriti i pronaći njenu količinu. Količina informacija u poruci zavisi od njene informativnosti. Ako poruka sadrži novo i jasne informacije, onda se takva poruka zove informativan.

Na primjer, da li udžbenik informatike za studente sadrži informacije? (Odgovorite da). Kome će to biti informativno za studente koji studiraju na fakultetu ili učenike 1. razreda? (Za studente koji studiraju na fakultetu odgovor će biti informativan, jer sadrži nove i razumljive informacije, ali za učenike 1. razreda neće biti informativan, jer su im informacije nerazumljive).

Količina informacija u poruci je nula ako je neinformativna sa stanovišta određene osobe. Količina informacija u informativnoj poruci je veća od nule.

Ali informativni sadržaj poruke sam po sebi ne određuje tačno količinu informacija. Po sadržaju informacija može se samo prosuditi da li je informacija puno ili malo.

2.2 Probabilistički pristup određivanju količine informacija

Ako je poruka informativna, ona stoga povećava naše znanje ili smanjuje nesigurnost našeg znanja. Drugim riječima, poruka sadrži informaciju ako dovodi do smanjenja nesigurnosti našeg znanja.

Na primjer, bacamo novčić i pokušavamo pogoditi s koje će strane pasti na površinu. Moguć je jedan od dva rezultata: novčić će završiti u poziciji “glava” ili “rep”. Svaki od ova dva događaja će se pokazati jednako vjerovatnim, odnosno, nijedan od njih nema prednost nad drugim.

Prije nego što bacimo novčić, ne znamo tačno kako će pasti. Ovaj događaj se ne može predvidjeti, tj. prije bacanja postoji nesigurnost u našem saznanju (moguć je jedan od dva). Nakon bacanja nastupa potpuna sigurnost znanja, jer dobijamo vizuelnu poruku o položaju novčića. Ova vizuelna poruka smanjuje nesigurnost našeg znanja za polovinu, budući da se dogodio jedan od dva jednako vjerovatna događaja.

Ako bacimo šestostranu kockicu, tada također ne znamo prije nego što bacimo koja će strana pasti na površinu. U ovom slučaju moguće je dobitijedan rezultat od šest jednako verovatan. Nesigurnost znanja je šest, jer se može dogoditi tačno šest jednako vjerovatnih događaja. Kada, nakon bacanja kocke, dobijemo vizuelnu poruku o rezultatu, ondanesigurnost našeg znanja se smanjuje za šest puta.

Testni slučaj. Za ispit je pripremljeno 30 ulaznica.

  1. Koliki je broj događaja koji se mogu dogoditi kada se karta izvuče? (Odgovor 30).
  2. Jesu li ovi događaji jednako vjerovatni ili ne? (Odgovor jednako vjerovatno).
  3. Koja je neizvjesnost znanja učenika prije nego što izvuče kartu? (Odgovor 30).
  4. Koliko puta će se smanjiti nesigurnost znanja nakon što učenik izvuče kartu? (Odgovoriti 30 puta).
  5. Da li ovaj indikator zavisi od broja izvučene karte? (Odgovor je ne, jer su događaji podjednako vjerovatni).

Može se izvući sljedeći zaključak.

Što je veći početni broj mogućih jednako vjerojatnih događaja, to će se više puta smanjiti nesigurnost našeg znanja i veća količina informacija će sadržavati poruka o rezultatima eksperimenta.

Da bi količina informacija imala pozitivnu vrijednost, potrebno je primiti poruku da su se dogodila najmanje dva jednako vjerovatna događaja.Ova količina informacija koja je sadržana u poruci da se dogodio jedan događaj od dva jednako vjerovatna događaja uzima se kao jedinica informacije i jednaka je 1 bitu.

Dakle 1 bit je količina informacija koja upola smanjuje nesigurnost znanja.

Poziva se grupa od 8 bitova informacija bajt . Ako je bit minimalna jedinica informacije, onda je bajt njena osnovna jedinica. Postoje izvedene jedinice informacija: kilobajt (Kbyte, Kbt), megabajt (Mbyte, Mbt) i gigabajt (Gbyte, Gbt).

1 Kb = 1024 bajtova = 2 10 (1024) bajtova.

1 MB = 1024 KB = 2 20 (1024 1024) bajtova.

1 GB = 1024 MB = 2 30 (1024 1024 1024) bajtova.

Postoji formula koja povezuje broj mogućih događaja i količinu informacija:

N = 2i,

gdje je N broj mogućih opcija;

I količina informacija.

Odavde možemo izraziti količinu informacija u poruci o jednom od N jednako vjerovatni događaji: I = log 2 N .

Testni slučaj. Neka postoji špil karata koji sadrži 32 različite karte. Izvlačimo jednu kartu iz špila. Koliko ćemo informacija dobiti?

Broj mogućih opcija za odabir karte iz špila 32 ( N = 32) i svi događaji su jednako vjerovatni. Koristimo formulu za određivanje količine informacija za jednako vjerovatne događaje I = log 2 N = log 2 32 = 5 (32 = 2 i; 2 5 = 2 i; dakle I = 5 bita).

Ako je broj mogućih opcija N je cjelobrojni stepen 2, a zatim izvršite proračune koristeći formulu N=2i dovoljno lako. Ako broj mogućih opcija nije cijeli broj 2, tada trebate koristiti inženjerski kalkulator; formula I = log 2 N zamislite kakoi izvršite potrebne proračune.

Testni slučaj. Koliko informacija se može dobiti pogađanjem broja od 1 do 11?

U ovom primjeru N = 11. Broj 11 nije stepen od 2, tako da ćemo koristiti inženjerski kalkulator i izvršiti proračune da odredimo I (količina informacija). I = 3,45943 bita.

2.3 Nejednako vjerovatni događaji

Vrlo često u životu nailazimo na događaje koji imaju različite vjerovatnoće da se dogode. Na primjer:

1. Kada se javlja vremenska prognoza, informacije o kiši su vjerovatnije ljeti, a informacije o snijegu su vjerovatnije zimi.

2. Ako ste najbolji učenik u grupi, onda je vjerovatnoća da će vam se reći da ćete dobiti 5 na testu veća od vjerovatnoće da ćete dobiti D.

3. Ako se u vreći nalazi 10 bijelih i 3 crne kuglice, onda je vjerovatnoća da se izvuče crna kugla manja od vjerovatnoće da izvučete bijelu.

Kako izračunati količinu informacija u poruci o takvom događaju? Da biste to učinili, trebate koristiti sljedeću formulu:

gdje ja ovo je količina informacija;

str vjerovatnoća događaja.

Vjerovatnoća događaja izražava se u dijelovima jedinice i izračunava se pomoću formule: gde je K vrijednost koja pokazuje koliko se puta dogodio događaj koji nas zanima; N ukupan broj mogućih ishoda procesa.

Testni slučaj. U vrećici je 20 loptica. Od toga je 15 bijelih i 5 crvenih. Koliko informacija prenosi poruka koju ste izvadili: a) bijelu loptu; b) crvena lopta. Uporedite odgovore.

1. Nađimo vjerovatnoću da smo dobili bijelu loptu:

2. Nađimo vjerovatnoću da smo dobili crvenu loptu:

3. Pronađite količinu informacija u poruci o izvlačenju bijele lopte: bit.

4. Pronađite količinu informacija u poruci o izvlačenju crvene kuglice: bit.

Količina informacija u poruci da je bela kugla izvađena je 1,1547 bita. Količina informacija u poruci da je crvena kuglica izvučena je 2 bita.

Kada se uporede odgovori, javlja se sljedeća situacija: vjerovatnoća izvlačenja bijele kugle bila je veća od vjerovatnoće crvene lopte, ali je dobijeno manje informacija. Ovo nije slučajnost, već prirodna, kvalitativna veza između vjerovatnoće događaja i količine informacija u poruci o tom događaju.

2.4 Abecedni pristup mjerenju količine informacija

Prilikom određivanja količine informacija uz pomoć vjerovatnog pristupa, količina informacija ovisi o njihovom sadržaju, razumljivosti i novini. Međutim, bilo koji tehnički uređaj ne percipira sadržaj informacija. Stoga se s ove tačke gledišta koristi drugačiji pristup mjerenju informacija - abecedni.

Pretpostavimo da imamo tekst napisan na ruskom. Sastoji se od slova ruske abecede, brojeva i znakova interpunkcije. Radi jednostavnosti, pretpostavićemo da su znakovi prisutni u tekstu sa jednakom verovatnoćom.

Skup simbola koji se koristi u tekstu naziva se abeceda. U informatici, abeceda ne znači samo slova, već i brojeve, znakove interpunkcije i druge posebne znakove. Abeceda ima veličinu (ukupan broj njenih znakova) koja se naziva kapacitet abecede. Označimo snagu abecede sa N . Tada ćemo koristiti formulu da pronađemo količinu informacija iz vjerovatnog pristupa: I = log 2 N . Da bismo izračunali količinu informacija koristeći ovu formulu, moramo pronaći snagu abecede N.

Testni slučaj. Pronađite količinu informacija sadržanih u tekstu od 3000 znakova, napisanom ruskim slovima.

1. Pronađite snagu abecede:

N = 33 ruska velika slova + 33 ruska mala slova + 21 specijalni znak = 87 znakova.

2. Zamijenite formulu i izračunajte količinu informacija:

I = log 2 87 = 6,4 bita.

Ovu količinu informacija obim informacija nosi jedan znak u ruskom tekstu. Sada, da biste pronašli količinu informacija u cijelom tekstu, morate pronaći ukupan broj znakova u njemu i pomnožiti s količinom informacija jednog znaka. Neka tekst ima 3000 karaktera.

6.4 3000 = 19140 bita.

Sada ćemo prevodiocu dati zadatak da ovaj tekst prevede na njemački. I tako da tekst ostane na 3000 karaktera. Sadržaj teksta ostaje potpuno isti. Dakle, sa stanovišta probabilističkog pristupa, količina informacija se također neće mijenjati, odnosno nije se dodavala ili smanjivala nova i razumljiva znanja.

Testni slučaj. Pronađite količinu informacija sadržanih u njemačkom tekstu s istim brojem znakova.

1. Pronađite snagu njemačkog alfabeta:

N = 26 njemačkih velikih slova + 26 njemačkih malih slova + 21 specijalni znak = 73 znaka.

2. Pronađite količinu informacija jednog znaka:

I = log 2 73 = 6,1 bita.

3. Pronađite volumen cijelog teksta:

6.1 3000 = 18300 bita.

Upoređujući količinu informacija na ruskom tekstu i njemačkom, vidimo da je manje informacija na njemačkom nego na ruskom. Ali sadržaj se nije promijenio! Dakle, kod alfabetskog pristupa mjerenju informacija, njihova količina ne zavisi od sadržaja, već zavisi od snage abecede i broja znakova u tekstu. Sa stanovišta abecednog pristupa, u debeloj knjizi ima više informacija nego u tankoj. U ovom slučaju sadržaj knjige se ne uzima u obzir.

Pravilo za mjerenje informacija u smislu abecednog pristupa je:

  1. Pronađite snagu abecede N.
  2. Pronađite količinu informacija jednog znaka I = log 2 N .
  3. Pronađite broj znakova u poruci K.
  4. Pronađite količinu informacija cijele poruke KI..

Testni slučaj. Pronađite količinu informacija stranice kompjuterskog teksta.

Bilješka . Računar koristi vlastitu abecedu koja sadrži 256 znakova.

1. Pronađite količinu informacija jednog znaka:

I = log 2 N, gdje je N = 256.

I = log 2 256 = 8 bita = 1 bajt.

2. Pronađite broj znakova na stranici (otprilike tako što ćete pomnožiti broj znakova u jednom redu sa brojem redova na stranici).

40 karaktera u jednom redu 50 redova na stranici = 2000 karaktera.

3. Pronađite obim informacija cijele stranice:

1 bajt 2000 karaktera = 2000 bajtova.

Obim informacija od jednog znaka nosi samo 1 bajt informacije. Stoga je dovoljno izbrojati broj znakova u tekstu, što će dati volumen teksta u bajtovima.

Na primjer, ako tekst ima 3000 znakova, tada je njegov volumen informacija 3000 bajtova.

3 Zadaci

1. Koliko će se informacija dobiti prilikom pogađanja broja iz intervala od 1 do 64; od 1 do 20?

2. Koliko informacija će se dobiti nakon prvog poteza u igri tic-tac-toe na polju 3 x 3; 4 x 4?

3. Koliko bi se događaja moglo dogoditi ako bi implementacija jednog od njih rezultirala sa 6 bitova informacija?

4. Kutija sadrži kocke: 10 crvenih, 8 zelenih, 5 žutih, 12 plavih. Izračunajte vjerovatnoću da dobijete kocku svake boje i količinu informacija koja će se dobiti.

5. Kutija sadrži 36 kockica: crvene, zelene, žute, plave. Poruka da je zelena kocka izvađena nosi 3 bita informacije. Koliko je zelenih kockica bilo u kutiji?

6. U grupi je 12 djevojčica i 8 dječaka. Koliko informacija saopštava poruka da će devojka biti pozvana na tablu; dečko?

7. Pronađite obim teksta napisanog na jeziku čija abeceda sadrži 128 znakova i 2000 znakova po poruci.

8. Nađite da obim informacija knjige bude 130 stranica.

9. Rasporedite u rastućem redoslijedu:

1 Mbt, 1010 kbt, 10.000 bita, 1 GB, 512 bajtova.

10. Stavite znakove za poređenje na mjesta koja nedostaju<, >, =:

1 Gb… 1024 Kb… 10 000 bita… 1 Mb… 1024 bajta.

4 Sigurnosna pitanja

1. Koja se poruka naziva informativnom?

2. Šta znači da je događaj jednako vjerovatan; nejednaki?

3. Šta je 1 bit informacije?

4. Kako odrediti količinu informacija za jednako vjerovatne događaje?

5. Kako odrediti količinu informacija za nejednako vjerovatne događaje?

6. Kakav je abecedni pristup mjerenju količine informacija

5 Domaći

1.Instalirajte znakove za poređenje (<, > , =):

1 bajt 32 bita 4 bajta 1 MB 1024 KB

2. Redoslijed u opadajućem redoslijedu:

5byte 25bit 1KB 1010byte

3. Redoslijed u rastućem redoslijedu:

2MB 13bytes 48bit 2083KB

4.Knjiga ima 100 strana; svaka stranica ima 35 redova, svaki red -50 karaktera. Izračunajte količinu informacija sadržanih u knjizi.

5. Postoji sljedeća crno-bijela slika. Odredite količinu informacija ove slike.

6. U jeziku plemena Mumbo-Yumbo postoji samo 129 različitih riječi. Koliko bitova je potrebno za kodiranje bilo koje od ovih riječi?

8. Daje se crno-bijela slika. Odredite količinu informacija sadržanih na slici.

9. Obim informacija crno-bijele slike je 6000 bita. Koliko tačaka sadrži slika?

Najbolji članci na ovu temu