چه مقدار اطلاعات در پیام وجود دارد؟ انگیزه

مبانی علوم کامپیوتر بررسی شده و سخت افزار مدرن تشریح شده است. کامپیوتر شخصی. رویکردهایی برای تعریف مفاهیم پایه در حوزه علوم کامپیوتر تدوین شده و محتوای آنها آشکار می شود. طبقه بندی سخت افزارهای رایانه شخصی مدرن ارائه شده است و ویژگی های اصلی آنها آورده شده است. تمام مفاد اصلی با مثال هایی نشان داده شده است که در آن هنگام حل وظایف خاصنرم افزار مناسب استفاده می شود.

کتاب:

بخش های این صفحه:

همانطور که قبلاً اشاره شد، مفهوم اطلاعات را می توان تحت محدودیت های مختلفی که بر ویژگی های آن اعمال می شود، یعنی در سطوح مختلف بررسی، در نظر گرفت. عمدتاً سه سطح وجود دارد - نحوی، معنایی و عملی. بر این اساس، در هر یک از آنها، برآوردهای متفاوتی برای تعیین میزان اطلاعات استفاده می شود.

بر سطح نحویبرای تخمین مقدار اطلاعات از روش های احتمالی استفاده می شود که فقط ویژگی های احتمالی اطلاعات را در نظر می گیرند و دیگران را در نظر نمی گیرند (محتوای معنایی، مفید بودن، مرتبط بودن و غیره). در اواسط قرن 20 توسعه یافت. روش‌های ریاضی و به‌ویژه روش‌های احتمالی، امکان فرمول‌بندی رویکردی برای ارزیابی مقدار اطلاعات را به عنوان معیاری برای کاهش عدم قطعیت دانش فراهم کردند. این رویکرد که احتمالاتی نیز نامیده می شود، این اصل را فرض می کند: اگر برخی از پیام ها منجر به کاهش عدم قطعیت دانش ما شود، می توان گفت که چنین پیامی حاوی اطلاعات است. در این مورد، پیام ها حاوی اطلاعاتی در مورد هر رویدادی است که می تواند با احتمالات مختلف رخ دهد. فرمولی برای تعیین مقدار اطلاعات برای رویدادهایی با احتمالات مختلف و دریافت شده از یک منبع اطلاعاتی گسسته توسط دانشمند آمریکایی K. Shannon در سال 1948 ارائه شد که بر اساس این فرمول می توان میزان اطلاعات را به صورت زیر تعیین کرد:

جایی که من -مقدار اطلاعات؛ ن -تعداد رویدادهای احتمالی (پیام)؛ p i -احتمال رویدادهای فردی (پیام ها)؛ ? – علامت ریاضیمجموع اعداد

مقدار اطلاعات تعیین شده با استفاده از فرمول (1.1) فقط یک مقدار مثبت می گیرد. از آنجایی که احتمال رخدادهای فردی کمتر از یک است، بر این اساس، عبارت log^,– یک مقدار منفی است و برای به دست آوردن مقدار مثبت برای مقدار اطلاعات در فرمول (1.1)، قبل از جمع علامت منفی وجود دارد. امضا کردن.

در صورتی که احتمال وقوع حوادث فردی یکسان بوده و شکل می گیرند گروه کاملرویدادها، یعنی

سپس فرمول (1.1) به فرمول R. Hartley تبدیل می شود:

در فرمول های (1.1) و (1.2)، رابطه بین مقدار اطلاعات و بر این اساس، احتمال یا تعداد رویدادهای فردی با استفاده از لگاریتم بیان می شود. استفاده از لگاریتم در فرمول های (1.1) و (1.2) را می توان به صورت زیر توضیح داد. برای سادگی استدلال از رابطه (1.2) استفاده می کنیم. ما به ترتیب به استدلال اختصاص می دهیم نمقادیر انتخاب شده، به عنوان مثال، از یک سری اعداد: 1، 2، 4، 8، 16، 32، 64، و غیره. برای تعیین اینکه کدام رویداد از نرویدادهای به همان اندازه احتمالی رخ داده است، برای هر عدد در سری لازم است که به ترتیب عملیات انتخاب از دو رویداد ممکن انجام شود. بله وقتی که N= 1 تعداد عملیات برابر با 0 خواهد بود (احتمال رخداد برابر با 1 است) N= 2، تعداد عملیات برابر با 1 خواهد بود، زمانی که N= 4 تعداد عملیات برابر با 2 خواهد بود، زمانی که N= 8، تعداد عملیات برابر با 3 و غیره خواهد بود. بنابراین، سری اعداد زیر را به دست می آوریم: 0، 1، 2، 3، 4، 5، 6، و غیره که می توان آنها را متناظر با مقادیر در نظر گرفت. از تابع مندر رابطه (1.2). دنباله ای از مقادیر عددی که آرگومان می گیرد N،مجموعه‌ای است که در ریاضیات به‌عنوان مجموعه‌ای از اعداد که یک پیشروی هندسی را تشکیل می‌دهند و دنباله‌ای از مقادیر عددی که تابع می‌گیرد، شناخته می‌شود. من، یک سری خواهد بود که یک پیشرفت حسابی را تشکیل می دهد. بنابراین، لگاریتم در فرمول‌های (1.1) و (1.2) رابطه‌ای بین سری‌های نشان‌دهنده پیشرفت‌های هندسی و حسابی برقرار می‌کند که در ریاضیات کاملاً شناخته شده است.

برای کمی سازی (ارزیابی) هر کمیت فیزیکی، باید یک واحد اندازه گیری را تعیین کرد که در نظریه اندازه گیری به آن اندازه گیری می گویند. همانطور که قبلا ذکر شد، اطلاعات باید قبل از پردازش، انتقال و ذخیره سازی رمزگذاری شوند. کدگذاری با استفاده از الفبای خاص (سیستم های نشانه) انجام می شود. در علوم کامپیوتر که فرآیندهای دریافت، پردازش، انتقال و ذخیره اطلاعات را با استفاده از سیستم های محاسباتی (کامپیوتری) مطالعه می کند، عمدتاً از کدگذاری دودویی استفاده می شود که از یک سیستم علامت متشکل از دو نماد 0 و 1 استفاده می کند. به همین دلیل، در فرمول های ( 1.1) و (1.2) عدد 2 به عنوان پایه لگاریتم استفاده می شود.

بر اساس رویکرد احتمالی برای تعیین مقدار اطلاعات، این دو نماد از سیستم علامت دودویی را می توان به عنوان دو رویداد ممکن متفاوت در نظر گرفت، بنابراین، یک واحد مقدار اطلاعات به عنوان مقدار اطلاعاتی در نظر گرفته می شود که حاوی پیامی است که کاهش می دهد. عدم قطعیت دانش به نصف (قبل از دریافت رویدادها، احتمال آنها 0،5 است، پس از دریافت - 1، عدم قطعیت بر این اساس کاهش می یابد: 1/0.5 = 2، یعنی 2 برابر). این واحد اندازه گیری اطلاعات بیت (از کلمه انگلیسی رقم دودویی -رقم دودویی). بنابراین، به عنوان معیاری برای ارزیابی میزان اطلاعات در سطح نحوی، ارائه شده است کدگذاری باینری، یک بیت دریافت کرد.

بزرگترین واحد بعدی اندازه گیری مقدار اطلاعات یک بایت است که دنباله ای است که از هشت بیت تشکیل شده است.

1 بایت = 2 3 بیت = 8 بیت.

در علوم کامپیوتر، واحدهای اندازه گیری مقدار اطلاعاتی که مضربی از بایت هستند نیز به طور گسترده مورد استفاده قرار می گیرند، اما برخلاف سیستم اندازه گیری متریک، که در آن از ضریب 10n به عنوان ضرب کننده چند واحد استفاده می شود. n = 3، 6، 9 و ... در چندین واحد اندازه گیری مقدار اطلاعات از ضریب 2n استفاده می شود. . این انتخاب با این واقعیت توضیح داده می شود که رایانه عمدتاً با اعداد نه به صورت اعشاری بلکه در کار می کند سیستم دودوییحساب کردن.

واحدهای اندازه گیری مقدار اطلاعاتی که مضرب یک بایت هستند به صورت زیر وارد می شوند:

1 کیلوبایت (KB) = 2 10 بایت = 1024 بایت،

1 مگابایت (MB) = 2 10 کیلوبایت = 1024 کیلوبایت،

1 گیگابایت (گیگابایت) = 2 10 مگابایت = 1024 مگابایت،

1 ترابایت (TB) = 2 10 گیگابایت = 1024 گیگابایت،

1 پتابایت (PB) = 2 10 ترابایت = 1024 ترابایت،

1 اگزابایت (Ebyte) = 2 10 PB = 1024 PB.

واحدهای اندازه گیری مقدار اطلاعات که نام آنها حاوی پیشوندهای "کیلو"، "مگا" و غیره است، از نظر تئوری اندازه گیری صحیح نیست، زیرا این پیشوندها در سیستم متریکمعیارهایی که در آن ضریب 10n به عنوان ضریب چند واحد استفاده می شود، که در آن n = 3، 6، 9 و ... سازمان بین المللی برای رفع این نادرستی کمیسیون بین المللی الکتروتکنیکی،درگیر ایجاد استانداردهایی برای صنعت فناوری الکترونیک، تعدادی پیشوند جدید برای واحدهای اندازه گیری مقدار اطلاعات تصویب کرده است: kibi. (کیبی)مبلمان (مبی)، gibi (گیبی)،شما (طبی)کوچک (پتی)، exbi (exbi).با این حال، نام‌گذاری‌های قدیمی برای واحدهای اندازه‌گیری مقدار اطلاعات همچنان مورد استفاده قرار می‌گیرند و زمان می‌برد تا نام‌های جدید به طور گسترده مورد استفاده قرار گیرند.

رویکرد احتمالیهمچنین در تعیین میزان اطلاعات ارائه شده با استفاده از سیستم های نشانه استفاده می شود. اگر کاراکترهای الفبا را یک مجموعه در نظر بگیریم پیام های احتمالی N،مقدار اطلاعات حمل شده توسط یک علامت الفبا را می توان با فرمول (1.1) تعیین کرد. اگر احتمال هر یک از حروف الفبا در متن پیام به یک اندازه باشد، می توان از فرمول (1.2) برای تعیین مقدار اطلاعات استفاده کرد.

مقدار اطلاعاتی که یک کاراکتر از الفبا حمل می کند، تعداد کاراکترهای موجود در این الفبا بیشتر است. تعداد کاراکترهای موجود در الفبا را قدرت الفبا می گویند. مقدار اطلاعات (حجم اطلاعات) موجود در یک پیام رمزگذاری شده با استفاده از یک سیستم علامت و حاوی تعداد معینی کاراکتر (نماد) با استفاده از فرمول تعیین می شود:

جایی که V –حجم اطلاعات پیام؛ / = log 2 N، حجم اطلاعات یک نماد (نشانه). به -تعداد کاراکترها (علائم) در پیام؛ ن -قدرت الفبا (تعداد کاراکترهای الفبا).

اجازه دهید موارد فوق را در بند 1.2 با مثال توضیح دهیم.

مثال 1.1

اجازه دهید تعیین کنیم که چه مقدار اطلاعات را می توان پس از اجرای یکی از شش رویداد به دست آورد. احتمال اولین رویداد 0.15 است. دوم - 0.25; سوم - 0.2; چهارم - 0.12; پنجم - 0.12; ششم - 0.1، یعنی P 1 = 0,15; P 2 = 0,25; R 3 = 0,2; P 4 = 0,18; P 5 = 0,12; P 6 = 0,1.

راه حل.

برای تعیین مقدار اطلاعات از فرمول (1.1) استفاده می کنیم.

برای محاسبه این عبارت حاوی لگاریتم، ابتدا از یک ماشین حساب کامپیوتری و سپس استفاده می کنیم پردازنده جدول مایکروسافت (MS) اکسل،در بسته نرم افزاری یکپارچه گنجانده شده است MS Office XP.

برای محاسبه با استفاده از ماشین حساب کامپیوتریبیایید کارهای زیر را انجام دهیم:

با استفاده از دستور: [دکمه شروع کنید– Programs – Standard – Calculator]، برنامه Calculator را راه اندازی کنید. پس از شروع برنامه، دستور [View – Engineering] را اجرا کنید (شکل 1.3).

برنج. 1.3. ماشین حساب مهندسی

دکمه ورود به سیستمماشین حساب لگاریتم اعشاری (مبنای 10) عدد نمایش داده شده را محاسبه می کند. از آنجایی که در مورد ما لازم است لگاریتم ها را در پایه 2 محاسبه کنیم، و این ماشین حساب این اجازه را نمی دهد، باید از فرمول معروف استفاده کنیم:

logbN = M log a N،

در مورد ما، رابطه به شکل زیر خواهد بود: log 2 N = M log 10 N,

یعنی log 2 N = 3.322 · log 10 N، و عبارت برای محاسبه مقدار اطلاعات به شکل زیر خواهد بود:

هنگام محاسبه بر روی ماشین حساب، از دکمه های زیر استفاده کنید: +/- (علامت عدد نمایش داده شده را تغییر دهید)، ()(پرانتزهای باز و بسته)، ورود به سیستم(لگاریتم یک عدد به پایه 10) و غیره. نتیجه محاسبه در شکل نشان داده شده است. 1.3. بنابراین، مقدار اطلاعات I = 2.52 بیت است.

حالا بیایید از یک پردازشگر جدول استفاده کنیم MS Excel.برای اجرای برنامه برتری داشتندستور را اجرا کنید: [دکمه شروع کنید- برنامه ها - MS Office XP – Microsoft Excel].در سلول های A1، B1، C1، D1، E1، F1 پنجره ای که باز می شود برتری داشتنبیایید حروف احتمالات را بنویسیم P 1، P 2، P 3، P 4، P 5، P 6و در سلول G1 - مقدار اطلاعات من، که باید مشخص شود. برای نوشتن زیرنویس برای احتمالات R 1؟ ص 6در سلول های A1, B1, C1, D1, E1, F1 دستور زیر را اجرا کنید: [Format – Cells – Font – Modification ( کادر کنار زیرنویس)]. در سلول های A2، B2، C2، D2، E2، F2 مقادیر احتمال مربوطه را می نویسیم.

پس از نوشتن مقادیر در سلول ها، باید قالب شماره را در آنها تنظیم کنید. برای این کار باید دستور زیر را اجرا کنید: [Format – Cells – Number – Numeric (تعداد ارقام اعشار را دو عدد قرار دهید)]. همان را در سلول G2 تنظیم کنید قالب شماره. در سلول G2 عبارت = – (A2*LOG(A2;2) + B2*LOG(B2;2) + C2*LOG(C2;2) + D2*LOG(D2;2) + E2*LOG( E2; 2) + F2*LOG(F2;2)). پس از فشار دادن کلید روی صفحه کلید کامپیوتر , در سلول G2 نتیجه دلخواه را می گیریم - من = 2.52 بیت (شکل 1.4).

برنج. 1.4. نتیجه محاسبه مقدار اطلاعات

مثال 1.2

بیایید تعیین کنیم اگر حجم پیام 0.25 کیلوبایت باشد، چند بایت و بیت از اطلاعات موجود است.

راه حل.

با استفاده از ماشین حساب، تعداد بایت ها و بیت های اطلاعات موجود در این پیام را تعیین می کنیم:

من = 0.25 کیلوبایت · 1024 بایت/1 کیلوبایت = 256 بایت;

من = 256 بایت · 8 بیت/1 بایت = 2048 بیت.

مثال 1.3

اگر حجم اطلاعات پیام 2 کیلوبایت باشد، اجازه دهید قدرت الفبای ارسال پیام حاوی 4096 کاراکتر را تعیین کنیم.

راه حل.

با استفاده از ماشین حساب، حجم اطلاعات یک پیام را از کیلوبایت به بیت تبدیل می کنیم:

V=2کیلوبایت 1024 بایت/1 کیلوبایت = 2048 بایت 8 بیت/1 بایت = 16384 بیت.

بیایید تعداد بیت های هر کاراکتر (حجم اطلاعات یک کاراکتر) را در الفبا تعیین کنیم:

من= 16384 بیت/4096 = 4 بیت.

با استفاده از فرمول (1.3)، قدرت الفبا (تعداد کاراکترهای الفبا) را تعیین می کنیم:

N = 2 I = 2 4 = 16.

همانطور که قبلاً ذکر شد ، اگر فقط ویژگی اطلاعات مرتبط با محتوای معنایی آن را در نظر بگیریم ، هنگام تعریف مفهوم اطلاعات می توانیم خود را به سطح معنایی یا معنایی در نظر گرفتن این مفهوم محدود کنیم.

بر سطح معناییاطلاعات با توجه به محتوای آن در نظر گرفته می شود که منعکس کننده وضعیت یک شی منفرد یا سیستم به عنوان یک کل است. این امر مفید بودن آن برای گیرنده اطلاعات را در نظر نمی گیرد. بر این سطحروابط بین علائم، معانی هدف و معنایی آنها مورد مطالعه قرار می گیرد (شکل 1.1 را ببینید)، که انتخاب واحدهای معنایی اندازه گیری اطلاعات را ممکن می سازد. از آنجایی که محتوای معنایی اطلاعات با استفاده از یک پیام منتقل می شود، یعنی به صورت مجموعه ای از علائم (نمادها) که با استفاده از سیگنال ها از منبع اطلاعات به گیرنده منتقل می شود، رویکردی مبتنی بر استفاده از معیار اصطلاحنامه تبدیل شده است. برای اندازه گیری محتوای معنایی اطلاعات گسترده است. در این مورد، اصطلاحنامه به عنوان مجموعه ای از اطلاعات (اطلاعات) پیشینی در دسترس گیرنده اطلاعات درک می شود.

این رویکرد فرض می کند که برای درک (درک) و استفاده از اطلاعات دریافتی، گیرنده (گیرنده) باید اطلاعات پیشینی ( اصطلاحنامه ) داشته باشد، یعنی مجموعه معینی از علائم پر از معنا، کلمات، مفاهیم، ​​نام پدیده ها و ... اشیایی که ارتباط بین آنها در سطح معنایی برقرار است. بنابراین، اگر دانش در مورد این شییا یک پدیده پشت یک اصطلاحنامه، سپس مقدار اطلاعات موجود در یک پیام جدید در مورد یک موضوع معین را می توان با تغییر در یک اصطلاحنامه فردی تحت تأثیر ارزیابی کرد. از این پیام. بسته به رابطه بین محتوای معنایی پیام و اصطلاحنامه کاربر، تعداد اطلاعات معنایی، در حالی که ماهیت چنین وابستگی خود را به یک توصیف ریاضی دقیق نمی رساند و به در نظر گرفتن سه شرط اصلی می رسد که تحت آن اصطلاحنامه کاربر:

تمایل به صفر دارد، یعنی کاربر پیام دریافتی را درک نمی کند.

تمایل به بی نهایت دارد، یعنی کاربر همه چیز را در مورد یک شی یا پدیده کاملاً می داند و علاقه ای به پیام دریافتی ندارد.

با محتوای معنایی پیام سازگار است، یعنی پیام دریافتی برای کاربر قابل درک است و حاوی اطلاعات جدیدی است.

دو مورد محدود کننده اول مربوط به حالتی است که در آن مقدار اطلاعات معنایی دریافت شده توسط کاربر حداقل است. مورد سوم مربوط به دریافت است حداکثر مقداراطلاعات معنایی بنابراین، مقدار اطلاعات معنایی دریافت شده توسط کاربر یک مقدار نسبی است، زیرا همان پیام می تواند برای یک کاربر شایسته محتوای معنایی داشته باشد و برای یک کاربر نالایق بی معنی باشد.

بنابراین، به دست آوردن یک ارزیابی عینی از مقدار اطلاعات در سطح معنایی بررسی آن دشوار می شود و برای به دست آوردن چنین ارزیابی، واحدهای مختلف اندازه گیری مقدار اطلاعات استفاده می شود: مطلق یا نسبی. نمادها، جزئیات، رکوردها و غیره را می توان به عنوان واحد اندازه گیری مطلق و از ضریب محتوایی که به عنوان نسبت اطلاعات معنایی به حجم آن تعریف می شود، به عنوان یک نسبی استفاده کرد. به عنوان مثال، برای تعیین میزان اطلاعات دریافتی دانش آموزان در کلاس ها در سطح معنایی، می توان نمره اولیه (نماد) را به عنوان یک واحد اندازه گیری در نظر گرفت که درجه جذب چیزهای جدید توسط آنها را مشخص می کند. مطالب آموزشی، که بر اساس آن می توان به طور غیر مستقیم میزان اطلاعات دریافتی هر دانش آموز را مشخص کرد. این مقدار اطلاعات بر حسب نمره ارزیابی مربوطه در محدوده پذیرفته شده ارزیابی ها بیان خواهد شد.

با رویکرد معنایی برای ارزیابی میزان اطلاعات و انتخاب واحد اندازه گیری، نوع اطلاعات (پیام) دریافتی ضروری است. بنابراین، این رویکرد برای تخمین کمیت اطلاعات اقتصادیبه ما امکان می دهد یک واحد ترکیبی از اطلاعات اقتصادی را شناسایی کنیم که شامل مجموعه ای از واحدهای دیگر اطلاعات مرتبط با یکدیگر است. یکی از اجزای اصلی یک واحد اطلاعات اقتصادی یک جزئیات است، به عنوان مثال. مجموعه اطلاعات، که نمی توان آن را بیشتر به واحدهای اطلاعاتی در سطح معنایی تقسیم کرد. تقسیم جزئیات به نمادها منجر به از بین رفتن محتوای معنایی آنها می شود. هر ویژگی با یک نام، مقدار و نوع مشخص می شود. در این صورت نام پروپ به معنای آن است سمبل، تحت ارزش - کمیتی است که ویژگی های یک شی یا پدیده را در شرایط خاص مشخص می کند ، تحت نوع - مجموعه ای از مقادیر یک ویژگی که با ویژگی های خاص و مجموعه ای از تبدیل های مجاز متحد شده است.

جزئیات معمولاً به جزئیات پایه و جزئیات ویژگی تقسیم می شوند.

جزئیات اساسی جنبه کمی یک شی، فرآیند یا پدیده اقتصادی را مشخص می کند که می تواند در نتیجه عملیات فردی - محاسبات، اندازه گیری ها، شمارش واحدهای طبیعی و غیره به دست آید. اسناد اقتصادیاینها شامل، به عنوان مثال، قیمت یک محصول، مقدار، مقدار، و غیره آن است.

ویژگی‌های صفت، ویژگی‌های کیفی یک شی، فرآیند یا پدیده اقتصادی را منعکس می‌کنند. با کمک ویژگی ها، پیام ها یک شخصیت فردی پیدا می کنند. در اسناد اقتصادی، این موارد شامل، برای مثال، شماره سند، نام فرستنده، تاریخ تنظیم سند، نوع معامله و غیره است. جستجو، انتخاب، گروه بندی، مرتب سازی و غیره د.

یک مبنای ویژگی جداگانه، همراه با ویژگی‌های مربوط به آن، واحد ترکیبی سلسله مراتبی بعدی اطلاعات اقتصادی - یک شاخص را تشکیل می‌دهد. این اندیکاتور دارای نامی است که شامل عباراتی است که شی مورد اندازه گیری را نشان می دهد: هزینه، مخارج، ظرفیت، سود و غیره. علاوه بر این، شاخص دارای یک مشخصه رسمی و ویژگی های اضافی است. مشخصه رسمی شامل روش به دست آوردن آن (حجم، مقدار، افزایش، درصد، مقدار متوسط ​​و غیره) و ویژگی های اضافی شامل مکانی-زمانی (محل قرارگیری جسم اندازه گیری شده، زمانی که این شاخص به آن مربوط می شود) و اندازه شناسی (واحدها) است. اندازه گیری ها).

بنابراین با استفاده از مجموعه ای از جزئیات و شاخص های مربوطه می توان میزان اطلاعات اقتصادی دریافتی از شی مورد مطالعه (منبع اطلاعات) را تخمین زد.

علاوه بر رویکرد مبتنی بر استفاده از معیار اصطلاحنامه، رویکردهای دیگری نیز هنگام تعیین میزان اطلاعات در سطح معنایی استفاده می شود. به عنوان مثال، یکی از رویکردهای مربوط به ارزیابی معنایی مقدار اطلاعات این است که تعداد پیوندهای آن در سایر پیام ها به عنوان معیار اصلی ارزش معنایی اطلاعات موجود در یک پیام در نظر گرفته می شود. میزان اطلاعات دریافتی بر اساس پردازش آماری لینک ها در نمونه های مختلف تعیین می شود.

به طور خلاصه آنچه گفته شد، می توان استدلال کرد که مشکل شکل گیری یک رویکرد سیستماتیک یکپارچه برای تعریف اطلاعات در سطح معنایی وجود داشته و دارد. این امر با این واقعیت نیز تأیید می شود که در یک زمان، به منظور ایجاد یک نظریه علمی دقیق از اطلاعات، K. Shannon مجبور شد یک ویژگی مهم اطلاعات مرتبط با محتوای معنایی آن را کنار بگذارد.

علاوه بر سطوح در نظر گرفتن ذکر شده، مفهوم اطلاعات بسیار مورد استفاده قرار می گیرد سطح عمل گرایانهدر این سطح اطلاعات از منظر سودمندی (ارزش) برای مصرف کننده اطلاعات (فرد) برای دستیابی به هدف عملی تعیین شده در نظر گرفته می شود. این رویکرد برای تعیین سودمندی اطلاعات مبتنی بر محاسبه افزایش احتمال دستیابی به هدف قبل و بعد از دریافت اطلاعات است. مقدار اطلاعاتی که ارزش (مفید بودن) آن را تعیین می کند با فرمول پیدا می شود:

جایی که P 0 , P 1 -احتمال دستیابی به هدف به ترتیب قبل و بعد از دریافت اطلاعات.

به عنوان واحد اندازه گیری (اندازه گیری) مقدار اطلاعاتی که مقدار آن را تعیین می کند، 1 بیت را می توان گرفت (با پایه لگاریتمی برابر با 2)، یعنی این مقدار اطلاعات دریافتی است که در آن نسبت احتمالات رسیدن به هدف برابر با 2 است.

بیایید سه مورد را در نظر بگیریم که مقدار اطلاعاتی که مقدار آن را تعیین می کند صفر است و زمانی که مقدار مثبت و منفی به خود می گیرد.

مقدار اطلاعات در P 0 = صفر است R 1،آن ها اطلاعات دریافتی احتمال دستیابی به هدف را افزایش یا کاهش نمی دهد.

ارزش اطلاعات زمانی مثبت است P 1 > P 0 ,یعنی اطلاعات به دست آمده عدم قطعیت اولیه را کاهش داده و احتمال دستیابی به هدف را افزایش می دهد.

ارزش اطلاعات وقتی منفی است P 1< P 0 , یعنی اطلاعات دریافتی عدم قطعیت اولیه را افزایش داده و احتمال دستیابی به هدف را کاهش می دهد. به این نوع اطلاعات، اطلاعات غلط می گویند.

توسعه بیشتر این رویکرد مبتنی بر نظریه اطلاعات آماری و تئوری تصمیم است. در این حالت علاوه بر ویژگی های احتمالی دستیابی به هدف، پس از دریافت اطلاعات، توابع زیان معرفی شده و سودمندی اطلاعات در نتیجه به حداقل رساندن تابع زیان ارزیابی می شود. حداکثر مقدار آن مقدار اطلاعاتی است که هنگام دستیابی به هدف، ضرر را به صفر می رساند.

1. اطلاعات. اشیاء اطلاعاتی انواع مختلف. پایه ای فرآیندهای اطلاعاتی: ذخیره سازی، انتقال و پردازش اطلاعات. نقش اطلاعات در زندگی مردم.
2. درک، به خاطر سپردن و تبدیل سیگنال ها توسط موجودات زنده.
3. مفهوم کمیت اطلاعات: رویکردهای مختلف واحدهای اندازه گیری مقدار اطلاعات
4. درس عمومی در مورد موضوع، کار مستقل.

درس.

اهداف:

• آموزشی- مفهوم مقدار اطلاعات را ارائه دهد، رویکرد احتمالی و الفبایی را برای تعیین مقدار اطلاعات معرفی کند، واحدهای اندازه گیری اطلاعات را معرفی کند و مهارت های عملی در تعیین میزان اطلاعات را توسعه دهد.
• در حال توسعه- ادامه شکل گیری یک جهان بینی علمی، گسترش واژگان در مورد موضوع "اطلاعات"
• آموزشی- ایجاد علاقه به موضوع، پرورش استقامت در غلبه بر مشکلات در کار تحصیلی.

1. مرحله سازمانی (استقبال، شناسایی غایبان کلاس)

2. بررسی تکالیف، فعال کردن دانش

در مورد موضوع "اطلاعات" دریافت شده در 2 درس قبلی. برای شکل دادن به گفتار، مفاهیم اساسی این موضوع را تثبیت کنید، بررسی کنید مشق شبدر قالب یک نظرسنجی شفاهی پیشانی در مورد سوالات زیر انجام می شود:

1. از اطلاعات چه می فهمی؟ مثال بزن. پاسخ‌های پیشنهادی: معمولاً دانش‌آموزان به راحتی نمونه‌هایی از اطلاعاتی را که خود در دنیای اطراف دریافت می‌کنند - اخبار، زنگ مدرسه، دانش جدید در کلاس، اطلاعات به‌دست‌آمده از خواندن ادبیات علمی عامه پسند، تجربه و احساسات به دست آمده از خواندن داستان‌های تخیلی، تجربیات عاطفی ارائه می‌کنند. ، از گوش دادن به موسیقی، قوانین زیبایی شناختی، اطلاعات مربوط به لباس و زندگی قرن 18، احساسات به دست آمده از تماشای نقاشی های هنرمندان قرن 18 به دست آمده است. توصیه می شود دانش آموزان نمونه هایی از اطلاعات را در سیستم های فنی و بیولوژیکی و غیره ارائه دهند (شکل بیت کلید حاوی اطلاعاتی در مورد قفل است، دمای هوای معین در اتاق حاوی اطلاعاتی برای سیستم اطفاء حریق است، یک سلول بیولوژیکی حاوی اطلاعاتی است. اطلاعات مربوط به شی بیولوژیکی که بخشی از آن است…)
2. می دانیم که دو موجود مهم دیگر جهان، ماده و انرژی، قبل از موجودات زنده روی زمین وجود داشته اند. آیا اطلاعات و فرآیندهای اطلاعاتی قبل از ظهور انسان وجود داشته است؟ پاسخ مورد انتظار این است که بله، وجود داشت. به عنوان مثال، اطلاعات موجود در یک سلول گیاهی در مورد نوع گیاه، شرایط جوانه زنی، تولید مثل و غیره به گیاه اجازه رشد و تولید مثل بدون دخالت انسان را می دهد. اطلاعات جمع‌آوری‌شده توسط نسل‌های حیوانات درنده، بازتاب‌های شرطی و غیرشرطی رفتار نسل‌های بعدی شکارچیان را تشکیل می‌دهد.
3. ماده چیزی است که همه چیز از آن ساخته شده است، انرژی چیزی است که همه چیز را به حرکت در می آورد. آیا این درست است که اطلاعات بر جهان حاکم است؟ پاسخت رو توجیه کن. پاسخ: اطلاعات واقعاً بر جهان حاکم است. سیگنالی از زمین ماهواره را مجبور می کند مسیر خود را تغییر دهد. اگر در راه حوضچه ای ببینیم، اطلاعاتی در مورد ظاهر آن، خیس بودن و کثیف بودن آن، ما را مجبور می کند که تصمیم بگیریم به دور گودال برویم. یک ژست مشخص انسان (بازویی که با کف دستی عمودی به جلو کشیده شده است) ما را وادار می کند بایستیم؛ اطلاعات مربوط به قسمت کلید و شکل شکاف قفل به ما امکان می دهد در مورد انتخاب یک کلید از یک دسته تصمیم بگیریم؛ رفلکس هایی که توسط نسل های مختلف یک کلید شکل می گیرد. گونه های خاصی از پرندگان فرآیندهای مهاجرت را کنترل می کنند. با خواندن داستان، تجربیات زندگی شخصیت‌ها را جذب می‌کنیم، که بر پذیرش تأثیر می‌گذارد تصمیمات خاصدر زندگی خودمان؛ با گوش دادن به موسیقی خاصی، سلیقه ای را شکل می دهیم که بر رفتار، محیط و غیره ما تأثیر می گذارد.
4. انواع اطلاعات را با توجه به شکل ارائه نام ببرید، مثال بزنید. پاسخ: عددی (قیمت محصول، اعداد در تقویم)، متن (کتاب نوشته شده به هر زبان، متن کتاب درسی)، گرافیک (نقاشی، عکس، علامت STOP)، صدا (موسیقی، گفتار)، ویدئو (انیمیشن + صدا) ، دستور (کامپیوتر را مجددا راه اندازی کنید - Ctrl+Alt+Delete/Enter را فشار دهید).
5. چه اقداماتی را می توان با اطلاعات انجام داد؟ پاسخ: قابل پردازش، انتقال، ذخیره و کدگذاری (نمایش) است.
6. روش هایی را که شخص اطلاعات را درک می کند نام ببرید. پاسخ: فرد اطلاعات را با استفاده از 5 حس - بینایی (به شکل تصاویر بصریشنوایی (صداها - گفتار، موسیقی، صدا...)، بویایی (بویایی با استفاده از گیرنده های بینی)، چشایی (گیرنده های زبان، ترش، تلخ، شور، سرد)، لمس (دمای اجسام، نوع سطح ... )
7. نمونه هایی از سیستم های نشانه ای را ذکر کنید. پاسخ: زبان طبیعی، زبان رسمی (سیستم اعداد اعشاری، یادداشت ها، علائم راه، کد مورس)، الفبای ژنتیکی، سیستم علامت دودویی.
8. چرا یک کامپیوتر از یک سیستم علامت باینری برای رمزگذاری اطلاعات استفاده می کند؟ پاسخ: سیستم علامت باینری از زمان موجود در رایانه استفاده می شود دستگاه های فنیمی تواند به طور قابل اعتماد تنها دو حالت (نشانه) متفاوت را ذخیره و تشخیص دهد.

3. رویکرد احتمالی برای اندازه گیری مقدار اطلاعات (به ارائه چند رسانه ای مراجعه کنید).

امروز در مورد اندازه گیری اطلاعات، یعنی تعیین کمیت آن صحبت خواهیم کرد. (دانش آموزان موضوع درس را در یک دفتر یادداشت می کنند - "مقدار اطلاعات"). به نظر شما شامل کدام کتاب است مقدار زیاداطلاعات (نشان دادن نازک و ضخیم)؟ به عنوان یک قاعده، دانش آموزان ضخیم را انتخاب می کنند، زیرا حاوی کلمات، متن و حروف بیشتری است (بعضی از بچه ها می پرسند چه نوع اطلاعاتی در کتاب موجود است - گرافیکی یا متنی؟ باید روشن شود که کتاب فقط حاوی اطلاعات متنی است) . کدام پیام اطلاعات بیشتری را به شما منتقل می کند: "فردا طبق برنامه معمول مطالعه خواهیم کرد" یا "فردا به جای ادبیات شیمی خواهد بود"؟ دانش‌آموزان به‌طور شهودی به دومی پاسخ می‌دهند، زیرا علی‌رغم داشتن تعداد کلمات تقریباً یکسان، پیام دوم حاوی اطلاعات مهم‌تر، جدید یا مرتبط‌تری برای آنهاست. و پیام اول اصلاً چیزی را منتقل نمی کند اطلاعات جدید. آیا متوجه شده اید که به اطلاعات از نظر تعداد کاراکترها و اهمیت معنایی آن برای شما نگاه کرده اید؟ 2 رویکرد برای تعیین مقدار اطلاعات وجود دارد - معنایی و فنی (الفبایی). معنایی برای اندازه گیری اطلاعات مورد استفاده توسط یک شخص و فنی (یا حروف الفبا) توسط رایانه استفاده می شود.

برای یک فرد، کسب اطلاعات جدید منجر به افزایش دانش یا کاهش عدم اطمینان می شود. به عنوان مثال، گفتن اینکه فردا چهارشنبه است، عدم قطعیت را کاهش نمی دهد، بنابراین حاوی اطلاعاتی نیست. بگذارید یک سکه داشته باشیم که آن را روی یک سطح صاف می اندازیم. ما قبل از پرتاب می دانیم که یکی از دو چیز ممکن است اتفاق بیفتد - سکه در یکی از این دو موقعیت قرار می گیرد: "سر" یا "دم". پس از پرتاب، اطمینان کامل وجود دارد (ما به صورت بصری اطلاعاتی دریافت می کنیم که نتیجه، به عنوان مثال، "سر" است). از آنجایی که یکی از دو پیام اطلاعاتی دریافت شده است، یک پیام اطلاعاتی که "سر" سقوط کرده است، عدم اطمینان ما را 2 برابر کاهش می دهد.

در واقعیت اطراف، موقعیت‌هایی اغلب اتفاق می‌افتد که بیش از 2 رویداد به همان اندازه ممکن رخ دهد. بنابراین، هنگام پرتاب یک قالب شش وجهی، 6 رویداد به همان اندازه محتمل وجود دارد. افتادن یکی از اضلاع مکعب، عدم قطعیت را تا 6 برابر کاهش می دهد. هرچه تعداد اولیه رویدادها بیشتر باشد، عدم قطعیت دانش ما بیشتر است، اطلاعات بیشتری هنگام دریافت پیام اطلاعاتی دریافت خواهیم کرد.

مقدار اطلاعات را می توان به عنوان معیاری برای کاهش عدم قطعیت دانش در هنگام دریافت پیام های اطلاعاتی در نظر گرفت.(دانش آموزان آنچه را که با حروف کج است در دفترچه یادداشت خود یادداشت می کنند.)

فرمولی وجود دارد که تعداد پیام‌های اطلاعاتی ممکن N و مقدار اطلاعاتی را که من با پیام دریافتی حمل می‌کنم مرتبط می‌کند:

N=2من(N - تعداد پیام های اطلاعاتی ممکن،I - مقدار اطلاعاتی که پیام دریافتی حامل است).

برای تعیین کمیت هر کمیت، باید واحد اندازه گیری را تعیین کرد. به عنوان مثال، برای اندازه گیری طول، استاندارد خاصی انتخاب می شود - متر، جرم - کیلوگرم.

4. واحدهای اطلاعات

پشت واحد اندازه گیری مقدار اطلاعاتمقدار اطلاعات موجود در پیام پذیرفته می شود و عدم قطعیت دانش را تا 2 برابر کاهش می دهد. چنین واحدی نامیده می شود بیت

بیایید به دریافت پیام اطلاعاتی ذکر شده در بالا برگردیم که هنگام پرتاب سکه "سر" ظاهر می شود. در اینجا عدم قطعیت ضریب 2 کاهش یافته است، بنابراین این پیام برابر با 1 بیت است. پیغام اینکه طرف خاصی از دای افتاده است، عدم قطعیت را ضریب 6 کاهش می دهد، بنابراین این پیام برابر با 6 بیت است.

کوچکترین واحد برای اندازه گیری مقدار اطلاعات یک بیت و بزرگترین واحد بعدی یک بایت است و

1 بایت = 8 بیت

که در سیستم بین المللی SI از پیشوندهای اعشاری "Kilo" (10 3)، "Mega" (10 6)، "Giga" (10 9)، ... در یک کامپیوتر، اطلاعات با استفاده از سیستم علامت باینری رمزگذاری می شود، بنابراین، در چندین واحد رمزگذاری می شود. برای اندازه گیری مقدار اطلاعات از ضریب 2 n استفاده می شود.

1 کیلوبایت (KB) = 2 10 بایت = 1024 بایت
1 مگابایت (MB) = 2 10 کیلوبایت = 1024 کیلوبایت
1 گیگابایت (GB) = 2 10 مگابایت = 1024 مگابایت
1 ترابایت (TB) = 2 10 گیگابایت = 1024 گیگابایت

یک ترابایت یک واحد اندازه گیری اطلاعات بسیار بزرگ است، بنابراین بسیار به ندرت استفاده می شود. تمام اطلاعاتی که بشریت جمع آوری کرده است ده ها ترابایت تخمین زده می شود.

5. تعیین میزان اطلاعات

وظیفه 1. مقدار را تعیین کنید برگه های امتحانی، اگر پیام تصویری در مورد شماره یک بلیط کشیده شده حاوی 5 بیت اطلاعات باشد. تعداد بلیط ها تعداد پیام های اطلاعاتی است. N=2 I = 2 5 = 32 بلیط.

وظیفه 2. پیام در مورد ارزیابی برای چه مقدار اطلاعات است تست? برای آزمون می توانید 2، 3، 4 یا 5 دریافت کنید که در کل 4 پیام وجود دارد (N=4). فرمول به شکل یک معادله است - 4=2 I = 2 2 , I=2.

وظایف برای تکمیل مستقل: (فرمول باید همیشه جلوی چشمان شما باشد، همچنین می توانید یک میز با توان های 2 را آویزان کنید) (3 دقیقه).

1. چه مقدار اطلاعات در پیام تصویری درباره سقوط یک هرم هشت ضلعی متقارن بر روی یکی از وجوه آن دریافت می کنیم؟ پاسخ: 3 بیت، زیرا تعداد رویدادهای ممکن (پیام) N=8، 8=2 I = 2 3 , I=3.
2. توپ های دارای اعداد از یک کیسه مات خارج می شوند و معلوم است که اعلامیهحاوی 5 بیت اطلاعات در مورد شماره توپ است. تعداد توپ های داخل کیسه را مشخص کنید. پاسخ: 32 توپ در کیسه وجود دارد، زیرا N=2 I = 2 5 = 32.
3. هنگام بازی تیک تاک روی زمینی با سلول 4×4، بازیکن دوم بعد از اولین حرکت بازیکن اول چقدر اطلاعات دریافت می کند؟ پاسخ: تعداد رویدادهای قبل از شروع بازی N=16، 16=2 I = 2 4 , I=4. بازیکن دوم پس از اولین حرکت بازیکن اول 4 بیت اطلاعات دریافت می کند.

6. رویکرد الفبایی برای تعیین میزان اطلاعات

ماهیت رویکرد فنی یا الفبایی برای اندازه گیری اطلاعات با تعداد علائم الفبای خاصی که برای نشان دادن آن استفاده می شود تعیین می شود. به عنوان مثال، اگر 5 کاراکتر از الفبای رومی برای نشان دادن عدد XVIII استفاده شود، این مقدار اطلاعات است. همان عدد، یعنی همان اطلاعات را می توان در آن نوشت سیستم اعشاری(18). همانطور که می بینیم، 2 علامت دریافت می کنیم، یعنی مقدار متفاوتی از مقدار اطلاعات. برای اینکه در هنگام اندازه گیری اطلاعات یکسان، اطلاعات یکسانی به دست آید، لازم است در مورد استفاده از یک الفبای خاص توافق شود. از آنجایی که در سیستم های فنیاگر از الفبای دودویی استفاده شود، برای اندازه گیری مقدار اطلاعات نیز استفاده می شود. تعداد کاراکترهای الفبا N=2 است، N=2 I، I مقدار اطلاعاتی است که یک کاراکتر حمل می کند. 2 2 = 2 1، I = 1 بیت. جالب اینجاست که واحد اندازه گیری مقدار اطلاعات «بیت» نام خود را از عبارت انگلیسی «بیت» گرفته است. B.I.ناری دیجی تی" - "رقم دودویی".

هرچه تعداد کاراکترهای حروف الفبا بیشتر باشد، مقدار اطلاعاتی که 1 کاراکتر از حروف الفبا حمل می کند بیشتر است.

مقدار اطلاعاتی را که 1 حرف از الفبای روسی حمل می کند را خودتان تعیین کنید.

پاسخ: یک حرف از الفبای روسی حاوی 5 بیت اطلاعات (با رویکرد الفبایی برای اندازه گیری اطلاعات) است.

چه مقدار اطلاعات در یک کاراکتر 8 بیتی وجود دارد؟ کد باینری(نماد A – 11000000)؟ پاسخ: 8 بیت یا 1 بایت.

کار عملی(جزوه - کارت دستورالعملبرای اعدام کار عملی) برای تعیین مقدار اطلاعات با استفاده از ماشین حساب:

1. حجم اطلاعات پیام زیر را بر حسب بایت تعیین کنید (پیام بر روی یک کارت چاپ می شود، کارت های روی هر میز):

مقدار اطلاعاتی که یک علامت حمل می کند به احتمال دریافت آن بستگی دارد. در روسی نوشتنفراوانی استفاده از حروف در متن متفاوت است، بنابراین به طور متوسط ​​در هر 1000 کاراکتر از یک متن معنادار، 200 حرف "a" و تعداد حرف "f" صد برابر کمتر است (فقط 2). بنابراین، از نقطه نظر تئوری اطلاعات، ظرفیت اطلاعاتی کاراکترهای الفبای روسی متفاوت است (حرف "a" کوچکترین و حرف "f" بزرگترین است).

تعداد کاراکترها (تعداد کاراکترها در یک خط * تعداد خطوط) را تعیین کنید - 460 کاراکتر = 460 بایت

این متن را با استفاده از Notepad وارد کنید و روی دسکتاپ خود ذخیره کنید. حجم اطلاعات این فایل را با استفاده از کامپیوتر تعیین کنید (شیء APKM à Properties را انتخاب کنید) پاسخ: 460 بایت.

می توانید این متن را در فرم بنویسید فایل صوتی 1.wav و مقایسه با متن (شروع à برنامه ها à سرگرمی استاندارد à ضبط صدا...). حجم اطلاعات آن را با استفاده از رایانه تعیین کنید - 5.28 مگابایت (5،537،254 بایت). برای دانش آموزان توضیح دهید که این تفاوت ناشی از تفاوت در نمایش صدا و اطلاعات متنی. ویژگی های این نمایندگی بعدا مورد بحث قرار خواهد گرفت.

2. تعیین کنید که چه تعداد کتاب درسی روی یک دیسک با حجم اطلاعات 700 مگابایت قرار می گیرد. پاسخ: 1. تعیین تعداد کاراکترهای کتاب درسی (تعداد کاراکتر در هر خط * تعداد خطوط در هر صفحه * تعداد صفحات) 60 * 30 * 203 = 365400 کاراکتر = 365400 بایت = 365400/1024/1024 مگابایت = 0.35 مگابایت . تعداد کتاب درسی K=700/0.35= 2000 کتاب درسی.

7. جمع بندی درس به صورت پیمایش پیشانی:

1. چه رویکردهایی برای تعیین میزان اطلاعات وجود دارد؟ پاسخ: 2 رویکرد برای اندازه گیری مقدار اطلاعات وجود دارد - معنایی و فنی یا الفبایی.
2. تفاوت یک رویکرد با رویکرد دیگر چیست؟ پاسخ: با رویکرد معنایی، میزان اطلاعات معیاری برای کاهش عدم قطعیت دانش در هنگام دریافت پیام اطلاعاتی است، با رویکرد الفبایی - تعداد کاراکترهای پیام * میزان اطلاعات حمل شده توسط 1 کاراکتر از حروف الفبا. .
3. واحدهای اطلاعات را از کوچکترین به بزرگترین نام ببرید. پاسخ: بیت، بایت، کیلوبایت، مگابایت، گیگابایت، TB.
4. تفاوت بین یک بایت و یک کیلوبایت، یک کیلوبایت از یک مگابایت و یک مگابایت از یک گیگابایت چیست؟ جواب: 1024 (2 10).
5. در 1 بایت چند بیت وجود دارد؟ پاسخ: 8.
6. در رویکرد معنایی و الفبایی برای تعیین میزان اطلاعات چه بیتی وجود دارد؟ پاسخ: با رویکرد معنایی، بیت کاهش 2 برابر عدم قطعیت دانش هنگام دریافت پیام اطلاعاتی است. در رویکرد حروف الفبا، بیت ظرفیت اطلاعات یک کاراکتر در کدگذاری باینری است.

8. تکالیف

1. پاراگراف های 1.3.1 و 1.1.3 (N. Ugrinovich "Informatics. دوره پایه. کلاس هشتم") 2 سوال در صفحه 29 (1. مثال هایی از پیام های اطلاعاتی که منجر به کاهش عدم قطعیت دانش می شود. 2. مثال هایی از پیام های اطلاعاتی که حاوی 1 بیت اطلاعات هستند را بیان کنید).
2. وظایف: 1. پیام ارزیابی برای آزمون حاوی چه مقدار اطلاعات است؟ 2. محاسبه کنید چه مقدار اطلاعات در بیت در 1 کیلوبایت، 1 مگابایت وجود دارد؟ 3. محاسبه کنید که چند کتاب (هر کتاب داستانی را در خانه ببرید) روی یک فلاپی دیسک 1.44 مگابایتی قرار می گیرد.

روش حجمی اندازه گیری اطلاعات

روش فنیاندازه گیری مقدار اطلاعات (یا به طور دقیق تر، حجم اطلاعات یک پیام) بر اساس شمارش تعداد کاراکترهایی است که پیام از آنها تشکیل شده است. در این صورت محتوای معنایی پیام لحاظ نمی شود. به عنوان مثال، تکرار مکرر یک متن اطلاعات جدیدی را به همراه ندارد، اما در نتیجه حافظه بیشتری را اشغال می کند، به زمان بیشتری برای انتقال نیاز دارد و غیره. بنابراین، این روش در محاسبات فنی راحت است.

اندازه گیری K. Shannon

K. Shannon ریاضیدان و مهندس آمریکایی در سال 1948 فرمولی را برای محاسبه مقدار اطلاعات موجود در سیستمی به دست آورد که دارای مجموعه دلخواه غیرمحتمل است. مورد کلی) ایالت ها

که در آن n تعداد حالت های ممکن سیستم است، pi احتمال i-امین حالت است (و pi = 1)

هر چه احتمال وقوع یک رویداد کمتر باشد، اطلاعات بیشتراین رویداد حمل می کند.

بیایید به یک مثال نگاه کنیم:

قفسه کتاب دارای هشت قفسه است. کتاب را می توان روی هر کدام از آنها قرار داد. پیام حاوی چه مقدار اطلاعات در مورد مکان کتاب است؟

بیایید از روش تقسیم نیمه استفاده کنیم. بیایید چند سوال بپرسیم که عدم قطعیت دانش را به نصف کاهش دهد.

سوال پرسیدن:

آیا کتاب بالای قفسه چهارم است؟

آیا کتاب زیر قفسه سوم است؟ -آره.

آیا کتاب در قفسه دوم است؟

خوب حالا همه چیز مشخص است! کتاب در قفسه اول است! هر پاسخ عدم قطعیت را به نصف کاهش داد.

در مجموع سه سوال پرسیده شد. یعنی 3 بیت اطلاعات تایپ شده است. و اگر بلافاصله گفته می شد که کتاب در قفسه اول است، همان 3 بیت اطلاعات توسط این پیام منتقل می شود.

اگر تعداد احتمالی رویدادها یا به عبارت دیگر عدم قطعیت دانش N را نشان دهیم و حرف I مقدار اطلاعات موجود در پیامی است که یکی از N اتفاق افتاده است، می توانیم فرمول را بنویسیم:

مقدار اطلاعات موجود در یک پیام مبنی بر اینکه یکی از N رویداد با احتمال یکسان رخ داده است با حل معادله نمایی تعیین می شود:

حال بیایید به روش دیگری برای اندازه گیری اطلاعات نگاه کنیم. این روش میزان اطلاعات را به محتوای پیام ربط نمی دهد و رویکرد الفبایی نامیده می شود.

با رویکرد حروف الفبا برای تعیین مقدار اطلاعات، فرد از محتوای اطلاعات انتزاعی می گیرد و پیام اطلاعاتی را دنباله ای از نشانه های یک سیستم نشانه ای خاص می داند.

ما به طور سنتی کل مجموعه نمادهای مورد استفاده در یک زبان را الفبا می نامیم. معمولاً حروف الفبا فقط به حروف اشاره دارد، اما از آنجایی که متن ممکن است دارای علائم نگارشی، اعداد و پرانتز باشد، آنها را نیز در الفبا قرار می دهیم. الفبا نیز باید شامل یک فاصله باشد، یعنی. فاصله بین کلمات

تعداد کل کاراکترهای الفبا را معمولاً قدرت الفبا می نامند. این مقدار را با حرف N نشان خواهیم داد. به عنوان مثال، قدرت الفبای حروف روسی و علامت گذاری شده است. شخصیت های اضافیبرابر با 54

هر یک از N کاراکتر می تواند در هر موقعیت متن بعدی ظاهر شود. سپس، طبق فرمولی که برای ما شناخته شده است، هر یک از این نمادها حامل اطلاعات بیت I است که می توان از حل معادله 2I = 54 مشخص کرد. I = 5.755 بیت به دست می آید.

این همان مقدار اطلاعاتی است که یک شخصیت در یک متن روسی حمل می کند! و اکنون برای یافتن مقدار اطلاعات در کل متن باید تعداد کاراکترهای آن را بشمارید و در I ضرب کنید.

بیایید حجم اطلاعات یک صفحه از کتاب را بشماریم. اجازه دهید صفحه شامل 50 خط باشد. هر خط شامل 60 کاراکتر است. این بدان معناست که 50x60=3000 کاراکتر در صفحه قرار می گیرد. سپس حجم اطلاعات برابر با: 5.755 x 3000 = 17265 بیت خواهد بود.

در رویکرد الفبایی اندازه گیری اطلاعات، میزان اطلاعات نه به محتوا، بلکه به اندازه متن و قدرت الفبا بستگی دارد.

اجازه دهید کتاب کوچکی که با استفاده از رایانه ساخته شده است، 150 صفحه داشته باشد. هر صفحه 40 خط و هر خط 60 کاراکتر دارد. این بدان معناست که صفحه حاوی 40x60=2400 بایت اطلاعات است. حجم تمامی اطلاعات کتاب: 2400*150 = 360000 بایت.

در هر سیستم واحدهای اندازه گیری، واحدهای اساسی و مشتقاتی از آنها وجود دارد.

برای اندازه گیری مقادیر زیاد اطلاعات، واحدهای زیر به دست آمده از بایت استفاده می شود:

1 کیلوبایت = 1 کیلوبایت = 210 بایت = 1024 بایت.

1 مگابایت = 1 مگابایت = 210 کیلوبایت = 1024 کیلوبایت.

1 گیگابایت = 1 گیگابایت = 210 مگابایت = 1024 مگابایت.

دریافت و انتقال اطلاعات می تواند با در سرعت های مختلف. مقدار اطلاعات ارسال شده در واحد زمان، سرعت انتقال اطلاعات یا سرعت جریان اطلاعات است.

بدیهی است که این سرعت بر حسب واحدهایی مانند بیت در ثانیه (bps)، بایت در ثانیه (بایت بر ثانیه)، کیلوبایت بر ثانیه (KB/s) و غیره بیان می شود.

سوالات خودآزمایی

سوالات خودآزمایی

1. بیان رسمی و غیر رسمی مشکل.

2. «مدل» و الزامات مدلسازی را تعریف کنید.

3. مشخصات مراحل ساخت مدل اطلاعاتی.

4. طبقه بندی مدل ها.

5. انواع فرم برای نمایش مدل های اطلاعاتی.

6. مراحل توسعه مدل های کامپیوتری.

7. اطلاعات، طبقه بندی اطلاعات.

8. روش های کسب و استفاده از اطلاعات.

9. محیط ذخیره سازی.

10. روش های اندازه گیری اطلاعات.

11. رویکرد حروف الفبابرای اندازه گیری اطلاعات

برای اینکه بتوانیم مقایسه کنیم منابع مختلفپیام ها و خطوط مختلفو کانال های ارتباطی، لازم است معیارهای کمی را معرفی کنیم که به ما امکان می دهد اطلاعات موجود در پیام و حمل شده توسط سیگنال را ارزیابی کنیم. چنین معیاری در قالب مقدار اطلاعات توسط K. Shannon بر اساس مفهوم انتخاب معرفی شد که به او اجازه داد تا یک نظریه ریاضی نسبتاً کلی از ارتباطات بسازد.

اجازه دهید ایده های اصلی این نظریه را در رابطه با منبع گسسته، که دنباله ای از پیام های ابتدایی را صادر می کند. بیایید سعی کنیم معیار مناسبی برای میزان اطلاعات موجود در یک پیام پیدا کنیم. ایده اصلی تئوری اطلاعات این است که این معیار نه با محتوای خاص یک پیام معین، بلکه با این واقعیت تعیین می شود که منبع یک ارتباط ابتدایی معین را از یک مجموعه محدود انتخاب می کند. این ایده با این واقعیت توجیه می شود که بر اساس آن می توان تعدادی از نتایج گسترده و در عین حال غیر پیش پاافتاده را به دست آورد که با ایده های شهودی در مورد انتقال اطلاعات مطابقت دارد. نتایج اصلی این نتایج در زیر ارائه خواهد شد.

بنابراین، اگر منبعی یک پیام ابتدایی () را از مجموعه‌ای از حروف الفبا انتخاب کند، مقدار اطلاعاتی که تولید می‌کند نه به محتوای خاص این عنصر، بلکه به نحوه انتخاب بستگی دارد. اگر عنصر پیام انتخاب شده از پیش تعیین شده باشد، طبیعی است که فرض کنیم اطلاعات موجود در آن برابر با صفر است. بنابراین، فرض می کنیم که انتخاب یک حرف با احتمال خاصی اتفاق می افتد. این احتمال ممکن است، به طور کلی، به این بستگی دارد که چه ترتیبی قبل از حرف داده شده است. فرض کنید مقدار اطلاعات موجود در یک پیام ابتدایی است عملکرد پیوستهاین احتمال، و ما سعی خواهیم کرد شکل این تابع را تعیین کنیم تا برخی از ساده ترین ایده های شهودی در مورد اطلاعات را برآورده کند.

برای این منظور، یک تبدیل ساده پیام را انجام خواهیم داد، که شامل این واقعیت است که هر جفت "حروف" را که به ترتیب توسط منبع ایجاد می شود به عنوان یک "حرف بزرگ" در نظر می گیریم. ما چنین تحولی را بزرگ شدن الفبا می نامیم. مجموعه ای از "حروف" بزرگ شده الفبای حجم را تشکیل می دهد، زیرا بعد از هر عنصر الفبا، به طور کلی، می توان هر عنصری را انتخاب کرد. اجازه دهید این احتمال وجود داشته باشد که منبع یک انتخاب متوالی از عناصر و . سپس با در نظر گرفتن جفت به عنوان یک حرف از یک الفبای جدید، می توان گفت که این جفت حاوی مقداری اطلاعات است.

طبیعی است که بخواهیم مقدار اطلاعات موجود در یک جفت حروف را برآورده کند، یعنی برابر با مجموع مقادیر اطلاعات موجود در هر یک از حروف و الفبای اصلی باشد. اطلاعات موجود در یک نامه برابر است با ، که در آن احتمال انتخاب یک حرف بعد از تمام حروف قبل از آن است. برای تعیین اطلاعات موجود در نامه، باید احتمال انتخاب حرف بعد از نامه و همچنین با در نظر گرفتن تمام حروف قبل از نامه را در نظر بگیرید. این احتمال شرطی را با نشان می دهیم. سپس مقدار اطلاعات در یک نامه توسط تابع بیان می شود.

از طرفی احتمال انتخاب یک جفت حروف طبق قاعده ضرب احتمالات برابر است با

نیاز به افزایش مقدار اطلاعات در طول عملیات بزرگ‌نمایی الفبا منجر به برابری می‌شود.

بگذار باشد. سپس برای هر و معادله باید رعایت شود

ما موارد را حذف می کنیم یا از بررسی خارج می کنیم، زیرا به دلیل محدود بودن تعداد حروف الفبا، این برابری ها به این معنی است که انتخاب یک جفت حروف توسط منبع یک رویداد غیرممکن است.

برابری (1.3) یک معادله تابعی است که از آن می توان نوع تابع را تعیین کرد. اجازه دهید هر دو طرف معادله (1.3) را با توجه به p متمایز کنیم:

.

اجازه دهید هر دو طرف معادله حاصل را در p ضرب کنیم و نماد را معرفی کنیم

(1.4)

این معادله باید برای همه و همه معتبر باشد. آخرین محدودیت مهم نیست، زیرا معادله (1.4) با توجه به متقارن است و بنابراین، باید برای هر جفت مقدار مثبت آرگومان ها که از یک تجاوز نمی کند، ارضا شود. اما این تنها در صورتی امکان پذیر است که هر دو طرف (1.4) مقداری ثابت را نشان دهند، از آنجا

با ادغام معادله به دست آمده، متوجه می شویم

, (1.5)

جایی که یک ثابت ادغام دلخواه است.

فرمول (1.5) دسته ای از توابع را تعریف می کند که مقدار اطلاعات را هنگام انتخاب حرفی که احتمال دارد و شرط افزایش را برآورده می کند، بیان می کند. برای تعیین ثابت ادغام از شرطی که در بالا گفته شد استفاده می کنیم که طبق آن پیشاپیش عنصر از پیش تعریف شدهپیام ها، یعنی داشتن یک احتمال، حاوی اطلاعات نیستند. بنابراین، که از آن فوراً نتیجه می گیرد که . - پایه لگاریتم های طبیعی) یا به عبارت دیگر برابر با اطلاعات موجود در پیام وقوع رویدادی است که احتمال وقوع آن برابر است با

با در نظر گرفتن اینکه لگاریتم به هر پایه ای گرفته می شود، تا زمانی که این پایه در سراسر مسئله حل شده حفظ شود.

به دلیل خاصیت افزایش اطلاعات، عبارات (1.6) امکان تعیین مقدار اطلاعات را نه تنها در نامه یک پیام، بلکه در هر پیام با هر طولی نیز ممکن می سازد. فقط باید احتمال انتخاب این پیام را از بین همه پیام‌های ممکن با در نظر گرفتن پیام‌های انتخاب شده قبلی در نظر بگیرید.

ویژگی های اطلاعاتی

مفهوم "اطلاعات" توسط بسیاری از رشته های علمی مورد استفاده قرار گرفته است تعداد زیادی ازویژگی‌های مختلف، اما هر رشته به آن ویژگی‌هایی از اطلاعات توجه می‌کند که برای آن مهم‌تر هستند. در چهارچوب بررسی ما، مهمترین خواص عبارتند از دوگانگی، کامل بودن، قابلیت اطمینان، کفایت، دسترسی، ارتباط. بیایید نگاهی دقیق تر به آنها بیندازیم.

دوگانگی اطلاعاتدوگانگی آن را مشخص می کند. از یک سو، اطلاعات به دلیل عینی بودن داده ها عینی است، از سوی دیگر به دلیل ذهنی بودن روش های مورد استفاده، ذهنی است. به عنوان مثال، دو نفر یک کتاب را می خوانند و گاهی اوقات خیلی خوب می شوند اطلاعات مختلف. اطلاعات عینی تر از روش هایی با عنصر ذهنی کمتر استفاده می کند.

کامل بودن اطلاعاتدرجه کافی بودن داده ها برای تصمیم گیری یا ایجاد داده های جدید بر اساس داده های موجود را مشخص می کند. مجموعه داده های ناقص و زائد، دستیابی به اطلاعات و تصمیم گیری کافی را دشوار می کند.

قابلیت اطمینان اطلاعات- این ویژگی است که درجه مطابقت اطلاعات را با یک شی واقعی با دقت مورد نیاز مشخص می کند. هنگام کار با مجموعه ای ناقص از داده ها، قابلیت اطمینان اطلاعات را می توان با احتمال مشخص کرد، به عنوان مثال، هنگام پرتاب یک سکه، نشان با احتمال 50٪ ظاهر می شود.

کفایت اطلاعاتدرجه مطابقت تصویر ایجاد شده با استفاده از اطلاعات را با یک شی، فرآیند یا پدیده واقعی بیان می کند. اعلام وصول اطلاعات کافیبه دلیل در دسترس نبودن روش های کافی دشوار می شود.

در دسترس بودن اطلاعات- این فرصتی است برای به دست آوردن اطلاعات در صورت لزوم. در دسترس بودن از دو جزء تشکیل شده است: در دسترس بودن داده و در دسترس بودن روش. عدم وجود حداقل یکی اطلاعات ناکافی را فراهم می کند.

ارتباط اطلاعاتاطلاعات در زمان وجود دارد، زیرا تمام فرآیندهای اطلاعاتی در زمان وجود دارند. اطلاعاتی که امروزه مرتبط هستند ممکن است پس از مدتی کاملاً غیر ضروری شوند. به عنوان مثال، برنامه تلویزیونی این هفته برای بسیاری از بینندگان تلویزیون در هفته آینده مرتبط نخواهد بود.

ویژگی های اسنادی (صفت جزء لاینفک چیزی است). مهمترین آنها عبارتند از - گسستگی(اطلاعات شامل قطعات جداگانه، علائم) و تداوم(توانایی جمع آوری اطلاعات).

تمام اطلاعات شامل یک جزء ذهنی است. آیا حتی امکان اندازه گیری عینی میزان اطلاعات وجود دارد؟ مهمترین نتیجه نظریه اطلاعات این است که تحت شرایط خاص، می توان با غفلت از ویژگی های کیفی اطلاعات، کمیت آن را بر اساس عدد بیان کرد.و بنابراین مقدار اطلاعات موجود در آن را مقایسه کنید گروه های مختلفداده ها.

مقدار اطلاعاتیک مشخصه عددی اطلاعات است که نشان دهنده میزان عدم قطعیت است که پس از دریافت اطلاعات از بین می رود.

مفاهیم "اطلاعات"، "عدم قطعیت"، "انتخاب" ارتباط نزدیکی با هم دارند. اطلاعات دریافتی تعداد را کاهش می دهد گزینه های ممکنانتخاب (یعنی عدم قطعیت)، و اطلاعات کاملهیچ گزینه ای باقی نمی گذارد.

مثلاً در متن رمان «جنگ و صلح»، نقاشی‌های دیواری رافائل یا کد ژنتیکی انسان چقدر اطلاعات وجود دارد؟ آیا می توان به طور عینی مقدار اطلاعات را اندازه گیری کرد؟

در اصطلاح علمی، مفهوم "اطلاعات" با احتمال وقوع یک رویداد خاص مرتبط است.

احتمال- یک مشخصه عددی درجه امکان وقوع یک رویداد. احتمال یک رویداد قابل اعتماد (باید اتفاق بیفتد) 1 است، یک رویداد غیرممکن (هرگز اتفاق نخواهد افتاد) 0 است. احتمال یک رویداد تصادفی در بازه (0، 1) نهفته است. به عنوان مثال، احتمال گرفتن سر هنگام پرتاب سکه 1/2 و احتمال گرفتن هر طرف هنگام بازی تاس 1/6 است.

تصادفیتماس گرفت رویدادکه ممکن است اتفاق بیفتد یا نباشد. مثال ها رویدادهای تصادفیممکن است ظاهر "سر" هنگام پرتاب یک سکه یا تعداد امتیازات (یعنی ظاهر یک طرف خاص) هنگام بازی تاس باشد.

مهندس آمریکایی آر. هارتلی (1928) فرآیند به دست آوردن اطلاعات را انتخاب یک پیام از یک مجموعه از پیش تعیین شده محدود می داند. نپیام های به همان اندازه محتمل و میزان اطلاعات من، موجود در پیام انتخاب شده، به عنوان لگاریتم باینری تعریف می شود ن.

فرض کنید باید یک عدد را از مجموعه اعداد یک تا صد حدس بزنید. طبق فرمول هارتلی من= ثبت 2 نشما می توانید محاسبه کنید که چه مقدار اطلاعات برای این مورد نیاز است: من= Iog 2 l00 = 6.644 بیت، یعنی. پیام در مورد یک عدد درست حدس زده شده حاوی مقداری اطلاعات تقریباً برابر با 6644 بیت است.

کلود شانون دانشمند آمریکایی در سال 1948 فرمول دیگری را برای تعیین مقدار اطلاعات با در نظر گرفتن احتمال نابرابر احتمالی پیام ها در یک مجموعه پیشنهاد کرد:

من = - (پ 1 لاگ 2 پ 1 + آر 2 لاگ 2 آر 2 + . . . + پ نثبت 2 پ ن),

جایی که P i- احتمال اینکه دقیقا منپیام -e در مجموعه انتخاب شده است نپیام ها.

اگر احتمالات پ 1 , آر 2 , …, پ نمساوی هستند، سپس هر یک از آنها برابر با 1/ نو فرمول شانون به فرمول هارتلی تبدیل می شود.

تجزیه و تحلیل فرمول نشان می دهد که هر چه احتمال یک رویداد بیشتر باشد، اطلاعات کمتری پس از وقوع آن ظاهر می شود و بالعکس. اگر احتمال 1 باشد (رویداد مسلم است)، مقدار اطلاعات 0 است.

اگر احتمال وقوع یا شکست هر رویدادی یکسان باشد، یعنی. برابر 1/2 است، سپس مقدار اطلاعاتی که این رویداد با خود حمل می کند برابر است با 1. این واحد اندازه گیری اطلاعات است که به آن می گویند. بیت.

بیت را می توان به عنوان مقدار اطلاعاتی که حاوی یک رقم از یک عدد باینری است نیز تعریف کرد (از این رو نام "بیت": رقم باینری است). بیتدر نظریه اطلاعات - مقدار اطلاعات, برای تمایز بین دو پیام با احتمال یکسان ضروری است.

مقدار اطلاعات برابر با 8 بیت نامیده می شود بایت. هشت بیت می تواند شامل 256 عدد صحیح مختلف باشد. اعداد باینریاز 00000000 تا 11111111. واحدهای مشتق شده بزرگتر اطلاعات به طور گسترده استفاده می شوند:

1 کیلوبایت (KB) = 1024 بایت.

1 مگابایت (MB) = 1024 کیلوبایت;

1 گیگابایت (گیگابایت) = 1024 مگابایت.

1 ترابایت (TB) = 1024 گیگابایت؛

1 پتابایت (PB) = 1024 ترابایت.