نظریّهٔ اطّلاعات مدلی ریاضی از شرایط و عوامل موثردر انتقال و پردازش دادهها و اطّلاعات فراهم میآورد. نظریه اطلاعات باارائه روشی جهت «کمّی سازی و اندازهگیری عددی اطلاعات» به موضوعاتی مانندارسال، دریافت، و ذخیرهسازی بهینهٔ دادهها و اطلاعات میپردازد. تمرکزاصلی این نظریه بر روی محدودیتهای بنیادین که در ارسال و تحلیل دادههاوجود دارد میباشد، و کمتر به نحوه عملکرد دستگاههای خاص میپردازد.پیدایش این نظریه عموماً به مهندس برقی به نام کلاود شانون در سال ۱۹۴۸میلادی نسبت داده میشود. نظریه اطلاعات مورد استفاده خاص مهندسین مخابراتبوده، هرچند برخی از مفاهیم آن در رشتههای دیگری مانند روانشناسی،زبانشناسی نیز مورد استفاده قرار گرفتهاست. مفهوم اطلاعاتی که توسطشانون مطالعه شد اطلاعات از دید آمار و احتمالات بوده و با مفاهیم روزمرهاز اطلاعات مانند «دانش» و یا استفادههای روزمره از آن در زبان طبیعیمانند «بازیابی اطلاعات»، «تحلیل اطلاعات»، «چهارراه اطلاعات» و غیرهتفاوت میدارد. اگر چه نظریه اطلاعات رشتههای دیگر مانند روان شناسی وفلسفه را تحت تأثیر قرار داده، ولی بدلیل مشکلات تبدیل «مفهوم آماریاطلاعات» به «مفهوم معنایی دانش و محتوا» تأثیراتش بیشتر از نوع القایاحساساتی نسبت به مفهوم اطلاعات بودهاست.

تاریخچه

خلقتلگراف و تلفن توجه و علاقه نسبت به مفهوم اطلاعات و انتقال آن را افزایشداد. در سال ۱۸۴۴ میلادی، ساموئل مورس[پانویس ۲] خط تلگرافی بین شهرهایواشنگتن و بالتیمور در آمریکا ساخت. مورس هنگام ارسال اطلاعات به مشکلاتعملی الکتریکی برخورد. او متوجه شد که خطوطی که از زیر زمین کشیده شدهاندمشکلات بیشتری از خطوطی که هوایی از طریق تیر منتقل میشوند دارند و اینخود زمینهای برای تحقیقات بعدی شد. با اختراع تلفن توسط الکساندر گراهامبل[پانویس ۳] در سال ۱۸۷۵ میلادی و گسترش شدید آن، برخی از دانشوران بهبررسی مشکلات انتقال اطلاعات پرداختند. اکثر این تحقیقات از تبدیل فوریهاستفاده جسته ولی تمرکز آنها بیشتر به جنبه عملی و مهندسی موضوع بود. [۱]

شروعتحقیق در مورد نظریه اطلاعات اولین بار در سال ۱۹۲۴ توسط هرینایکوئیست[پانویس ۴] در مقالهای به نام «عوامل خاصی که سرعت تلگراف راتحت تأثیر قرار میدهند»[پانویس ۵] انجام شد. نایکویست وجود نرخ ماکزیممارسال اطلاعات را متوجه شده و فرمولی جهت محاسبه این نرخ ماکزیمم ارائهکرد. کار مهم دیگر در این زمان مقاله «انتقال اطلاعات» در سال ۱۹۲۸ میلادیتوسط هارتلی[پانویس ۶] بود که اولین پایههای ریاضی نظریه اطلاعات را بناگذاشت.[۱]


تولد واقعی نظریه اطلاعات را به مقاله «نظریه ریاضیمخابرات»[پانویس ۷] توسط کلاود شانون نسبت داد. یکی از نکات اصلی مقالهشانون توجه به این نکته بود که بررسی سیگنالهای مخابراتی را باید ازبررسی معانی ای که آن سیگنالها حمل میکنند جدا کرد، در حالی که پیش ازاو اطلاعات موجود در یک سیگنال الکتریکی از پیغامی که آن سیگنال منتقلمیکند جدا در نظر گرفته نمیشد. شانون همچنین به این نکته توجه کرد کهطول یک سیگنال همیشه متناسب با میزان اطلاعات آن نیست. مثلاً نقل شدهاستکه در نامهای که ویکتور هوگو به ناشرش نوشت، فقط نماد «؟» را نوشته بود.در پاسخ نامهای دریافت کرد که فقط حاوی نماد «!» بود. این دو نماد برایهر دو طرف حاوی اطلاعات زیادی میباشد، هرچند از دید ناظری که معانی آنهارا نداند، بی معنی هستند. مثال دیگر این جملهای طولانی است که به زبانفارسی نوشته شده باشد، ولی برای یک انگلیسی زبانی که فارسی نمیداندمفهومی ندارد. بدین سان شانون پیشنهاد نمود که مسئله ارسال سیگنالها رااز ارسال معانی موجود در آنها جدا کرده، و برای موضوع اول نظریه ریاضی ایتولید نمود. [۱]

شانون در آن زمان در آزمایشگاه بل*[۳] مشغول بهکار بود و سعی در تعبیه خطوط تلفن با ضریب اعتماد بالا داشت. پیش از شانونعوامل موثر در استفاده بهینه از خطوط تلفن شناخته نشده بود و تعداد حداکثرمکالمات تلفنی که میتوان روی خطوط تلفن موجود انجام داد نامشخص بود.شانون پس از ارائه تعریفی ریاضی از کانال مخابراتی، ظرفیتی به کانالمخابراتی نسبت داد که بیانگر میزان حداکثر اطلاعاتی است که روی کانالمیتوان مخابره کرد. فرمول ظرفیت کانال شانون نه تنها به کانالهای بدوناغتشاش (بدون نویز)، بلکه حتی به کانالهای با اغتشاش واقعی نیز قابلاعمال بود. شانون فرمولی ارائه کرد که نحوه تاثیر پهنای باند کانال، ونسبت توان سیگنال ارسالی به اغتشاش (نسبت سیگنال به نویز) بر ظرفیت کانالرا را آشکار میکرد.

مفهوم اطلاعات و راههای اندازهگیری آن

مفهوماطلاعاتی که توسط شانون مطالعه شد اطلاعات از دید آمار و احتمالات بوده وبا مفاهیم روزمره از اطلاعات مانند «دانش» و یا استفادههای روزمره از آندر زبان طبیعی مانند «بازیابی اطلاعات»، «تحلیل اطلاعات»، «چهارراهاطلاعات» و غیره تفاوت میدارد. اگر چه نظریه اطلاعات رشتههای دیگر مانندروان شناسی و فلسفه را تحت تأثیر قرار داده، ولی بدلیل مشکلات تبدیل«مفهوم آماری اطلاعات» به «مفهوم معنایی دانش و محتوا» تأثیراتش بیشتر ازنوع القای احساساتی نسبت به مفهوم اطلاعات بودهاست. [۴]

آمار و احتمالات نقشی حیاتی و عمده در ظهور و رشد نظریه اطلاعات برعهده دارد.


قضایای شانون

دراین نظریه، کلاود شانون نحوهٔ مدلسازی مسئله ارسال اطلاعات در یک کانالمخابراتی را به صورت پایهای بررسی نموده، و مدل کاملی برای مدلسازیریاضی منبع اطلاعات، کانال ارسال اطلاعات و بازیابی آن ارائه نمودهاست.او مسالهٔ ارسال اطلاعات از یک منبع به یک مقصد را به کمک علم احتمالاتبررسی و تحلیل نمود. دو نتیجهٔ بسیار مهم، معروف به قضیههای شانون،عبارتاند از:

۱- حداقل میزان نرخی که میتوان نرخ فشرده کردناطلاعات یک منبع تصادفی اطلاعات را به آن محدود نمود برابر با آنتروپی آنمنبع است؛ به عبارت دیگر نمیتوان دنباله خروجی از یک منبع اطلاعات را باکمتر از آنتروپی آن منبع ارسال نمود.

۲- حداکثر میزان نرخی کهمیتوان بر روی یک کانال مخابراتی اطلاعات ارسال نمود به نحوی که قادر بهآشکارسازی اطلاعات در مقصد، با احتمال خطای در حد قابل قبول کم، باشیم،مقداری ثابت و وابسته به مشخصات کانال است، که به آن ظرفیت کانالمیگوئیم. ارسال با نرخی بیشتر از ظرفیت یک کانال روی آن منجر به خطامیشود.

این زمینه از علم مخابرات، به زیربخشهای کدگذاری منبع وکدگذاری کانال تقسیم میگردد. مباحث رمزنگاری مطرح شده توسط شانون نیز ازاین بنیان ریاضی بهره جستهاست. از زیر شاخههای مرتبط با آن میتواننظریه کدینگ جبری کانال را نام برد.


پی نوشت
↑ ۱٫۰ ۱٫۱ ۱٫۲ ۱٫۳ ۱٫۴ «information theory,» Encyclopædia Britannica
↑ SAYRE, KENNETH M. (1998). Information theory. In E. Craig (Ed.), Routledge Encyclopedia of Philosophy. London: Routledge.
↑ Bell Laboratories
↑ SAYRE, KENNETH M. (1998). Information theory. In E. Craig (Ed.), Routledge Encyclopedia of Philosophy. London: Routledge