بخشی از پاورپوینت
--- پاورپوینت شامل تصاویر میباشد ----
اسلاید 1 :
کدینگ : ( کد کردن منابع اطلاعات )
فرآیند یا پروسه ای است که خروجی یک منبع اطلاعات رابه یک دنباله ی
باینری تبدیل می کند
ورودی کد کننده ی منبع دنباله های سیمبل های تولید شده توسط منبع اطلاعات می باشد و کد کننده به قالب های سمبل ها .کلمات کد باینری با طول متغیر را نسبت داده و در خروجی خود یک دنباله ی باینری تولید میکند.
اسلاید 2 :
کد بهینه: کدی است که به طور یکتا و بدون ابهام قابل کشف است و متوسط طول کلمات کد حداقل باشد که از الگوریتم های متفاوت استفاده می کنیم . از جمله کد فانو- شانون که یک کد شبه بهینه و کد هافمن که یک کد بهینه است .
نامساوی کرافت : در روبه رو یک منبع نشان داده شده است:
اسلاید 3 :
ولی چون طول کلمات کد باید صحیح باشد پس :
این نامساوی نشان میدهد که هر چه احتمال وقوع پیام کمتر باشد طول کلمه ی کد متناظر با آن بیش تر می باشد و بر عکس .
کدهای بهینه و شبه بهینه : منبع رو به رو را در نظر بگیرید :
اسلاید 4 :
فرض میکنیم احتمال وقوع پیام ها به صورت
باشد . هم چنین پیام مرکب از N سمبل باشد . آنگاه می توان تعداد
متوسط بیت بر سیمبل به کار برده شده که با.
اسلاید 5 :
بهره ی کدینگ: از رابطه ی زیر محاسبه می گردد :
هر چه N بزرگتر باشد به یک نزدیک تر است .
اگر N به سمت بی نهایت میل کند به H نزدیک تر می شود .
وبهره ی کدینگ 1 می گردد. اما این امر یک مشکل عملی دارد. زیرا
زمان زیادی برای ارسال پیام های منبع می طلبد.
اسلاید 6 :
هدف : فرض کنید ورودی کد کننده یکی از q پیام منبع باشند. می خواهیم به
جای پیام iام یعنی یک کد باینری یکتا با طول متغیر جای گزین کنیم . که
هدف محاسبه ی و برای i=1,….,q می باشد.
مراحل روش کد فانو – شانون :
1-سیمبل ها را به ترتیب احتمال می نویسیم :
اسلاید 7 :
2-طول کلمه ی کد i ام است با به طوری که
بنا بر این در مر حله ی دوم طول کلمات کد را برای تمام پیام ها محاسبه می کنیم.
3- محاسبه ی برای تمام پیام ها با استفاده از رابطه ی زیر :
اسلاید 8 :
4- کلمه ی کد i ام یعنی بسط باینری است تا رقم .
خواص الگوریتم فانو-شانون :
1- طول کلمه ی کد با احتمال وقوع پیام نسبت عکس دارد .
2-کلمه ی کد i ام یعنی حد اقل در یک بیت با سایر کلمات کد که بعد از آن می آیند
اختلاف خواهند داشت. بنابر این پیام ها به طور یکتا قابل کشف خواهند بود.
اسلاید 9 :
3- تعداد متوسط بیت بر سیمبل که توسط کد کننده به کار می رود در رابطه ی زیر صدق می کند :
که از فرمول گفته شده محاسبه می شود و بیانگر اطلاعات موجود در هر سیمبل می
باشد .
اسلاید 10 :
همان طور که در مثال بالا نشان داده شده است عدد در مبنای 10 را در 2 ضرب کرده . و به
صورت حاصل جمع قسمت اعشار و صحیح می نویسیم . سپس قسمت اعشار را دوباره در 2
ضرب کرده و عینا مرحله بالا را تکرار می کنیم . قسمت صحیح از بالا به پایین بسط باینری را
تشکیل می دهد .
تمام مراحل گفته شده در الگوریتم فانو- شانون در مثال زیر توضیح داده می شود .
