مقاله رگرسیون پواسن غیرخطی بر اساس شبکهی عصبی تابع پایه شعاعی

بخشی از مقاله

چكیده

در این مقاله، مدلسازی رگرسیون پواسن غیرخطی با استفاده از شبکهی عصبی تاابع پایه شعاعی و روش منظمسازی مطالعه و بررسی میشود. موضوعات اصلی در ایان واو مدلسازی، تعیین ساختار توابع پایه، اوتخاب تعداد توابع پایه و پارامتر منظم-سازی است. به منظور ارزیابی مدل آماری ساخته شده، مالک اطال بکار برده میشود. با استفاده از دادههای شبیه سازی شده، در حالت خطی و غیرخطی، عملکرد مدلهاای رگرسیووی شبکهی عصبی و رگرسیون پواسن خطی مقایسه میشود. وتایج شبیهسازی حاکی از آن است که مدلهای رگرسیون پواسن، در حالت خطی خوب عمل میکنند ولی در حالت غیرخطی، مدلهای شبکهی عصبی بهتر عمل مایومایناد و تواواایی پای بینای بهتاری دارود.

كلمات كلیدي:مدل خطی تعمیمیافته، رگرسیون پواسن، مالک اطال ، منظمسازی

-1 مقدمه

انتخاب روش مناسب ببرای مبد سبازی و تحلیل دادهها، بر اساس نبو دادههبای موجود، بسیار مهم اسب. امبا انتخباب مببد مناسب بببرای بی بینببی، تبباب مفروضاتی اس. که از آنهبا ببه ونبوانی فرضهای مد یاد میشود در ومبل در بسیاری مواق ، این ی فرضهبا برقبرار نیستند و یا بررسی آنها دشبوار و یبا غیرممکن اس. در چنین وضعی.هایی باید از روشهببای جببایگاین اسببتفاده نمببود مجمووهای از روشهای جایگاین، روشهبای مبتنی بر شبکههای وصبی مصبنووی اسب.این شبکهها در مد سازی غیرخطبی داده-هایی با ساختار یچیده و چندبعدی، در چند دههی اخیر بسیار مورد توجه قبرار گرفتهاند برای مروری ببر بهوه هبای آماری در زمینه شبکههای وصبی مصبنووی میتوان به مقالبه طباهری [2] و ببرای چند هوه جدید در این زمینه به ترک-زاده و ولیمبببرادی [3] و بیگلریبببان و همکبباران [1]

اشبباره نمببود فبب و همکاران [9] نیا شببکه وصببی را ببرایی بینی اسخهای شمارشی بکار بردنبد یو و همکاران [14] شببکهی وصببی تباب ایببه شببعاوی 1 - RBF - را یببج جببایگاین مناس نسب. به رسپترون چندالیه معرفی کردند محمد حسن احمد و همکباران [13] نیا با بکار ببردن الگبوریتم جسبتجوی هماهنگ 2 - HSA - ، یبادگیری ارامترهبای شبکهی وصبی RBF را باال بردندشبکهی RBF با روش یبادگیری ترکیببی، که یادگیری باناظر و خودسبازمانده راشامل میشود، یکی از انوا شبکهها ببا ساختار غیرخطی اسب. مبد هبای شببکهی RBF که با روش منظمسازی ببرآورد مبی-شوند دارای ماایایی نسب. به رسپترون چندالیه میباشند که از آن جمله میتوان همگرایی سری را نام برد - برای جائیات بیشتر به بیشاپ [9] مراجعه شود - ولبی مشکلی که در این شببکههبا وجبود دارد چگببونگی تعیببین ارامترهببای شبببکه وارامتر منظمسازی اس.  مودی و دارکبن [12]

 یادگیری ترکیبی شبیوهی غیرنباظر 3 - شیوهای که در آمبوزش شببکه تنهبا از متغیرهای توضبیحی اسبتفاده مبیکنبد - ، ارامترهای شبکه را برآورد مبی کنبد در نتیجببه اط وببات خروجببی، در رونببد آموزش شبکه بکبار نمبیرود  از مشبک ت دیگر این روش، چگونگی انتخباب تعبداد تواب ایه و مقبدار مناسب بارامتر منظمسازی است. برای رفب  ایبن مشبک ت آنببدو و همکبباران [5,6]  اسببتفاده از تواب   ایه همراه با یج کمیب. موسبوم به فوق ارامتر را  یشنهاد نموند، به-طوریکه این فبوق بارامتر میباان هبم-وشانی توابایه را کنتر میکند از  سوی  دیگر  در  بسیاری  از زمینه-های کاربردی رگرسیونواسن موردنظرو  توجه اس.این کاربردها وقتی ی میآیندکه مقادیر متغیر  اسخ مقادیر صحیح نامنفی 0،1، باشند در نتیجه هر دیده تصادفی -  با برقراری فرضهایمعینی - که نووی شمارش در آن مطر باشد، قابل مد بندی به وسیله توزی واسن است.

نمونههایی از این نو متغیر وبارتند از: تعداد تصادفات رانندگی منجر به مرگ در هفته در شهری خاص، تعداد تماسهای تلفنی وارده به مرکا تلفن یج موسسه بارگ در هر ساو.، تعداد ذرات رادیواکتیو که در واحدزمان از مادهای ساط میشوند وتعداد زدگیهادر  واحدطو دیج توپ سیم  مد رگرسیون واسن دارای یج  یشگوکننده خطی اس. که به صورت ترکی  خطی تعریف میشود به منظور وارد کردن اثرات متقابل و اثرات غیرخطی در مد ، برخی از این متغیرها میتوانند به صورت تابعی ازمتغیرهای دیگر باشندبه عنوان مثال ب ترتی  اثرمتقابل  ⁡ 2 - و - 3⁡ و اثرغیرخطی2  را درمد نشان میدهند در مد های رگرسیون واسن بایشگوکننده خطی، اثرات  غیرخطی بین متغیرها در نظر گرفته نمیشود همچنین هیچ اط وی در مورد نوتاب مناس کهباید بکار برده شود،وجود ندارد.

درصورتیکه شبکههای وصبی به ول. قدرت، انعطاف ذیری و سهول. استفادهشان، اباار برتر در بسیاری از کاربردهای مربوط به فرآیندهای دستهبندی وشناسایی الگو،ی بینی ومد سازی می-باشند بهطوریکه در بسیاری ازکاربردها،  شبکههای وصبی قابلی. ی -بینی بهتری را درمقایسه باروشهایک سیج آماری  نشان دادهاند بر همیناساس در مقاله حاضر، روند الگوسازی رگرسیون واسن غیرخطی با استفاده از شبکهی RBF بر اساس مقالههای آندو وهمکاران [5,6]، معرفی و بررسی میشود سپس بااستفادهاز م کیشنهاد شده توسط کونیشی  [10]  الگوی  آماری  ساخته  شده، مورد ارزیابی قرار میگیرد  در انتها وملکرد  این  مد   با  وملکرد  رگرسیون واسن  بر  اساس  دادههای شبیهسازی  شده،مقایسه میشود.

-2 روشها

-1-2 شبکهی عصبی تابع پایه شعاعی

شبکهی وصبی RBF، یج رده از شببکههبای ی خور با یج الیه میبانی از نبرونهبا اس. یعنی رابطههای درون شبکه از الیه ورودی بببه الیببه خروجببی بببدون هببیچ بازگشتی، به جلو جریبان دارد شببکهی وصبی RBF ترکی خطبی از توابب ایبه غیرخطی گوسی اس. که بهصورت زیر تعریف میشود:

-2-2 رگرسیون پواسن

رگرسیون واسن ساختاری اس. کبه در آن متغیر اسبخ، مشباهدات یبج توزیب واسن هسبتند توزیب احتمبا واسبنغیرخطی و یا حتی اثبرات متقاببل ببین متغیرهای توضبیحی را مشبخن نمبیکنبد بنابراین با توجه به آزاد توزی بودن شبکههای وصبی، رگرسیون واسن غیرخطبی بر اساس شبکهی RBF به ونوان بسبطی از مد های خطی تعمبیمیافتبه 4 - GLM - ، کبه توسط گبرین و سبیلورمن [8] بیبان شبده است.          

-3-2 برآورد پارامترهای مدل

در فرآیند ببرازش مبد هبای رگرسبیونی غیرخطی شبکهی وصبی RBF بر روی داده-های مورد بررسی، ارامترهای شبکه RBF در رابطه - 1 - ، طی دو گام ببرآورد مبی-شوند در گام او ، تواب ایه تنهبابببا اسببتفاده از مجمووببه دادهی ورودی تعیببین مببیشببوند در ایببن مرحلببه از آموزش، الگوریتم خوشهای – K میانگین استفاده میشود این الگوریتم مجمووبه دادهی ورودی { 1, 2, … , } را به m خوشبهکه منطبب  ببا تعبداد تواببایه اسب. تقسبیم مبیکنبد بنبابراین ارامترهای مرکبا و هنبای هبر تباب ایه ببه ترتیب میبانگین و واریبانسنمونهای هر خوشه میباشند کبه در زیبر داده شده اس.:که در آن تعداد مشاهداتی اس. که به jامین خوشه، Aj، تعل دارددر گام دوم، ارامترهای مجهو وزن با بیشینهسازی لگباریتم درسبتنماییجریمهای برآورد میشوند ببا اسبتفاده از رابطه - 6 - داریم:  که در آن λ  ارامتر منظمسازی و φ یبج ماتریس نیمه معین مثبب. معلبوم اسب. تاب  لگاریتم درستنمایی جریمهای   - - ، یج تاب  غیرخطی بر حس   ارامتر مجهو اسبب.  ببببهمنظببور ببببرآورد ایبببن ارامترها، الگبوریتم فیشبر  یشبنهاد شده اسب.  جاییبات بیشبتر در آنبدو وهمکاران [6] مطر  شده است.

-4-2 مالک اطال

با تعیین تواب ایه و وزنهای شببکه،مد  آماری ساخته شده به وسیله مبنظم-سازی بدس. میآیبد مسباله باقیمانبدهتعیین فوق ارامتر  υ، بارامتر مبنظم-سازی λ و تعداد تواب ایهی m  اس. که برای این منظور م ک اط بهکار ببرده میشود  م ک اط ، به ونوان برآوردگری از اندازه کولبج –  لیبلر 5 [11]  اس. که اخت ف اط میبان مبد واقعبی و مبدبرازش شده را میسنجد آندو و همکاران [6]  م ک اط را برای ارزیابی مبدرگرسبیون واسبن شببکهی وصبی RBF  ببا اسبتفاده از روش مبنظم-سازی، بهصورت زیر یشنهاد دادند: