بخشی از مقاله
چکیده
پژوهشهای اخیر مزایای سرعت استفاده از ماشینهای یادگیری شدید - ELM - را در حوزه دسته بندی تصویر نشان داده است. اما به طور کلی ELM به مقاوم نبودن در برار نویز معروف است، برای بالا بردن کارایی دسته بندی، ما یک روش ترکیبی برای کاهش نویز، کاهش حجم دادهها و بهرهبرداری از مزایای سرعت ELM پیشنهاد میکنیم. برای رسیدن به این تکامل از یک روش استخراج ویژگی به نام اتوانکدر بهره میگیریم، به طور دقیقتر روش پیشنهادی شامل دو مرحله است. نخست، ابعاد دادههای موردنظر با استفاده از اتوانکدر کاهش داده میشود، سپس دادههای بدست آمده برای دسته بندی در اختیار یک شبکه ELM قرار میگیرند، به این ترتیب میتوان بار محاسباتی ELM را کاهش داد. آزمایشهای گسترده بر روی طبقه بندی دست نوشتههای رقمی، بهطور واضح کارایی دسته بندی ترکیبی پیشنهادی را برحسب دقت و NMI نشان میدهد.
واژگان کلیدی: دسته بندی تصویر، کاهش بعد، اتوانکدر، ماشین یادگیری شدید . - ELM -
-1 مقدمه
دسته بندی تصویر با هدف نسبت دادن خودکار یک رده خاص به تصویر ورودی، تا کنون توجه زیادی از پژوهشهای اخیر را در حوزههای سیستمهای امنیتی، بیو انفورماتیک، تعامل انسان و رایانه، تشخیص پزشکی و سایر کاربردها - Bai, 2015; - Chen, 2014; Han, 2015; Wang, 2014; Zhu, 2016 به خود معطوف کرده است.پژوهشهای گذشته مزیتهای سرعت استفاده از ماشین یادگیری شدید - ELM - 1 را در حوزه دسته بندی تصویر نشان داده است. اما به طور کلی ELM به مقاوم نبودن در برار نویز معروف است و توانایی تشخیص دادههای بیتاثیر در دسته یندی را ندارد، برای بالا بردن کارایی دسته بندی، ما یک روش ترکیبی برای کاهش نویز، کاهش حجم دادهها و بهرهبرداری از مزیتهای سرعت ELM پیشنهاد میکنیم.
ما برای رسیدن به این تکامل از یک روش استخراج ویژگی به نام اتوانکدر - AE - 2 استفاده میکنیم، به طور دقیقتر روش پیشنهادی ابتدا ابعاد دادههای موردنظر را با استفاده از اتوانکدر کاهش داده و ضمن حذف دادههای اضافی، دادههایی را که اهمیت بیشتری برای دسته بندی دارند، انتخاب میکند. با این کار یک مجموعه داده جدید ایجاد میشود که دارای حجم و نویز کمتری است. سپس دادههای بدست آمده را برای دسته بندی در اختیار یک شبکه ELM قرار میدهیم، به این ترتیب میتوان بار محاسباتی ELM را کاهش داد. که در نتیجه سرعت و دقت دسته بندی ELM بهبود مییابد. نتایج تجربی نشان داد، کارایی دسته بندی پیشنهادی برای دست نوشته های رقمی بهصورت واضح باعث بهبود آن در شرایط عادی میشود.
-2 روش پیشنهادی
1؛-2 ماشین یادگیری شدید - ELM -
ELM در اصل برای شبکه عصبی پیشخور با یک لایه پنهان - SLFNs - 3 پیشنهاد شده بود و سپس بهطور کلی برای شبکههای پیشخور توسعه یافت. شایستگی قابل توجه ELM نسبت دادن تصادفی پارامترهای لایه پنهان است که به موجب آن فقط نیاز به تعیین وزنهای خروجی میباشد.برای یک مجموعه داده آموزشی با نمونه، کلاس، شبکه عصبی پیشخور باگره پنهان و تابع فعالسازی به صورت - 1 - میباشد.به طوری که وبه ترتیب ورودی و خروجی موردنظر، وزنهای متصل لایه پنهان i ام به نرونهای ورودی و bias گره پنهان i ام میباشند و وزنهای نرون مخفی متصل به نرونهای خروجی وخروجی واقعی شبکه با توجه به ورودی هستند.به عنوان پارامترهای مخفی میتوانند تنظیم نشوند و در هنگام آموزش تولید شوند. هدف ELM رسید به مدلی است که در ادامه باعث به حداقل رسیدن خطای میانگین ومیشود.در اینجا H، ماتریس خروجی لایه پنهان نامیده میشود . - Huang, 2006 -
درحالی که ماتریس وزن خروجی میباشد.فرمول در واقع حداقل خطای مربعات است که راهحل آن میتواند به صورت که شبه معکوس H باشد.به طور کلی ELM برای مساله دسته بندی از پرچسب رمزگذاری یک در مقابل همه - OAA - 4 برای انتقال مساله چند کلاسی به رگرسیون تابع چند خروجی استفاده میکند. پس محاسبه خروجی واقعی برای نمونهها، برچسب پیش بینی شده با مقدار خروجی واقعی به دست آمده جایگزین میشود، شبهکد الگوریتم ELM در جدول 1 نمایش داده شده است.برای حل مشکل بیثباتی عددی شبه معکوس، رگراسیون خطالراس شناخته شده یا حداقل مربعات منظم به صورت - 4 - استفاده میشود . - Heeswijk, 2015 -
