دانلود مقاله شبکه‌های عصبی

بخشی از مقاله

فصل اول : مقدمه
1-1 پيشگفتار
انرژي الكتريكي به عنوان محور اصلي توسعه صنعتي در ميان انواع انرژي از اهميت خاصي برخوردار است. اين انرژي با آنكه خود به انواع ديگر انرژي وابستگي دارد، اتكا شاخه‌هاي مختلف اقتصادي به آن در حدي است كه براحتي مي‌توان حد مصرف معقول اين انرژي در يك جامعه را به عنوان شاخص عمده‌اي براي تعيين حد پيشرفت اقتصادي آن جامعه دانست.

بر خلاف سهولت استفاده از اين نوع انرژي و مطلوبيت آن، توليد و انتقال اين انرژي از پيچيدگي زيادي برخوردار بوده و در مجموع صنعت برق با ويژگي‌هايي در ميان ساير صنايع شاخص است، از جمله اين ويژگي‌ها بايد از لزوم همزماني توليد و مصرف آن نام برد، به عبارت ديگر توليد برق فقط در مقابل مصرف آن مطرح مي‌گردد و بطور معمول قابل ذخيره كردن نيست. ديگر ويژگي اين صنعت سرمايه طلب بودن طرح‌ها و پروژه‌هاي آن و زمان بر بودن آنها است.

مجموعه اين خصوصيات و حساسيت‌ها است كه پيش‌بيني صحيح نياز مصرف براي اين نوع انرژي در آينده را طلب مي‌نمايد. چون هرگاه پيش‌بيني نياز مصرف يا بار شبكه بيش از حد واقعي باشد، سرمايه‌ گذاري بيهوده در اين صنعت را بدنبال خواهد داشت و هر پيش بيني بار كمتر از واقعيت باعث لطمات شديد اقتصادي شده و جبران آن به مناسبت زمان بر بودن پروژه‌هاي توسعه‌اي امكانات توليد و انتقال برق، غير ممكن است.

انرژي الكتريكي در مقياس وسيع به طور اقتصادي قابل ذخيره نمي‌باشد. بدين دليل بر خلاف شاخه‌هاي ديگر اقتصاد، در اقتصاد الكتريسيته بايد همزمان با مصرف، انرژي الكتريكي توليد گردد. ميزان مصرف بار الكتريكي ثابت نمي‌باشد بلكه به صورت پيچيده و غير خطي تابعي از پارامترهاي متعددي مي‌باشد. با توجه به متغيير بودن ميزان مصرف بار الكتريكي، شركتهاي توليد كننده برق، موظفند با پيش بيني آن در زمانبندي‌هاي مختلف اطلاعات مورد نياز براي تصميم‌گيريهاي خود در سيستم قدرت را حاصل نمايد.

در دنياي خصوصي سازي جديد هر شركت سعي در افزايش قابليت اطمينان محصول خود و توليد بهينه توان براي مصرف كنندگان خود دارد. اين وظيفه عموماً از طريق پيش بيني فراهم مي‌شود. پيش بيني بارهاي ساعتي تا يك هفته جلوتر براي كارهاي برنامه‌ريزي از قبيل هماهنگي بين واحدهاي آبي و حرارتي و سنجش تبادل با ديگر رقبا و براي آناليزهاي كوتاه مدت از قبيل پخش توان در مراكز ديسپاچينگ و پخش بهينه توان لازم است. به طور كلي پيش بيني بار بر اساس دوره پيش بيني به دسته‌هايي تقسيم مي‌شود :

- برنامه ‌ريزي بسيار كوتاه مدت (چند دقيقه تا چندين ساعت) : برنامه ريزي بسيار كوتاه مدت اطلاعات مورد نياز در پخش بار اقتصادي و تخمين اطمينان را تأمين مي‌نمايد. همچنين پيش بيني بسيار كوتاه مدت (چند دقيقه تا چند ساعت) براي زمانبندي تعويض قدرت بين شركتها و مطالعه تحميلات انتقال مفيد مي‌باشد.
- برنامه ‌ريزي كوتاه مدت (يك روز تا يك هفته) : برنامه ريزي كوتاه مدت براي برنامه ريزي روزانه و هفتگي، در مدار قرار گرفتن بهينه نيروگاهها (بهينه سازي ولتاژ/ توان راكتيو، برنامه‌ريزي براي انرژي رزرو مورد نياز، زمان بهره‌برداري پمپي از نيروگاه‌هاي پمپ ذخيره‌اي) و تبادل انرژي با شركا استفاده مي‌شود.

- برنامه‌ريزي ميان مدت (1 ماه تا 5 سال) : در برنامه‌ريزي ميان مدت، با در نظر گرفتن توان و تركيب نيروگاههاي موجود، ميزان ذخيره سوخت، ميزان ذخيره آب مخزنها، در مورد نحوه و زمان بكارگيري نيروگاههاي حرارتي و آبي، تهيه سوخت، ميزان تبادل انرژي الكتريكي با سيستم‌هاي همسايه در سيستم‌هاي بهم پيوسته، زمان‌بندي بهينه براي بازرسي و تعميرات نيروگاهها و شبكه تصميم‌گيري مي‌شود.

- برنامه ريزي بلند مدت (5 تا 30 سال): در برنامه ريزي بلند مدت با در نظر گرفتن توان و تركيب و طول عمر نيروگاههاي موجود، توانايي شبكه انتقال و توزيع، قراردادهاي بلند مدت براي تبادل انرژي الكتريكي با سيستم‌هاي مجاور (كشورهاي همسايه) در سيستم‌هاي بهم پيوسته، در مورد نوع، اندازه و محل احداث نيروگاه‌هاي جديد، نحوه گسترش شبكه، بستن و يا تجديد نظر در قراردادها و ... تصميم‌گيري مي‌شود.

بار در يك شبكه برقرساني به مجموع مصارف مختلف انرژي الكتريكي در يك واحد زماني اتلاق مي‌گردد. بار شبكه به مناسب همزماني و غير همزماني مصرف انرژي در بخش‌هاي مختلف دستخوش تغييراتي در طول شبانه روز، هفته، ماه و سال مي‌گردد.

اگر به يك منحني تغييرات بار بيست‌و چهار ساعته در الگوي مصرف انرژي الكتريكي ايران توجه كنيم ملاحظه مي‌شود كه منحني از يك حداقل غير صفر شروع مي‌شود و پس از عبور از آن، با يك شيب نسبتاً تند به سمت كوهان دوم كه بزرگتر از كوهان اول است ميل نموده، پس از گذر از آن دوباره به سمت حداقل ميل مي‌كند. بايد توجه داشت كه ظهور اين دو كوهان ناشي از همزماني مصرف انرژي الكتريكي بخشهاي مختلف مصرف در طول يك شبانه‌روز است. جالب توجه است كه منحني تغييرات بار در طول ماه و سال نيز تقريباً روند مشابهي با تغييرات بار بيست و چهار ساعته دارد. در مطالعه بار بخصوص در پيش بيني بار اعم از پيش‌بيني بار ساعتي روزانه جهت تنظيم برنامه بهره‌برداري از نيروگاهها تا بار ماههاي سال براي تنظيم برنامه تعميرات منظم و دوره‌اي و بارهاي سالهاي آينده براي برنامه‌ريزي توسعه‌اي اين متغيرها و عوامل مؤثر در پيدايش آنها مورد توجه قرار مي‌گيرد.

منحني مصرف براي مصرف كننده كاملاً تصادفي و غير مشخص بوده وقابل پيش‌بيني نيست و از سوي ديگر، هر مجموعه خاص از مصرف كننده‌ها منحني مصرف مخصوص به خود را دارا است، همچنين مصرف بار الكتريكي تابعي كاملاً غير خطي و بسيار پيچيده از پارامترهايي از جمله شرايط آب و هوايي، شرايط اقتصادي، زمان و عوامل تصادفي مي‌باشد. همچنين تقريباً هر روز هفته منحني خاص خود را دارد. لذا مدل مورد نظر بايد توانايي اين كار راد اشته باشد كه اثر تمامي اين عوامل را بر منحني مصرف در نظر بگيرد، همچنين بايستي خطاي پيش بيني تا حدامكان كم باشد، از طرفي داراي ساختاري ساده باشد و در كوتاهترين زمان ممكن به جواب نهايي برسد، و از همه مهمتر اينكه استفاده از آن براي برنامه‌ريزان و اپراتورها ساده باشد. لذا با توجه به اهميت پيش بيني بار كوتاه مدت و خواصي كه براي يك برنامه ريزان و اپراتورها ساده باشد. لذا با توجه به اهميت پيش بيني بار كوتاه مدت و خواصي كه براي يك برنامه پيش‌بيني بار بر شمرديم، روشهاي مختلفي در اين زمينه ارائه شده است كه هر يك به نوعي داراي برخي كاستي‌ها (و بخصوص در پيش بيني روزهاي تعطيل) بودند، با وارد شدن شبكه‌هاي عصبي در اين عرصه تقريباً تمامي مدلها وروشهاي قبلي كنار گذاشته شد، چراكه اين شبكه‌ها داراي توانايي‌هاي بسيار زيادي رد بيان روابط غير خطي مي‌باشند. در شكل صفحه بعد موارد استفاده پيش‌بيني بار كوتاه مدت آمده است.
شكل 1-1 موارد استفاده پيش بيني بار كوتاه مدت
1-2- تاريخچه پيش بيني بار
پيش بيني كوتاه مدت بار در شبكه‌هاي قدرت از ديرباز مورد توجه قرار گرفته است. اتخاذ تصميم در مديريت انرژي، در مدار قرارگيري نيروگاهها، بررسي پخش بار اقتصادي، تحليل قابليت اطمينان سيستم و برنامه‌ريزي تعمير و نگهداري و نيروگاهها، همگي نيازمند پيش بيني بار در بازه‌هاي زماني مختلف مي‌باشد. در گذشته روشهاي متعدد آماري مورد استفاده قرار مي‌گرفت، ك هاز آن جمله مي‌توان به روش هموار سازي نمايي، روش باكس جنكيز، روش تخمين حالت، سريهاي زماني و فيلتر كالمن اشاره نمود. اين روشها عموماً براي روزهاي عادي مؤثر بوده و براي روزهاي خاص سال قابل اعتماد نيستند. به همين خاطر در بعضي كشورها اپراتورهاي با تجربه، پيشگويي را با قوانين منطقي خود انجام داده و يا با استفاده از تجربه، نتايج روشهاي آماري را تصحيح مي‌كنند.
با پيشرفت تكنولوژي رايانه، كاربرد حافظه وسيع‌تر و همچنين افزايش سرعت دسترسي به اطلاعات و انجام محاسبات پيچيده‌تر ميسر گرديده و در دو دهه اخير تكنيكهاي هوش مصنوعي مورد توجه قرار گرفته است. از سال 1988 به بعد، مقالاتي در پيش بيني بار كوتاه مدت مشاهده مي‌گردد، كه در آن مدل رياضي به ندرت به چشم مي‌خورد و پيش بيني تنها از طريق تحليل اطلاعات گذشته و ادغام تجربيات اپراتورها صورت مي‌گيرد.

با ورود شبكه‌هاي عصبي به مقوله پيش بيني بار كوتاه مدت در سال 1991 توسط Yangm,HSU و Park و همكارانش، زمينه ابطال روشهاي رياضي قبل تقريباً به طور كلي فراهم گرديد.

1-3 رئوس مطالب
فصل جاري حاوي مقدمه و تاريخچه پيش بيني بار كوتاه مدت و همچنين رئوس مطالب پايان نامه مي‌باشد. در فصل دوم روشهاي قديمي پيش بيني بار كوتاه مدت ذكر شده و مهمترين آنها را كه بيش از سايرين استفاده مي‌شدند، توضيح داده‌ايم. در فصل سوم مباني شبكه‌هاي عصبي و شيوه‌هاي آموزش اين شبكه‌هاي آمده‌است. با توجه به اهميت و نقش پارامترهاي ورودي در آموزش يك شبكه عصبي، در فصل چهار با جمع‌بندي كاراي انجام شده قبلي در اين زمينه به همراه مهمترين متغييرهاي ورودي آنها آمده است و در فصل پنجم نيز كاربرد شبكه‌هاي عصبي در پيش بيني كوتاه مدت بار آمده است و در ادامه نتايج كلي و پيشنهاداتي براي انجام كارهاي بعدي آمده است.

فصل 2
كليات روشهاي پيش بيني بار كوتاه مدت

2-1 انواع پيش بيني بار
2-1-1 پيش بيني بر اساس مقياس زماني
روشهاي پيش بيني بار را بر اساس مقياس زماني بكار برده شده همانگونه كه گفته شد مي‌توان به سه دسته تقسيم كرد :
1) پيش بيني كوتاه مدت از يك ساعت تا يك هفته كه در كنترل اتوماتيك و بهره‌برداري روزانه و لحظه به لحظه از سيستم استفاده دارد.
2) پيش بيني ميان مدت بار كه تا دو سال را در بر مي‌گيرد، در برنامه‌ريزي مسائل سوخت و تهيه برنامه‌‌هاي نگهداري و سرويس واحدهاي توليد شبكه بكار گرفته مي‌شود.

3) پيش بيني بلند مدت بار كه مربوط به پنج سال و بيش از آن است، در جهت گسترش سيستم و طراحي سيستم‌هاي جديد استفاده مي‌شود.
2-1-2 پيش بيني بر اساس نحوه عملكرد

از نظر شيوه عملكرد، كليه الگوريتم‌ها به دو دسته تقسيم مي‌شوند : online , offline :
طريقه online در بهره‌برداري لحظه به لحظه از سيستم قدرت و ينز بار گذاري اقتصادي نيروگاههاي سيستم مورد استفاده قرار مي‌گيرد.
طريقه offline در جهت برنامه ريزي نيروگاههاي بخاري و گازي استفاده مي‌شود.
2-2 الگوي بارو عوامل مؤثر بر آن در سيستم قدرت

مجموع بار تمامي مصرف كننده‌ها به اضافه تلفات شبكه، كل بار سيستم ر ا تشكيل مي‌دهد. منحني مصرف براي مصرف كننده‌ها تا حدودي تصادفي و غيرمشخص بوده و به درستي قابل پيش بيني نيست و از سوي ديگر، هر مجموعه خاص از مصرف كننده‌ها منحني مصرف مخصوص به خود را دارا است و به همين دليل با استفاد هاز هر يك از مصرف كننده‌ها نمي‌توان به بار كل سيستم دست يافت. اما با وجود همه اين شرايط همه مصرف كننده‌ها مجموعاً يكر وند و الگوي كلي ارائه مي‌دهند كه مي‌توان آن راب ا روشهاي آماري پيش بيني كرد.
عوامل مؤثر بر منحني مصرف را مي‌توان به چهار دسته تقسيم كرد كه در زير به توضيح هر يك مي‌پردازيم :
2-2-1 عوامل اقتصادي

عوامل اقتصادي، شامل سطح فعاليت‌هاي كشاورزي و صنعتي، ميزان رشد جمعيت و رشد اقتصادي منطقه (براي پيش‌بيني‌هاي ميان مدت و بلند مدت)
2-2-2 عوامل اقليمي

عوامل اقليمي كه موجب مي‌شود منحني مصرف برق مربوط به دستگاه‌هاي گرم كننده و سرد كننده تغيير كند. عواملي چون درجه حرارت، رطوبت هوا و سرعت وزش باد از مهمترين عوامل اقليمي مي‌باشند كه در زير به توضيح مختصري از هر يك مي‌پردازيم :
2-2-2-1 درجه حرارت

دماي خشك بر روي مصرف انرژي ساعتي و همچنين مصرف زمان پيك تأثير زيادي مي‌گذارد، اين اثر ابتدا باعث تغيير متوسط منحني مصرف مي‌گردد، به طوري كه مقدار متوسط الگوي بار يك روز گرم در تابستان بالاتر از يك روز سردتر قرار مي‌گيرد و عكس اين موضوع در زمستان مصداق پيدا مي‌كند.

2-2-2-2- رطوبت
ميزان رطوبت هوا باعث تغيير دماي مرطوب هوا و تغيير در احساس گرما توسط انسان مي‌شود. اين اثر در تابستان و بخصوص در نواحي شمالي و جنوب كشور كه اصطلاحاً داراي آب و هوايي شرجي هستند اثر قابل توجهي بر روي ميزان مصرف بار مي‌گذارد.
2-2-2-3 سرعت باد
باد در تابستان باعث خنك‌تر شدن هوا و در نتيجه كاهش ميزان مصرف مي‌شود و در زمستان نيز منجر به افزايش شدت سردي و درپي آن ازدياد مصرف مي‌گردد.
2-2-3 عامل زمانچ

عامل زمان كه در برگيرنده تغييرات فصلي مانند گشايش مراكز آموزشي، تغيير ساعات كار، تعطيلات ساليانه و از اين قبيل تغييرات مي‌باشد. همچنين تعطيلات آخرهفته و روزهاي تعطيل پيش بيني شده نيز از جمله اين عوامل محسوب مي‌شوند.
2-2-4 عوامل تصادفي

عوامل تصادفي،‌به عنوان مثال صنايع فولاد و نورد و ذوب آهن نوسانات شديد و غير قابل كنترل دارند. مشخص نبودن ساعت دقيق كار كرد اين قبيل صنايع موجب مي‌شود منحني مصرف آنها شكل تصادفي به خود بگيرد. همچنين طوفان، ساعقه، پخش برنامه‌هاي خاص تلويزيون كه داراي مصرف مشخص نيستند، و رويدادهاي مهم ورزشي را مي‌توان از اين قبيل عوامل تصادفي دانست.

آنچه مسلم است اينكه، اگر همه عوامل فوق را در پيش‌بيني بار در نظر بگيريم، به يك پيش گويي خارق‌العاده دست يافته‌ايم، اما آشكارا مي‌توان فهميد كه امكان چنين امري بسيار بعيد مي‌باشد.

2-3 روشهاي پيش بيني بار كوتاه مدت
 روشهاي قديمي و مبتني بر روابط پيچيده رياضي
 روشهاي جديد و مبتني بر الگوريتم‌هاي هوشمند
2-3-1 روشهاي قديمي پيش بيني بار كوتاه مدت
2-3-1-1 روشهاي مبتني بر بار پيك

اين روشها از مدلهايي استفاده مي‌كنند كه قادرند مقدار حداكثر بار روزانه و نه زمان وقوع آنرا برآورد كنند. اين روشها از ابتدايي ترين روشهاي پيش بيني بار هستند كه طبق رابطه زير مقدار پيك بار را پيش‌بيني مي‌كنند.
2-1
كه در اين رابطه PB مقدار بار پايه آنروز را نشان مي‌دهد كه به آب و هوا حساس نيست و PW بيانگر مولفه وابسته به آب و هواي روز موردنظر مي‌باشد، براي پيش‌بيني PW مي‌توان از روش رگرسيون استفاده كرد.
2-3-1-2 روشهاي مبتني بر شكل بار

اين دسته از روشها را كه در پيش‌بيني بار استفاده مي‌شد را بر حسب تكنيكهايي كه به كار مي‌برند مي‌توان به دو گروه عمده تقسيم كرد. در يك روش با الگوي بار همانند يك سيگنال سري زماني برخورد مي‌كند و بار آينده را با استفاد هاز تكنيكهاي آناليز سري زماني پيش‌بيني مي‌كند. روش دوم تشخيص مي‌دهد كه الگوي بار به طور خيلي عمده به متغييرهاي آب و هوايي بستگي دارد و يك رابطه يا تابع بين متغييرهاي آب و هوايي و الگوي بار مي‌يابد. در زير به توضيح مختصري در مورد هر كدام مي‌پردازيم.

2-3-1-2-1 روش سري زماني
ايده روش سري زماني بر اساس درك اين مطلب است كه الگوي بار چيزي نيست بيش از سيگنال سري زماني با پريودهاي مشخص روزانه، هفتگي و يا فصلي. اين تناوب يك پيش يك پيش بيني بار بي‌نظمي در هر زمان مي‌دهد كه تفاوت اين پيش بيني و بار واقعي را مي‌توان به صورت يك فرآيند اتفاقي در نظر گرفت كه با آناليز اين سيگنال تصادفي مي‌توان به دقت بيشتري در پيش‌بيني دست يافت. از جمله مهمترين تكنيكهايي كه براي آناليز اين سيگنال تصادفي استفاده

مي‌شوند مي‌توان به فيلتر كالمن، روش باكس- جنكينز، اتوگرسيون، روش فضاي حالت و روش تجزيه طيفي اشاره كرد. ولي در هر حال تكنيك‌هاي سري زماني در صورتي كه يك تغيير ناگهاني در متغيرهاي ورودي نباشد، مناسب كار مي‌كنند، ولي اگر هرگونه تغيير ناگهاني در متغيرهاي ورودي باشد سريهاي زماني نمي‌توانند بدرستي كار كنند. از طرف ديگر روشهاي سري زماني، از تعداد زيادي روابط غير خطي استفاده مي‌كنند كه به زمان محاسبه طولاني احتياج دارند و ممكن است منجر به واگرايي گردند.

مشكلات عمده‌اي كه در ارتباط با سريهاي زماني مطرح مي‌باشند، عبارتند از عدم دقت كافي در پيش بيني و ناپايداري عددي.
بين رفتار مصرف توان و متغيرهاي آب و هوايي از قبيل درجه حرارت، رطوبت سرعت باد و پوشش ابري يك رابطه بسيار محكم وجود دارد، خصوصاً در نواحي مسكوني. روشهاي سري زماني غالباً از الگوريتم تطبيقي با محاسبات ماتريسي استفاده مي‌كنند كه ممكن است باعث ناپايدار شود.

بيشتر روشهاي رگرسيون سعي در پيدا كردن روابطي به صورت يك تابع بين متيغرهاي آب و هوايي و تقاضاهاي مصرف بار دارند. روشهاي رگرسيون معمولي از توابع خطي يا تكه تكه خطي براي تابع پيش بيني استفاده مي‌كنند. روش رگرسيون با استفاد هاز تركيب خطي از اين توابع، يك رابطه بين متغيرهاي آب و هوايي انتخاب شده و تقاضاي بار پيدا مي‌كند. ولي نكته‌اي كه بايد به آن توجه داشت اين است كه اين روابط بين بار و متغيرهاي آب و هوايي، روابطي ثابت نيستند بلكه به عناصري متغير وابسته‌اند. روش رگرسيون نمي‌تواند اين تغييرات را به خوبي دنبال كند.

روش فيلتر كالمن احتياج به تخمين ماتريس كواريانس دارد، كه احتمال فراوان در متغير بودن الگوي بار اجازه تخمين درستي را نمي‌دهد. روش باكس جنكينز احتياج به تابع همبستگي براي تشخيص مدلهاي اتورگرسيون ميانگين متحرك، دارد. اين كار مي‌تواند با استفاد هاز تكنيكهاي تشخيص الگو همراه باشد. مانع اصلي در اينجا كندي كار است. مدل اتورگرسيون ميانگين متحرك براي تشريح رفتار اتفاقي الگوهاي بار ساعتي در يك سيستم قدرت استفاده مي‌شود. مدل اتورگرسيون ميانگين متحرك فرض مي‌كند كه بار يك ساعت را مي‌توان با تركيب خطي بار چند ساعت قبل تخمين زد. معمولاً هر چه مجموعه ديتاها بيشتر باشد نتيجه حاصله از دقت بالاتري برخوردار است كه اين خود باعث افزايش زمان لازم براي محاسبات مي‌گردد.
2-2

كه در آن y(t-I) اطلاعات بار گذشته و a مربوط به اغتشاش حال و گذشته است. ها و ها پارامترهاي مدل و q,p مرتبه مدل ARMA(p,q) مي‌باشد.
2-3-1-2-2 روش تجزيه طيفي

روش تجزيه طيفي از سري فوريه استفاده مي‌كند. به خاطر اينكه الگوي بار را مي‌توان به طور تقريبي به صروت سيگنالهاي تناوبي در نظر گرفت، لذا الگوي بار را مي‌توان به صورت تركيبي از چندين موج سينوسي با فركانسهاي مختلف در نظر گرفت. هر موج سينوسي با يك فركانس مشخص بيانگر يك پايه ارتوگونال (متعامد) است. يك تركيب خطي از اين پايه‌هاي ارتوگونال با ضرايب صحيح مي‌تواند بيانگر يك الگوي بار كاملاً تناوبي باشد. ولي در هر حال الگوهاي بار به طور

كامل و صددرصد متناوب نيستند. در اين تكنيك معمولاً فقط كسر كوچكي از پايه‌هاي متعامد استفاده مي‌شود و بنابراين الگوي بار مي‌شود كه در حوزه فركانس منجر به مؤلفه‌هاي فركانس بالا مي‌شود. بنابراين تكنيك تجزيه طيفي نمي‌تواند پيش بيني درستي براي حالات تغيير سريع در شرايط آب و هوايي انجام دهد، مگر اينكه عناصر پايه زيادي استفاده شود.

در اين روش مي‌توان منحني مصرف بار را به سه مؤلفه تقسيم كرد. مؤلفه رشد بار در اشل زماني بلند مدت، مؤلفه متغير با روزهاي هفته و مؤلفه تصادفي بار.
اگر بار سيستم در ساعت kام در روز a ام از سال باشد،‌ مقدار بار به اين صورت نوشته مي‌شود :
2-3
دو مؤلفه اول با حداقل كردن متوسط مربع خطاي مؤلفه تصادفي با توجه به داده‌هاي گذشته بار در فاصله زماني چند هفته مشخص مي‌شود. هر كدام از دو مؤلفه فوق را مي‌توان به صورتهاي زير نوشت :
2-4
در رابطه فوق nd : تعداد روزهاي هفته و nw تعداد هفته مورد نظر در تعيين است. پس از تعيين مؤلفه باقيمانده بصورتي ك بسط از توابع مشخصه تابع همبستگي بيان مي‌شود :
2-5
كه در آن مقدار ويژه و توابع مشخصه با استفاد هاز معادله انتگرالي زير مشخص مي‌شوند :
2-6
M : تعداد روزهايي كه براي محاسبه توابع همبستگي به كار مي‌رود و تابع همبستگي است.

2-3-1-2-3 روش هموارسازي نمايي
با اين روش مي‌توان بار را تا يك هفته آينده محاسبه كرد ، بدون آنكه براي روزهاي هفته تفاوتي قائل شد. به اين ترتيب كه تغييرات هفتگي دربار ساعتي را به صورت يك تابع متناوب با پريود اصلي يك هفته (168 ساعت) كه در واقع يك بسط فوريه است بيان مي‌كند :
2-7

در اين رابطه دوره تناوب اصلي برابر 168 درنظر گرفته شده است. بنابراين مقدار wi به صورت مي‌باشد كه ki ها ضرايب صحيح كوچكتر از 84 هستند. فرمولي كه بار را براي T واحد زماني در اينده پيش‌بيني مي‌كند عبارتست از :
2-8
عناصر بردار a (t) با معيار حداقل مربعات خطا بگونه‌اي برآورد مي‌شوند كه مجموع مربع خطا حداقل شود :
2-9
اين روش در مجموع داراي دقت نسبتاً حوبي در پيش‌بيني بار كوتاه مدت است.
2-3-1-2-4 روش فضاي حالت

اين يكي از كاملترين روشهاست. از بيست سال اخير، براي مدل كردن بار سيستم معادلات حالت بخاطر ساختار مناسب روابط رياضي آن و بدليل امكان استفاده از فيلتر كالمن براي انجام پيش‌‌بيني بار مورد توجه قرار گرفته است. استفاده از اين
روش بخاطر روابط تكراري به بهترين شكلي براي انجام محاسبات بطور on line امكان‌پذير است.
شكل عمده اين روش، شناسايي مدل مناسب و همچنين محاسبات زياد براي بدست آوردن پارامترهاي تشريح كننده مدل است. مزيت آن دقت نسبتاً خوب اين روش است.

معادلات حالت به صورت زير بيان مي‌گردند :
معادلة سيستم 2-10
معادله اندازه‌گيري 2-11
: ماتريس انتقال حالت

: سيگنال نويز با ميانگين صفر و كواريانس ثابت
: بردار اندازه‌گيري در زمان k
: ماتريس اندازه‌گيري
: بردار خطاي اندازه‌گيري با ميانگين صفر و كواريانس R (k)
در هر لحظه از زمان k مي‌توان يك تخمين اوليه براي X(t) بر حسب مقادير قبلي آن تا لحظه k بدست آورد كه با نشان داده مي‌شود. خطاي متناظر با آن برابر است با :

2-12
X(k) مقدار واقعي فرآيند مورد نظر در زمان k است. براي اين بردار خطا ، ماتريس كوتريانس خطا به صورت زير تعريف مي‌شود :
2-13
تخمين ثانويه توسط يك تركيب خطي از تخمين اوليه و خطاي اندازه‌گيري بشكل زير بدست مي‌آيد :
2-14
كه در اينجا k (k) ضريب بهره كالمن و تخمين ثانويه براي مقدار X در زمان t است. ماتريس پراكندگي اين خطا مطابق رابطه زير تعريف مي‌شود :
2- 15
پس به طور خلاصه براي استفاده از اين روش بايد ابتدا يك تخمين اوليه پيش فرض مانند براي بار و براي ماتريس پراكندگي بدست آورد . سپس بهره كالمن را محاسبه كرد و بعد از آن ماتريس پراكندگي بدست آورد. سپس ضريب بهره كالمن را محاسبه كرد و بعد از آن ماتريس پراكندگي را update كرده و سپس به پيش‌بيني و بپردازيم :

2- 16
و سپس براي يك مرحله بعد محاسبات را از مرحله دوم بايد تكرار كنيم .
بنابراين همانگونه كه در بالا نيز گفته شد تكنيكهاي مورد استفاده در روشهاي سري زماني در شرايط عادي خوب كار مي‌كنند ولي در شرايطي كه يك تغيير ناگهاني در شرايط آب و هوايي يا ديگر متغير‌هاي تأثيرگذار در الگوي بار بوجود آيد، ديگر اين تكنيكها نمي‌توانند بدرستي كار كنند. از طرفي با توجه به اينكه در اين تكنيكها از تعداد زيادي روابط پيچيده رياضي استفاده مي‌شود، زمان محاسبات زياد است و ممكن است كه منجر به ناپايداري نيز گردد.
2-3-1-2-4 رگرسيون

روش عمومي در رگرسيون به صورت زير است :
1) انتخاب متغيرهاي آب و هوائي صحيح و قابل استفاده
2) پذيرفتن عناصر تابعي اصلي

3) پيدا كردن ضرائب صحيح براي تركيب خطي عناصر تابعي اصلي
بخاطر اينكه درجه حرارت از مهمترين اطلاعات آب و هوايي است، لذا غالباً در روش رگرسيون استفاده مي‌شود. به هر حال اگر ما متغيرهاي ديگري از جمله رطوبت، سرعت باد و پوشش ابري را نيز اعمال كنيم به نتايج بهتري خواهيم رسيد.
غالب روشهاي رگرسيون از توابع ساده خطي يا تكه تكه خطي به عنوان عناصر تابعي اصلي استفاده مي‌كنند. رابطه‌اي كه غالباً براي بيان رابطه بين بار L ، و درجه حرارت T استفاده مي‌شود به صورت زير است :

2-17
كه در آن
2-18
و ثابت‌هايي هستد و براي تمام I ها ،

علاوه بر ريگرسيون روشهاي ديگري نيز براي پيدا كردن ضرائب تابعي پيشنهاد شده است.
1) جبر از تكنيك تشخيص الگو نيز براي پيدا كردن نزديكترين همسايه براي يك بار هشت ساعتي با استفاده از الگوي آب و هوايي داده شده استفاده كرد.
2) يك كاربرد از الگوريتم مربع خطي تعميم يافته توسط ايريساري پيشنهاد شد ولي در هر حال GLSA غالباً با ناپايداري‌هاي عددي همراه است خصوصاً در مواقعي كه براي يك مجموعه ديتاهاي زياد استفاده شود.

3) رحمان يك روش سيستم خبره را اعمال كرد . سيستم خبره مزيت استفاده از اطلاعات يك شخص خبره اپراتور را دارد. او چندين محدوده درجه حرارتي ايجاد كرد و روابط تابعي متفائژوتي بر طبق ساعت مورد نظر ايجاد كرد. اين كار موجب شد تا پيش‌بيني نسبتاً خوبي صورت گيرد، ولي استخراج اطلاعات از يك خبره ساده نيست و گرفتن اطلاعات كامل و جامع از تجربيات يك فرد خبره تا حدودي مشكل است.
2-3-2- روشهاي جديد پيش‌بيني بار كوتاه مدت

روشهاي جديد پيش‌بيني بار كوتاه مدت كه هم اكنون به وفور استفاده مي‌شوند همان بكار‌گيري شبكه‌هاي عصبي و فازي در پيش‌بيني مي‌باشند كه هر يك داراي محاسني مي‌باشند. مزيتهاي فراوان اين شبكه‌ها نسبت به روش‌هاي قديمي بكلي كنار گذاشته شوند و به اين روش‌هاي جديد روي آورده شود.

فصل 3
شبكه‌هاي عصبي مصنوعي

3-1 مقدمه
در ساليان اخير شاهد حركتي مستمر از تحقيقات صرفاً تئوري به تحقيقات كاربردي علي‌الخصوص در پردازش اطلاعات براي مسائلي كه يا براي آنها راه حلي موجود نيست و يا براحتي قابل حل نيستند، بوده‌ايم.

با عنايت به اين حقيقت، علاقه فراينده‌اي در توسعه تئوريك سيستم‌هاي ديناميكي هوشمند كه مبتني بر داده‌هاي تجربي هستند، ايجاد شده است. شبكه‌هاي عصبي مصنوعي جزوا ين دسته از سيستم‌هاي ديناميكي قرار دارند كه با پردازش بر روي داده‌هاي تجربي، دانش يا قانون نهفته در وراي داده‌ها را به ساختار شبكه منتقل مي‌كنند، به همين خاطر به اين سيستم‌ها هوشمند گويند،‌چراكه بر اساس محاسبات روي داده‌ها عددي يا مثالها قوانين كلي را فرا مي‌گيرند. اين سيستم‌ها مبتني بر هوش محاسباتي سعي در مدلسازي ساختار مغز بشر دارند.

مغز انسان به عنوان يك سيستم پردازش اطلاعا تبا ساختار موازي و كاملاً پيچيده كه دو درصد وزن بدن را تشكيل مي‌دهد و بيش از بيست درصد كل اكسيژن بدن را مصرف مي‌كند براي خواندن، نفس كشيدن، حركت، تفكر و تفحص و كليه اعمال آگاهانه و بسياري رفتارهاي ناخودآگاه استفاده مي‌شود. اين مغز چگونه اين كارها را انجام مي‌دهد از زماني شروع شد كه دريافتند مغز براي محاسبات خود اساساً از ساختاري كاملاً مغاير با ساختار كامپيوترهاي متداول برخوردار است.

تلاش براي فهم اين موضوع خصوصاً از زماني مطرح شد كه براي نخستين بار در سال 1911 شخصي نام سگال اعلام كرد كه مغز از عناصر اصلي ساختاري به نام نرون تشكيل يافته است. هر نرون بيولوژيكي به عنوان اجتماعي از مواد آلي، اگرچه داراي پيچيدگي يك ميكروپروسسور مي‌باشد ولي داراي سرعت محاسباتي براب ربا سرعت يك ميكروپروسسور نيست.

دانشمندان علم بيولوژيكي به تازگي دريافته‌اند كه شبكه‌هاي نروني چگونه كار مي‌كنند، به طور كلي به اين نتيجه رسيده‌اند كه عملكرد نرونهاي بيولوژيكي از قبيل ذخيره سازي و حفظ اطلاعات در خود نرونها و ارتباطات بين نرونها نفهته است. به عبارت فني‌تر يادگيري به عنوان ايجاد ارتباطات جديد بين نرونها و تنظيم و ارتباطات بين نرونها و تنظيم مجدد ارتباطات موجود، استنباط مي‌شود.

مغز به عنوان يك سيستم پردازش اطلاعات با ساختار موازي از 100 تريليون (1011) نرونهاي به هم مرتبط با تعداد كل 1016 ارتباط تشكيل شده است. نرونها ساده‌ترين واحد ساختاري سيستمهاي عصبي هستند بافتهايي كه عصب ناميده مي‌شوند، اجتماعي از نرونها مي‌باشند.
شبكه‌هاي مصنوعي داراي برخي ويژگي‌ها و همچنين برخي شباهتها با شبكه‌هاي بيولوژيكي مي‌باشند، شباهت آنها را مي‌توان در دو مورد زير خلاصه كرد :
1- بلوك ساختاري در هر دو شبكه مصنوعي و بيولوژيكي دستگاه‌هاي محاسباتي خيلي ساده‌اي هستند و مضاف بر اين نرونها مصنوعي از سادگي بيشتر برخوردار مي‌باشند.

3-2 ويژگيها
شبكه‌هاي عصبي مصنوعي با وجود اينكه با سيستم عصبي طبيعي قابل مقايسه نيستند، ويژگيهايي دارند كه آنهنا را در بعضي از كاربردها مانند تفكيك الگو، رباتيك، كنترل و به طور كلي در هر جا كه نياز به يادگيري يك نگاشت خطي و يا غير خطي باشد، ممتاز مي‌نمايند. اين ويژگيها عبارتند از :
3-2-1 قابليت يادگيري

استخراج نتايج تحليلي از يك نگاشت غيرخطي كه با چند مثال مشخص شده، كار ساده‌اي نيست. چون مي‌دانيم كه يك نرون يك دستگاه غير خطي است، در نتيجه يك شبكه عصبي كه از اجتماع اين نرونها تشكيل مي‌شود هم يك سيستم كاملاً پيچيده‌ و غير خطي خواهد بود. به علاوه، خاصيت غير خطي عناصر پردازش، در كل شبكه توزيع مي‌گردد. هنگام پياده سازي اين نتايج با يك الگوريتم معمولي و بدون قابليت يادگيري نياز به دقت و مراقبت زيادي دارد. در چنين حالتي سيستمي كه بتواند خود اين رابطه را استخراج كند بسيار سودمند به نظر مي‌رسد. خصوصاً اينكه افزودن مثالهاي احتمالي در اينده به يك سيستم با قابليت يادگيري، به مراتب آسانتر از انجام آن در يك سيستم بدون چنين قابليتي است چرا كه در سيستم اخير افزودن يك مثال جديد به منزله تعويض كليه كارهاي انجام شده قبلي مي‌باشد.

قابليت يادگيري يعني توانايي تنظيم پارامترهاي شبكه در مسير زمان كه محيط شبكه تغيير مي‌كند وشبكه شرايط جديد را تجربه مي‌كند، با اين هدف كه اگر شبكه براي يك وضعيت خاص آموزش ديد و تغيير كوچكي در شرايط محيطي شبكه رخ داد، شبكه بتواند با آموزش مختصر براي شرايط جديد نيز كار آمد باشد. ديگر اينكه اطلاعات در شبكه‌هاي عصبي در سيناپسها ذخيره و هر نرون در شبكه به صورت، بالقوه از كل فعاليت ساير نرونها متأثر مي‌شود. در نتيجه، اطلاعات از نوع مجزا از هم نبوده، بلكه متأثر از كل شبكه مي‌باشد.

3-2-2 پراكندگي اطلاعات پردازش اطلاعات بصورت متن
آنچه كه شبكه فرا مي‌گيرد و يا به صورت ديگر اطلاعات يا دانش، در وزن‌هاي سيناپسي مستتر مي‌باشد. رابطه يك به يك بين وروديها و وزن‌هاي سيناپتيكي وجود ندارد. مي‌توان گفت كه هر وزن سيناپس مربوط به همه وروديها است ولي به هيچيك از آنها به طور منفرد و مجزا مربوط نيست. به عبارت ديگر هر نرون در شبكه از كل فعاليت ساير نرونها متأثر مي‌باشد. در نتيجه اطلاعات به صورت متن توسط شبكه‌هاي عصبي پردازش مي‌شود. بر اين اساس چنانچه بخشي از سلولهاي شبكه حذف شوند و يا عملكرد غلط داشته باشند باز هم احتمال رسيدن به پاسخ صحيح وجود دارد. اگرچه اين احتمال براي تمام وروديها كاهش يافته ولي براي هيچ يك از بين نرفته است.

3-2-3- قابليت تعميم
پس از آنكه مثالهاي اوليه به شبكه آموزش داده شد، شبكه مي‌تواند در مقابل يك ورودي آموزش داده نشده قرار گيرد و يك خروجي مناسب ارائه نمايد. اين خروجي بر اساس مكانيسم تعميم كه همانا چيزي جز يك پروسه درونيابي نيست بدست مي‌آيد. به عبارت روشنتر ، شبكه تابع را ياد مي‌گيرد ، الگوريتم را مي‌آموزد و يا رابطة تحليل مناسبي را براي تعداد نقاط در فضا بدست مي‌آورد.

3-2-4 پردازش موازي
هنگامي كه شبكه‌ عصبي در قالب سخت افزار پياده مي‌شود، سلولهايي كه در يك تراز قرار مي‌گيرند، مي‌توانند به طور همزمان به وروديهاي آن تراز پاسخ دهند. اين ويژگي باعث افزايش سرعت پردزاش مي‌شود. در واقع در چنين سيستمي، وظيفه كلي پردازش، بين پردازنده‌هاي كوچكتر مستقل از يكديگر توزيع مي‌گردد.
3-2-5 مقاوم بودن

در يك شبكه عصبي، هر سلول به طور مستقل عمل مي‌كند و رفتار كلي برآيند رفتارهاي محلي سلولها متعددي است. اين ويژگي باعث مي‌شود تا خطاهاي محلي از چشم خروجي نهايي بدور بمانند. به عبارت ديگر، سلولها در يكر وند همكاري، خطاهاي محلي يكديگر را تصحيح مي‌كنند. اين خصوصيت باعث افزايش مقاوم بودن (تحمل پذيري خطاها) در سيستم مي‌گردد.
3-3 تاريخچه شبكه‌هاي عصبي

ديدگاه شبكه‌هاي عصبي در دهه 40 قرن بيستم شروع شد، زماني كه وارن مك كلوث و والترپيتز نشان دادند كه شبكه‌هاي عصبي در اصل مي‌توانند هر تابع حسابي و منطقي را محاسبه نمايند. كار اين افراد را مي‌توان نقطه شروع حوزه علمي شبكه‌هاي عصبي مصنوعي ناميد.
نخستين كاربر عملي شبكه‌هاي عصبي در اواخر دهه 50 قرن بيستم مطرح شد، زمانيكه فرانك روزنبلات در سال 1958 شبكه پرسپترون را معرفي نمود. روزنبلات و همكارانش شبكه‌اي ساختند كه قادر بود الگوها را از هم شناسايي كند. ولي به طور كلي تا اواسط 1980 توجه كمي به شبكه‌هاي عصبي شده بود، چراكه تا قبل از آن معمولاً آموزش شبكه‌هاي عصبي باب يش از دو لايه امكان نداشت. متأسفانه دنياي واقعي ما به صورت پيوسته است و نمي‌توان آنها را به صورت مدلهاي ساده بيان كرد.

اولين گام در بهبود شبكه‌هاي عصبي زماني بود كه شبكه‌هاي چند لايه مطرح شدند. پس از آن ايده مهمي كه كليد توسعه شبكه‌هاي عصبي در دهه 80 شد، الگوريتم، پس از انتشار خطا بود كه توسط ديويد راملهارت و جيمز مكلند مطرح گرديد با پيدايش اين روش در واقع مانع اصلي در زمينه شبكه‌هاي عصبي برداشته شد و شبكه‌هاي عصبي را متحول كرد.

گرچه اين روش در سال 1974 كشف شد ولي تا سال 1980 عملاً به طور وسيعي مورد استفاده قرار نگرفت. شبكه‌هاي دولايه معمولاً فقط قادر به بيان روابط خطي بين بردارهاي ورودي و خروجي بودند ولي اين روش اجازه داد تا شبكه‌هاي آنالوگ با سه لايه يا بيشتر آموزش ببينند،‌لذا دري باز شد بر روي بسياري كاربردهاي آن شبكه‌هاي عصبي چند لايه مي‌توانند بيشتر روابط خطي و غير خطي بين متغيرهاي ورودي خروجي را ياد بگيرند. بخاطر سريع و ارزان بودن

كامپيوتر شخصي مي‌تواند كاربردهاي اين تكنولوژي جديد را در بسياري محاسبات متنوع ببيند. همينكه شبكه‌هاي عصبي به صورت خيلي رايج براي كاربردهاي پيش بيني هوا، تشخيص صحبت و دستخط، تميز كردن نويز در تصاوير ويديوئي، بازيهاي كامپيوتري،‌ پيش‌بيني بار، قسمتهاي ماشين ابزار، ترجمه زبانهاي طبيعي، آشكار كننده مواد منفجره در چمدانهاي فرودگاهها و پيش بيني برنده بازي استفاده مي‌شوند. معمولاً شبكه‌هاي عصبي بهترين انتخاب براي مسائلي مي‌باشند كه مقدار زيادي داده در آن موجود است و يك رابطه غير خطي بين پترن‌هاي ورودي و خروجي موجود است.

در ده سال اخير هزاران مقاله نوشته شده است و شبكه‌هاي عصبي كاربر زيادي در رشته‌هاي مختلف علوم پيدا كرده‌اند. شبكه‌هاي عصبي در هر د وجهت توسعه تئوريك و عملي در حال رشد مي‌باشند. بيشتر پيشرفتها در شبكه‌هاي عصبي به ساختارهاي نوين و روشهاي يادگيري جديد مربوط مي‌شود.
در زير نگاهي اجمالي به تاريخچه شبكه‌هاي عصبي داريم.

1942 – مك‌كالوج و پيتز : مدل غير خطي ساده نرون
1949 – هب: اولين قانون يادگيري
1958- روزنبلات : پرسپترون، ماشيني كه قادر است ياد بگيرد كه چگونه با استفاد هاز تطبيق وزنها، اطلاعات را دسته بندي كند.
1962-1960- ويدرو و هاف: نشان دادن حدود تئوريكي پرسپترون به عنوان كامپيوترهاي عمومي 230 سال در حالت بدون پيشرفت و تحرك، ولي بعضي به صورت جداگانه به تحقيقات ادامه مي‌دادند.

1982 – هاپفيلد: نشان داد كه با استفاد هاز تابع انرژي مي‌توان مسائل زيادي را حل كرد.
1982- كوهنن : تشريح يادگيري خود سازمانده
1986- راملهرت : كشف روش پس انتشار خطا

1987 – مينسكي
1988- چاو و يانگ : شبكه‌هاي عصبي سلول دار، شبكه‌هاي كاربردي، با در نظر گرفتن نرونهايي كه نزديك‌‌ترين همسايه‌ها متصل بودند.
همينك : پيشرفت به صورت پيوسته هم از نظر تئوري و هم از لحاظ كاربردهاي عملي ادامه دارد.
فاصله زماني 25 ساله خواب زمستاني (توقف پيشرفت در شبكه هاي عصبي) بخاطر اين بود كه تا آن زمان شبكه هاي بالايي مخفي بوجود نيامده بود و اين مدلها بدون لايه مخفي قادر به حل مسائل نبود.

در زير جدولي از مشهورترين شبكه هاي عصبي به همراه سال معرفي آنها و مخترع آنها آمده است.
سال شبكه مخترع/ كاشف
1942 مك كالوچ – پيتزنرون مك كالوچ ، پيتز
1957 پرسپترون روزنبلات
1960 مادالاين ويدرو
1969 سربلاترون الباس
1974 شبكه پس انتشار خطا وربز، پاركر، راملهارت
1977 حالت مغز در يك جعبه اندرسون
1978 نئوكوگنيترون فوكوشيما
1978 تئوري رزونانس تطبيقي كارپنتر، گراس برگ
1980 خودسازمانده كوهنن
1982 شبكه هاپفيلد هاپفيلد
1985 حافظه دو جهتي كوسكو
1985 ماشين بولتزمن هينتون، سجنووسكي، سزو
1986 انتشار معكوس هچت، نيلسون
1988 شبكه عصبي سلولي چوا، يانگ
جدول 3-1: مشهورترين شبكه هاي عصبي به همراه سال معرفي آنها و مخترع آنها (26)
3- 4 شبكه هاي عصبي طبيعي
مغز انسان كه از پيچيده ترين ابزارهاي محاسباتي به شمار مي رود به صورت يك سيستم ديناميكي با ساختار موازي و پردازشگري كاملاً مغاير با پردازشگرهاي متداول است. مغز به عنوان يك سيستم پردازش اطلاعات با ساختار موازي از 100 تريليون (100ميليارد) نرون متصل به هم با تعداد كل ارتباط تشكيل شده است.
نرونها ساده ترين واحد ساختارهاي سيستمهاي عصبي هستند. بافتهايي كه عصب ناميده مي شوند، اجتماعي از نورونها مي باشند. اين نرونها اطلاعات و پيامها را از يك قسمت بدن به قسمت ديگر منتقل مي كنند. پيامها از نوع ايمپالسهاي الكتروشيميايي هستند. ميليونها نرون دربدن انسان وجود دارد، حتي ساده ترين كارهاي روزمره انسان از قبيل پلك ردن، تنها از طريق همكاري همه جانبه اين نرونها ميسر است.
بيشترين تعداد نرونها در مغز باقي در نخاع و سيستمهاي عصبي جانبي تمركز يافته اند.
گرچه همگي نرونها كاركرد يكساني دارند ولي اندازه و شكل آنها بستگي به محل قرارگيري آنها در سيستم عصبي دارد، با وجود اين همه تنوع بيشتر، نرونها از سه قسمت اساسي تشكيل شده اند:
1-بدنه سلول: كه شامل هسته و قسمتهاي حفاظتي ديگر مي باشد.
2-دندريت: دندريت ها رشته هاي نازكي در انتهاي آكسون و در اطراف عصبهاي بعدي هستند.
3-آكسون: وسيله انتقال خروجي بدنه سلول به ساير عصبها مي باشند.

شكل (3-1) نواحي اصلي يك سلول عصبي بيولوژيك (17)
نقاط اتصال بين يك تعداد عصب به مجموعه ديگري از عصبها تحت عنوان سيناپس ها شناخته مي شوند، كه اطلاعات و تجربيات قبلي عصب در قدرت انتقال سيناپس ها واقع شده است. سيناپس ها كه در واقع بخشي از دندريت ها هستند، در دو نوع تحريك كننده و باز دارنده وجود دارند. اگر سيناپس ها از نوع تحريك كننده باشند، سطح فعاليت فرستنده، فعاليت عصب گيرنده را افزايش مي دهد و اگر از نوع باز دارنده باشند، سطح فعاليت عصب گيرنده را كاهش مي دهند. اختلاف سيناپس ها نه تنها در تحريك يا باز داشتن عصب گيرنده است بلكه در ميزان اين اثر (شدت سيناپسي) نيز مي باشد.

قدرت زياد مغز انسان در تفكر ، يادگيري ، به ياد آوردي، تعميم، حل مسائل و …. سبب شد تا دانشمندان به مدل سازي آن بپردازند. با توجه به اينكه سرعت زياد مغز انسان مربوط به موازي كار كردن عصبها به عنوان واحدهاي محاسباتي مي باشد، شبكه هاي عصبي مصنوعي را نيز بر همين اساس يعني سيستمهاي پردازش موازي طرح كرده اند.

3-5 شبكه هاي عصبي مصنوعي
بلوك ساختماني اصلي كليه مغزهاي موجودات زنده، سلول عصبي يا نرون مي باشند. هر نرون به صورت يك واحد پردازشگر عددي عمل مي كند. در واقع مغز مجموعه اي است از چندين ميليون از اين واحدهاي پردازشگر كه به صورت بسيار پيچيده اي به هم مرتبطند و به صورت موازي عمل مي كنند . در مغز هر نرون مقادير ورودي را از ديگر نرونها مي گيرد، به تابع انتقال اعمال مي كند و خروجي اش را به لايه بعدي از نرونها مي فرستد. اين نرونها به نوبت خروجي اشان را به ديگر لايه ها مي فرستند. به روش مشابه شبكه هاي عصبي مصنوعي از چند صد يا چندين هزار واحد پردازشگر ساده تشكيل شده اند كه به صورت موازي به هم مرتبطند و در چندين لايه به دنبال هم هستند.

در شبكه عصبي موجودات، حافظه در شدت اتصالات بين لايه هاي نرون هاست. شدت يا تأثير يك اتصال داخلي به عنوان وزنش شناخته مي شود. شبكه هاي عصبي مصنوعي از اين قضيه استفاده كرده و از وزنهاي اتصال داخلي متغيير بين لايه هاي نرونهاي شبيه سازي شده استفاده مي كند. قبل از اينكه آموزش شروع شود اين وزنهاي اتصالات داخلي مقادير تصادفي اختيار مي شوند. در طول فرآيند آموزش اين نرونها به گونه اي اصلاح مي شوند كه باعث شود تا روابط ورودي/ خروجي آموخته شوند.

فرض كنيد كه اتصال داخلي از نرون A به نرون X وزن بزرگتري نسبت به اتصال داخلي نرون B به نرون X دارد، در اين حالت خروجي نرون A تاثير بيشتري در سطح فعاليت نرون X دارد تا نرون B . هنگامي كه شدت اتصالات تنظيم شد، در بين كليه نرونها ، نرونهاي بخصوصي نسبت به متغيرهاي بخصوصي حساس مي شوند و نرونهاي ديگر به ديگر ورودي ها حساس مي شوند.
3-5-1 شبكه عصبي چيست؟

يك شبكه عصبي مصنوعي يك سيستم پردازش اطلاعات است كه مشخصات كاري آن مشابه شبكه هاي عصبي طبيعي است. شبكه هاي عصبي مصنوعي بر اساس تعميم مدل رياضي نرون هاي طبيعي بر اساس فرضيات زير به وجود آمده اند:
1- پردازش اطلاعات در عناصر كوچك و ساده اي به نام نرون صورت مي گيرد.
2- سيگنالها از طريق خطوط ارتباطي بين نرونها عبور مي كنند.
3- هر خط ارتباطي داراي وزني مشخص است كه در يك شبكه عصبي نوعي در سيگنال عبوري ضرب مي شود.
4- هر نرون يك تابع فعاليت دارد كه آن را به مجموع وروديها اعمال مي كند ( كه معمولاْ غير خطي است) تا سيگنال خروجي اش را مشخص كند.
هر شبكه عصبي توسط اين سه پارامتر مشخص مي شود:
1- نحوه اتصال بين نرونها (كه معماري شبكه ناميده مي شود)
2- روش تعيين وزنهاي اتصالات ( كه الگوريتم آموزش يا يادگيري گفته مي شود)
3- تابع فعاليت آن
يك شبكه عصبي شامل تعداد زيادي واحد پردازش ساده به نام نرون ، واحد ، سلول يا گروه است. هر نرون توسط خطوط ارتباطي جهت داري به ديگر نرونها وصل است كه هريك داراي وزني مشخص است.
وزنها بيانگر اطلاعات استفاده شده توسط شبكه براي حل مسئله مي باشند.
معمولاْ شبكه هاي عصبي مصنوعي با استفاده از برنامه كامپيوتري شبيه سازي مي شوند، همچنين مي توان آنها را با استفاده از عناصر پردازشگر گسسته هم ساخت.
كار بر روي شبكه هاي عصبي مصنوعي در سال 1943 با پيشنهاد و معرفي اولين و ساده ترين مدل براي يك عصب، توسط مك كلاك و پيتس آغاز شد كه با معرفي پرسپترون بوسيله روزنبلات و معرفي آدالاين و مدلاين تسط ويدرو و هاف و در پي آن و پس از يك دهه وقفه، با پيدايش روش آموزش پس انتشار خطا براي شبكه هاي پرسپترون چند لايه ، اين شبكه ها توسعه يافته و زمينه هاي رشد و تكامل آنها فراهم گرديد ]17[
گرچه سيستم اعصاب انسان از نظر كنترلي منحصر به فرد است، اما بسياري از شبكه هاي عصبي مصنوعي را از نظر ساختمان، رفتار و نحوه عملكرد هر يك از اجزا، مي توان برداشتي هر چند بسيار سطحي و كلي، از بعضي جنبه هاي سيستم اعصاب طبيعي دانست. از اين روست كه هم اكنون نيز افراد زيادي از جمله عصب شناسان، فيزيولوژيستها، متخصصان علوم كامپيوتر و كنترل، رياضي دانان و مهندسين، درصد تكميل نظريات موجود در اين زمينه و كاربرد آنها هستند. استفاده از شبكه هاي عصبي مصنوعي در مواردي كه سيستم داراي روال مشخص نبوده و داراي مشخصه كاملاً غير خطي مي باشد بسيار جالب توجه است كه عموماً در صورت استفاده صحيح از آنها، در مقايسه با روشهاي متداول رياضي و آماري، مي توان به نتايج بسيار مطلوب تر و بهتري دست يافت.
در شبكه هاي عصبي مصنوعي نيز هر جز تحت عنوان عنصر پردازنده يا نرون خوانده مي شود. هر نرون حاصل جمع موزون وروديهاي متعددي را محاسبه نموده، با توجه با اين مقدار محاسبه شده و نوع تابع فعاليت مورد استفاده، خروجي خود را صادر مي نمايد كه اين خروجي نيز ممكن است وزن داشته باشد و به نرونهاي ديگري اعمال شود. يك شبكه عصبي در حقيقت تركيبي از عناصر پردازنده متعدد است. اين عناصر در گروههايي به صورت لايه سازماندهي مي شوند. معمولاً دو لايه براي ارتباط با خارج شبكه وجود دارد كه يكي از آنها به نام لايه ورودي (براي دريافت اطلاعات ورودي شبكه) و ديگري به نام لايه خروجي (جهت انتقال پاسخ به خارج) مي باشد. ساير لايه هايي كه مستقلاً و در بين اين دو لايه قرار دارند به نام لايه هاي مخفي و يا لايه هاي مياني مشهورند. در زير شماي كلي يك شبكه عصبي بسيار معروف به نام پرسپترون آمده است.

شكل (3-2) : ‌شبكه پروسپترون (18)
3-5-2 دسته بندي شبكه هاي عصبي
دسته بندي شبكه ها بر اساس دو محور زير ممكن است صورت پذيرد:
1- توپولوژي يا ساختار شبكه

2- روش آموزش يا قاعده يادگيري شبكه هاي عصبي
ولي در كل شبكه هاي عصبي را مي توان به دو دسته كلي زير تقسيم كرد:
الف) شبكه هاي عصبي با يادگير با ناظر
ب) شبكه هاي عصبي با يادگير بدون ناظر

شبكه هاي عصبي با ناظر خود شامل مدلهاي گوناگوني است كه همگي آنها را تحت عنوان شبكه هاي عصبي تطبيقي مي شناسيم.
شبكه هاي تطبيقي
يك شبكه تطبيقي همان گونه كه از نامش پيداست يك ساختار شبكه است كه شامل تعدادي گره است كه از طريق خطوطي جهت دار به هم متصلند. هر گروه بيانگر يك واحد پردازشگر است. همه يا قسمتي از اين گروه ها تطبيقي هستند، به اين معني كه خروجي اين نقاط بستگي به پارامترهاي قابل اصلاحي دارد كه قانون يادگيري مشخص مي كند كه چگونه اين پارامترها را بايد تغيير داد تا خطاي اندازه گيري را مينيمم كرد. اين خطا به صورت يك تابع رياضي است كه بيان

كننده تفاوت بين خروجي شبكه و خروجي واقعي است، وظيفه ما پيدا كردن يك معماري شبكه و يك سري پارامترها است به گونه اي كه بتوانند بهترين مدل را براي يك سيستم هدف كه توسط جفت ديتاهاي ورودي / خروجي بيان شده است ايجاد كند.
قانون يادگيري اصلي شبكه تطبيقي به روش بيشترين شيب، معروف است. اين روش چند بار به طور مستقل توسط افراد مختلف پيشنهاد شده است، دانشمندان همچون بريسون وهو، وربز و پاركر از جمله اين افراد بودند، ولي به خاطر اينكه تحقيقات بر روي شبكه هاي عصبي هنوز در ابتداي راه بود، به كارهاي اين محققان توجه چنداني نشد.

در سال 1986 اين روش براي شبكه هاي چند لايه استفاده شد كه به قانون يادگيري ،، پس انتشار خطا،، ناميده شد و همينك نيز بسيار استفاده مي شود.
با استفاده از گفته هاي بالا مي توان خصوصيات شبكه هاي عصبي مصنوعي را در مورد زير خلاصه كرد:
1- يك شبكه عصبي يك دستگاه پيچيده نيست بلكه تعداد زيادي وسيله محاسباتي ساده است.

2- در يك شبكه عصبي پردازش بصورت موازي صورت مي گيرد و هر نرون به مجموع وروديهاي آن نرون پاسخ مي دهد نه تك تك آنها به طور جداگانه
3- هيچ حافظه جداگانه اي براي ذخيره سازي داده ها در يك شبكه عصبي وجود ندارد.
4- اطلاعات يك مسئله در وزنهاي شبكه نهفته است، لذا مي توان گفت كه شبكه هاي عصبي داراي حافظه هاي گسسته اند.
3-5-3 كار بردهاي شبكه هاي عصبي مصنوعي

كار برد شبكه هاي عصبي حوزه وسيعي از مسائل در زمينه هاي مختلف فني – مهندسي و اجتماعي از قبيل سيستمهاي هوا – فضا ، وسايل اتوماتيك خانگي، بانكداري، الكترونيك، صنايع دفاعي، وسايل سرگرم كننده، پزشكي، صدا و تصوير، روباتها ، ارتباط راه دور، سيستمهاي حمل و نقل و غيره را در بر خواهد گرفت.

آنچه كه شبكه هاي عصبي را در آينده محبوبتر خواهد نمود، سرعت محاسباتي بالاي كامپيوترها و الگوريتم هاي يادگيري سريعتر مي باشد كه استفاده از شبكه هاي عصبي را در مسائل صنعتي با محاسبات زياد الزامي مي نمايد.
3-6- مدل درون و معماري شبكه هاي عصبي مصنوعي
3-6-1-مدل رياضي نرون

در اين قسمت مدل ساده اي از يك نرون واقعي ارائه مي شود و در ادامه توضيح داده مي شود كه چگونه مي توان ساختارهاي مختلف شبكه هاي عصبي مصنوعي را از تركيب و كنار هم گذاشتن تعداد زيادي از اين نرونها بوجود آورد.
مدل نرون
يك نرون كوچكترين واحد پردازشگر اطلاعات است كه اساس عملكرد شبكه هاي عصبي را تشكيل مي دهد. كلاً شبكه هاي عصبي از عناصري غير خطي به نام عصب و از اتصالاتي كه اين عصبها را با وزني مشخص به يكديگر متصل مي سازند تشكيل شده اند.
3-6-1-1-مدل نرون تك ورودي
شكل زير ساختار يك نرون تك ورودي را نشان مي دهد. اسكالرهاي p و a به ترتيب بيانگر ورودي و خروجي مي باشند.

شكل (3-3) :‌مدل نرون تك ورودي (32)
ميزان تأثير p روي a بوسيله مقدار اسكالر w تعيين مي شود. ورودي ديگر كه مقدار ثابت 1 است، در جمله باياس ضرب شده و سپس با w p جمع مي شود. اين حاصل جمع، ورودي خالص n براي تابع محرك (يا تابع تبديل خواهد بود). بدين ترتيب خروجي نرون با معادله زير تعريف مي شود:
بايد توجه داشت كه پارامترهاي w و b قابل تنظيم هستند و تابع محرك نيز توسط طراح انتخاب مي شود. براساس انتخاب f و نوع الگوريتم يادگيري، پارامترهاي w و b تنظيم مي شوند. يادگيري بدين معني است كه w و b طوري تغيير مي كنند تا رابطه ورودي / خروجي با هدف خاصي مطابقت نمايد در ادامه از الگوريتم هاي يادگيري بيشتر صحبت مي شود.
3-6-2-نرون چند ورودي

عموماً يك نرون، بيش از يك ورودي دارد. در شكل زير مدل يك نرون يا R ورودي نشان داده شده است.