آموزش شبکه عصبی توابع پایه شعاعی به روش ترکیبی الگوریتم بهینه سازی توده ذرات و جستجوی ممنوع برای تقریب توابع

تقریب توابع، از جمله مسائلی می باشد که از دیر باز مورد علاقه علوم مختلف، از ریاضیات کاربردی گرفته تا علوم کامپیوتر قرار دارد. همواره روش های متعددی برای تقریب توابع وجود داشته اند و با گذر زمان این روش ها مورد بهبود قرار گرفتند، و یا روش های جدیدی برای تقریب توابع معرفی شدند. یکی از روش های تقریب توابع، استفاده از شبکه های عصبی می باشد. آموزش شبکه های عصبی در واقع خود نوعی از تقریب توابع می باشد، چون در آن باید روابط حاکم بر لایه های مختلف شبکه را تقریب زد تا به خروجی مطلوب دست یابیم. آموزش شبکه عصبی عمدتاً به روش پس انتشار خطا یا گرادیان نزولی صورت می گیرد، اما گاهی از الگوریتم های ابتکاری نیز برای آموزش شبکه عصبی استفاده می شود که می تواند مزایا یا معایبی را به همراه داشته باشد. با توجه به کارهایی که تا کنون توسط پژوهشگران در این زمینه انجام شده، استفاده از الگوریتم های بهینه سازی به عنوان یک ابزار برای آموزش شبکه های عصبی می تواند زمان آموزش را کاهش دهد و میزان همگرایی را افزایش دهد و در نتیجه خطای کمتری را در پی داشته باشد. از زمان معرفی الگوریتم های بهینه سازی همواره تلاش در ایجاد تغییرات و انجام ترکیب های مختلف در این الگوریتم ها به منظور بهبود پاسخ آن ها وجود داشته است، که باعث افزایش بازدهی، کاهش زمان جستجو و کاهش حجم محاسبات می شود، این تغییرات گاهی روی ساختار اصلی خود الگوریتم بهینه سازی صورت می پذیرد و گاهی با ترکیب این الگوریتم ها با سایر روش ها و الگوریتم های بهینه سازی انجام می گیرد. در پایان نامه پیش رو، به منظور تقریب توابع از شبکه های عصبی توابع پایه شعاعی و برای آموزش آن از ترکیب الگوریتم بهینه سازی توده ذرات و الگوریتم جستجوی ممنوع استفاده کردیم، در واقع با استفاده از ترکیب این دو الگوریتم از مزایای دو الگوریتم استفاده کرده و معایب آن ها را کاهش می دهیم تا به پاسخ بهتر و دقت بالاتری دست یابیم. برای این منظور، انتخاب برخی پارامتر های الگوریتم بهینه سازی توده ذرات، را توسط الگوریتم جستجوی ممنوع انجام دادیم و تاثیر این کار را بر روی بازده آموزش شبکه عصبی توابع پایه شعاعی بررسی کردیم و با آموزش شبکه عصبی با روش گرادیان نزولی و آموزش با استفاده از الگوریتم بهینه سازی توده ذرات کلاسیک مورد مقایسه قرار دادیم.