ترکیب شبکه های عصبی با تاکید بر گوناگونی

ترکیب طبقه بند ها رویکردی است جهت بهبود عملکرد طبقه بندی خصوصاً برای مسایل پیچیده ای از قبیل مسایلی که محدودیت تعداد الگو، مجموعه ویژگی با بعد بزرگ و کلاس های همپوشان دارند. در روش های ترکیب، ثابت شده است که قاعده تقسیم و غلبه در بسیاری از این وضعیت های پیچیده موثر است. اختلاط خبره ها یکی از شناخته شده ترین روش هاست که بر اساس قاعده تقسیم و غلبه پایه گذاری شده است. در این روش فضای مسأله بین تعدادی از شبکه های عصبی با نظارت یک شبکه میانجی تقسیم می شود. بر اساس نوع استراتژی تقسیم فضای ورودی، پیاده سازی روش های اختلاط خبره ها به دو دسته تقسیم می شود: اختلاط خبره های محلی شده ضمنی و اختلاط خبره های محلی شده صریح. بررسی و مقایسه این دو روش و بحث بر روی مزایا و معایب هر یک از آنها نشان می دهد که دو رویکرد ویژگی های مکملی دارند. لذا در این پایان نامه، یک روش اختلاط خبره های ترکیبی پیشنهاد می شود تا در یک ساختار آموزشی ترکیبی، تجزیه صریح فضای مسأله در الگوریتم آموزش ضمنی اختلاط خبره ها شرکت داده شود. تجزیه و تحلیل تئوری و نتایج آزمایشی روی یک داده مصنوعی و چند مسأله طبقه بندی معیار نشان می دهد که ترکیب رویکرد های پایه مطرح شده در یک سیستم ترکیبی می تواند مزایای آنها را حفظ و معایب آنها را رفع نماید. یکی از موثرترین رویکرد ها برای تولید خبره هایی با همبستگی منفی، آموزش شبکه های عصبی با استفاده از مجموعه آموزشی متفاوت است. آموزش با همبستگی منفی (ncl) و اختلاط خبره ها (me)، دو روش پرکاربرد هستند که هر یک تابع خطای خاص خود را برای آموزش همزمان شبکه های عصبی به کار می گیرند تا شبکه های عصبی با همبستگی منفی تولید نمایند. روش های ncl و me از طریه تشویق خبره ها به بخش ها یا جنبه های مختلف داده های آموزشی، به صورت ضمنی دسته های آموزشی متفاوتی ایجاد می نمایند. در این پایان نامه ویژگی های روش های ncl و me مرور شده و مزایا و معایب هر دو بررسی می شود. ویژگی های هر دو روش نشان می دهد که ویژگی های متفاوت ولی مکمل دارند، طوری که اگر یک سیستم ترکیبی طراحی شود که شامل ویژگی های ncl و me شوند، می تواند بهتر از رویکردهای پایه اش باشد. در این پایان نامه دو رویکرد جهت ترکیب ویژگی های این روش ها پیشنهاد شده است که عباتند از: به کارگیری شبکه میانجی جهت ترکیب شبکه هایی با همبستگی منفی و اختلاط خبره هایی با همبستگی منفی.