روش های bfgs اصلاح شده و بررسی همگرایی آن ها

چکیده بهینه سازی را می توان علم مشخص نمودن بهترین جواب برای یک مسئله که بصورت ریاضی تعریف شده است، بیان کرد. یکی از شاخه های اساسی بهینه سازی، برنامه ریزی غیرخطی است و یکی از زیر رده های برنامه ریزی غیرخطی، حل مسئله نامقید غیر خطی است. برای حل این مسئله روش های متنوعی ارائه شده است که می توان به روش گرادیان، نیوتن، شبه نیوتن، گرادیان مزدوج و... اشاره کرد. روش های شبه نیوتن، از مشهورترین روش های تکراری برای حل مسائل نامقید است. در بین روش های شبه نیوتن، روش bfgs یکی از مهمترین روش ها برای حل مسائل بهینه سازی است. خصوصیات همگرایی این روش هنگامی که برای توابع محدب به کار می رود، به خوبی بررسی شده است. اما این سوال که تحت چه شرایطی این روش برای بهینه سازی نامحدب، به طور سراسری و زبر خطی همگراست، مدت ها بی پاسخ مانده بود. در جهت پاسخ به این سوال، li و fukushima ، با ایجاد اصلاحاتی در روش bfgs ، موفق شدند یک روش bfgs اصلاح شده ارائه کنند که به طور سراسری و زبرخطی همگراست. بسیاری از محققان، از ایده li و fukushima ، در تحقیقات خود استفاده نمودند. به دنبال این کار، در جهت بهبود خصوصیات همگرایی روش bfgs در بهینه سازی نامحدب، محققان به صورت های مختلف به اصلاح این روش پرداختند. به عنوان مثال، عده ای از این محققان، از جستجوی خطی غیر یکنواخت کمک گرفته اند و روش های bfgs اصلاح شده غیر یکنواخت را ابداع کردند. آن ها مشاهده نمودند که روش های bfgs غیر یکنواخت، نتایج خوبی در همگرایی از خود به جای می گذارند. در این پایان نامه، به بررسی چند روش bfgs اصلاح شده می پردازیم. از جمله روش bfgs اصلاح شده توسط li و fukushima را به طور کامل ارائه خواهیم داد و به دنبال آن روش bfgs اصلاح شده غیر یکنواخت xiao و همکارانش را معرفی خواهیم کرد و همگرایی سراسری آن را اثبات خواهیم نمود. سپس با توجه به روش های bfgs اصلاح شده مذکور، یک فرمول بهنگام جدید برای این روش ارائه خواهیم داد. روش bfgs اصلاح شده جدید از نوع غیر یکنواخت می باشد که نتایج عددی نشان می دهند که روش جدید، یک روش موثر برای حل مسائل بهینه سازی نامقید است. در ادامه نشان می دهیم که این روش، به طور سراسری همگراست.