در این پایان نامه به معرفی آنالیز بازه ای و قضایا و قوانین حاکم بر حساب بازه ها پرداخته و روشهای تائید شده ای را در حل معادلات دیفرانسیل و معادلات انتگرال به صورت جداگانه مرور می کنیم. در هر مورد مشکلات پیش رو و راه کارهای مختلف رفع این موانع را با جزئیات بررسی می نماییم. به عنوان بخش اصلی کار به معرفی الگوریتم جدیدی بر اساس بیان متفاوتی از الگوریتم مور پرداخته، سپس به کمک آن کرانهایی برای معادلات انتگرو-دیفرانسیل و معادلات انتگرال دوبعدی ولترا-فردهولم می یابیم. در ادامه تلاش می کنیم تا با معرفی کران های جدیدی به کمک چند جمله ای های تیلور بازه ای، دقت روش پیشنهادی را افزایش دهیم. با حل مثالهای متنوع عددی به همراه تحلیل نتایج بدست آمده نشان می دهیم که روش در عمل قابل اطمینان و کاربردی می باشد و در نهایت با تغییر الگوریتم اقدام به حل یک مساله کاربردی در مهندسی شیمی می نماییم.

روش معروف سیمپلکس، ارائه شده توسط دانتزیگ، برای حل مساله برنامه ریزی خطی به رده مسایل برنامه ریزی خطی تکه ای و برنامه ریزی کسری خطی تعمیم داده شده است. در این پایان نامه، بدنبال تعمیم روش سیمپلکس برای حل مساله برنامه ریزی کسری خطی تکه ای هستیم، که از الگوی تعمیم روش سیمپلکس به مساله های برنامه ریزی خطی تکه ای و برنامه ریزی کسری خطی الهام گرفته است. درواقع روش سیمپلکس را برای حل مساله برنامه ریزی کسری خطی تکه ای، که یک رده کلی تر از مسائل برنامه ریزی خطی، برنامه ریزی کسری و برنامه ریزی کسری تکه ای می باشد، تعمیم خواهیم داد.

این پایان نامه مشتمل بر 5 فصل می باشد.در فصل اول مفاهیم اولیه و مقدماتی بیان می شود. در فصل دوم روش شبه طیفی را بیان خواهیم کرد.اساس این روش تقریب تابع جواب بر حسب درونیاب لاگرانژ می باشد.در واقع این روش مقادیر تابع جواب را در تعداد متناهی از نقاط می دهد. در فصل سوم مسائل کنترل بهینه بیان می شود. با استفاده از حساب تغییرات و اصل مینیمم پونتریاگین شرایط لازم بهینگی بدست می اید که این جزء روش غیر مستقیم در حل مسائل کنترل بهینه می باشد. در فصل چهارم با استفاده از روش شبه طیفی مسئله کنترل بهینه با یک مسئله برنامه ریزی غیر خطی جایگزین می شود. برای مسئله برنامه ریزی غیر خطی شرایط لازم kkt را نوشته و به ارتباط ضرایب لاگرانژ مرتبط با این مسئله و متغیر هم حالت مرتبط با مسئله کنترل بهینه می پردازیم. قضیه نگاشت هم بردار این ارتباط را نشان می دهد.دو دسته ازنقاط کلوکیشنی را انتخاب می کنیم.1.لژاندر گاوس لوباتو،2. چبیشف گاوس لوباتو. نتایج عددی نشان دهنده دقت بالا این روش را دارند.

در این پایان نامه ابتدا معادلات دیفرانسیل جبری (dae) را شرح داده، انواع مختلف این نوع از معادلات را معرفی کرده و ویژگی های مهم آن ها را مطرح می نماییم. سپس برخی از روش های عددی را که تاکنون برای حل این نوع معادلات مورد استفاده قرار گرفته است، معرفی می کنیم و مثال های متنوعی را برای نمایش کارایی این روش هامورد بررسی قرار می دهیم. در ادامه، روش شبه طیفی مبتنی بر چند جمله ای های چبیشف را برای حل معادلات dae خطی اندیس دو شرح می دهیم و با ارائه قضیه ای همگرای این روش را اثبات می نماییم. سپس به معرفی معادلات دیفرانسیل جبری کسری (fdae) پرداخته و از روش شبه طیفی برای حل این معادلات استفاده می کنیم. در ادمه به بررسی همگرایی این دسته از معادلات در حالت خطی و غیر خطی جبری می پردازیم. نهایتا، مثال های متنوعی را که نتایج تئوری حاصل از قضایای مربوط به روش همگرایی روش شبه طیفی را تائید می کند، در نظر گرفته ایم.

در این پایان نامه ، در فصل اول پس از بیان فضای هیلبرت به معرفی نظریه موجک ، تبدیلات موجک و بسط سری های موجک پرداختیم. در فصل دوم ، موجک های متعامد از جمله موجک هار ، موجک شانون و موجک دوبشیز بررسی شده است. در انتهای این فصل موجک دوبعدی پیوسته و گسسته شرح داده شده است. از ابتدای فصل سوم ، به بیان کاربرد اصلی موجک ها در آمار که همان براورد تابع رگرسیون ناپارامتری است پرداختیم و تقریب موجک برای براورد رگرسیون ناپارامتری را براساس روش کلاسیک ، بیزی و آستانه گذاری بلوکی به تفصیل بیان نمودیم. در بخش آخر کاربرد موجک در براورد پارامتر مدل های خطی جزیی و در کاهش بعد در رگرسیون تابعی بیان شده است. در فصل آخر به عنوان یک نمونه کاربردی ، کاربرد موجک در تشخیص دست خط جعلی را شرح دادیم.در این فصل نشان دادیم این روش 86/0 کارایی داشته است ولی دست خط افراد به عواملی مانند کیفیت خط که شامل نوع قلم و فشاری که نویسنده بر کاغذ می آورد و… بستگی دارد که گمان می رود با اسکن دست خط ها قابل تشخیص در تصویر نمی باشد ، لذا برای بالا بردن دقت این روش در تعیین صحت و اعتبار اسناد، این تکنیک نیازمند اصلاح می باشد.

ریاضیات زیستی، یک حوزه بین رشته ای از مطالعات آکادمیک است که فرآیند های زیستی را با استفاده از ابزار ها و روش ها، مدل سازی می کند. این رشته هم کاربرد نظری و هم کاربرد علمی در تحقیقات بیولوژیکی داشته که اغلب با همکاری بین ریاضی دانان، فیزیک دانان، زیست شناسان، پزشکان، جانورشناسان، شیمی دانان و .. انجام می گیرد. تحقیق در زیست شناسی غالباً بر پایه آزمایش با مواد استوار است در حالی که در ریاضیات زیستی، این آزمایش ها یک ماهیت نظری دارند. ریاضی دانان مفاهیم و ویژگی های سازماندهی شده را به کار می گیرند تا برای سوال هایی که زیست شناسان درباره ساختمان موجودات زنده مطرح می کنند، جواب هایی بیابند. یک ضرورت اصلی به کار بردن ریاضیات در سیستم های زیستی، توانایی ساخت مدل های ریاضی است. این مدل ها، دستگاه های ریاضی هستند که بر هم کنش های پیچیده سیستم های زیستی را با یک روش ساده ارائه می کنند واین امکان را به زیست شناسان می دهند که ویژگی های آن ها را راحت تر تحلیل کنند. ریاضیات در اکثر شاخه های زیست شناسی کاربرد دارد. یکی از حوزه های تحقیقاتی ریاضیات زیستی، مدل سازی فرآیند زیستی با مهار تولید و اثر تکانه ای است. جمع شدن محصولات در محیط کشت، رشد میکروارگانیسم ها را متوقف می کند و باروری فرآیند های زیستی را کاهش می دهد. تحقیق بر روی فیزیولوژی میکروارگانیسم ها نگاه جدیدی را بر روی مکانیسم (ساز و کار) مهار محصول فراهم می کند که باعث کم شدن هزینه های تخمیر در محصولاتی چون استون، اتانول ، لاکتیک اسید و ال- گلوتامیک اسید (lga) می شود . ال-گلوتامیک اسید (شناخته شده به صورت گلوتامین) تاکنون یکی از مهمترین آمینو اسید های تجاری است. تولید جهانی این محصول ، که به طور وسیع با تخمیر بدست می آید، به بیش از 1 میلیون تن در سال می رسد.lga به عنوان یک افزودنی طعم دهنده استفاده می شود و مشتقات زیاد آن برای شروع بسیاری از سنتز های شمیایی خاص مختلف بکار می روند . خیلی از پدیده های بیولوژیکی مانند آستانه ها، مدل های ریتمی ناگهانی در پزشکی، داروشناسی و سیستم های فرکانسی، اثرات تکانه ای را در خود نشان می دهند . بنابراین معادلات دیفرانسیلی تکانه ای به عنوان یک توصیف طبیعی از پدیده های مشاهده شده از بعضی مشکلات واقعی دنیا ظاهر شده است. مقاله های زیادی معادلات دیفرانیسل تکانه ای را در حالت پویای خود معرفی کرده اند و نیز نتایج جالبی بدست آورده اند . در فرآیند های میکروبی محققان زیادی بر روی مدل های حالت وابسته با کنترل حالت تکانه مطالعاتی کرده اند که از اصل پوانکاره و بندیکسون-پوانکاره در معادله دیفرانسیل تکانه ای استفاده کرده اند. اما هیچ یک از تحقیقات، اثر مهار محصول را بر روی مدل ریاضی در فرآیند زیستی با اثر تکانه ای در نظر نگرفته اند. این مسئله ما را بر آن داشت که در این پایان نامه به مدل سازی فرآیند های تکانه ای با مهار تولید و به بهینه سازی متغیرها بپردازیم. برای بهینه سازی، از الگوریتم ژنتیک استفاده می کنیم. این الگوریتم از قاعده زنجیره مارکوفی پیروی می کند که اثبات شده که این زنجیره همگرا است

یک رده ی بسیار مهم از مسائل بهینه سازی، برنامه‎ ریزی نیمه معین است. مدل سازی و بیان مسائل جهان واقعی به صورت برنامه ریزی نیمه معین از اهمیت بسزایی برخوردار است و امروزه حجم زیادی از پژوهش های مربوط به بهینه سازی غیرخطی را به خود اختصاص داده است. دلایل زیادی وجود دارد که برنامه ریزی نیمه معین به موضوعی جالب برای پژوهش بدل شده است. یکی از این دلایل این است که الگوریتم های موجود برای حل این رده از مسائل عملکرد نسبتا خوبی دارند. این امر به دلیل ساختار محدب فضای شدنی و درنتیجه خوش رفتار بودن برنامه ریزی نیمه معین در فرایند حل و داشتن حجم مهارشدنی محاسبات می باشد. دلیل دیگر به ساختار دوگان فضای شدنی مربوط می شود. در برخی از مسائل بهینه سازی، جواب مسائل اولیه و دوگان با هم برابر نیستند. ولی به دلیل این که در برنامه ریزی نیمه معین هردو مسئله ی اولیه و دوگان در اغلب حالات اکیدا شدنی هستند جواب مسائل اولیه و دوگان با هم برابر است. این مهم در فصل اول بررسی خواهد شد. دلیل دیگری که برنامه یرزی نیمه معین را به موضوعی جالب برای پژوهش بدل می کند توانایی بالای برنامه ریزی نیمه معین برای فرمول بندی مسائل کاربردی است. لازم به ذکر است که برنامه ریزی خطی حالتی خاص از برنامه ریزی نیمه معین است. و ثابت می شود که هر مسئله ی برنامه ریزی مخروطی درجه دوم نیز یک مسئله ی برنامه ریزی نیمه معین است. از آنجا که بیشتر مسائل کابردی غیرخطی هستند لذا الگوریتم های مربوط به این نوع مسائل همواره در حال ابداع و تکامل هستند. بسیاری از مسائل برنامه ریزی پس از آن که به زبان ریاضی مدل سازی شدند به صورتی در می آیند که به سادگی قابل حل نیستند. در این موارد تکنیک هایی از قبیل محاط کردن مسئله در مسئله ای با فضای شدنی بزرگ تر به ما کمک می کند تا به فرمی ساده تر از مسئله برسیم که با الگوریتم های موجود قابل حل باشد. به چنین فرایندی آزادسازی می گویند. بدیهی است که با اعمال تکنیک های متفاوت می توان به فرمول بندی های متفاوتی از مسئله دست یافت. نشان داده شده است که مسائل برنامه ریزی نیمه معین پیچیدگی محاسباتی مهارشدنی دارند و با الگوریتم های موجود به خوبی حل می شوند. از این رو آزادسازی نیمه معین مبحثی است که در هنگام مطالعه ی برنامه ریزی نیمه معین باید به صورت جدی مدنظر قرار گیرد. در فصل اول به این موضوع به اختصار خواهیم پرداخت. در واقع، طیف های متنوعی از مسائل برنامه ریزی وجود دارند که اعمال آزادسازی بر روی آن ها منجر به برنامه ریزی نیمه معین می شود. یک رده از مسائلی که اعمال آزادسازی بر روی آن ها برنامه ریزی نیمه معین تولید می کند، مسائل بهینه سازی ترکیبیاتی است. آزادسازی های مختلفی از این نوع مسائل در فصل اول بررسی شده است. از جمله الگوریتم های موثر برای حل مسائل برنامه ریزی نیمه معین، الگوریتم های مبتنی بر روش های صفحه ی برش می باشند. این روش ها در برنامه ریزی خطی اعداد صحیح یکی از متداول ترین روش ها هستند. از طرفی می توان نشان داد که هر مسئله ی برنامه ریزی خطی یک مسئله ی برنامه ریزی نیمه معین است. در این پایان نامه به دنبال به کارگیری این روش ها برای حل مسائل برنامه ریزی نیمه معین در حالت کلی هستیم که مقوله ای جدید در برنامه ریزی نیمه معین بوده که هنوز آن گونه که باید شناخته نشده است و الگوریتم های مربوط به آن همچنان در دست پژوهش برای بهبود عملکرد قرار دارند. روش های صفحات برش به دو صورت به کار برده می شوند: یا به صورت مستقل بصورت ترکیب آن ها با یک روش موثر دیگر. در روش ترکیبی یک زیرمسئله در هر تکرار ساخته می شود که معمولا به وسیله ی روش های نقطه درونی حل می شود. از این رو داشتن شناختی مختصر از این روش ها ضروری است. در این پایان نامه فصلی کوتاه به این موضوع اختصاص داده شده است. در مسائل برنامه ریزی خطی که در آن ها از روش های صفحات برش استفاده می شود، ابتدا یک آزادسازی از مسئله که فضای شدنی بزرگ تری دارد، ساخته شده و حل می گردد. سپس یک قید نامساوی (یک صفحه ی برش) به مسئله طوری افزوده می گردد که فضای شدنی را کاهش داده و جواب بهینه ی فعلی را صدق ندهد. سپس مسئله ی جدید با یک روش موثر (معمولا روش سیمپلکس اولیه- دوگان) حل می شود و این فرآیند تکرار می گردد. در مسائل برنامه ریزی نیمه معین در هر مرحله از فرآیند حل، یک آزادسازی از مسئله که فضای شدنی بزرگ تری دارد، معمولا به وسیله ی روش های نقطه درونی حل می گردد. سپس در مرحله ی بعد با تعداد زیادی نامساوی سروکار داریم که انتخاب هر دسته از آن ها به مسئله و ساختن زیرمسئله ی جدید یکی از مخاطرات جدی هر الگوریتم می باشد. این پایان نامه به ترتیب زیر تنظیم شده است: فصل اول به معرفی برنامه ریزی نیمه معین اختصاص دارد. فرم اولیه و دوگان برنامه ریزی نیمه معین و تعمیم های آن و همچنین دو فرم معادل از برنامه ریزی نیمه معین به تفصیل معرفی خواهند شد. همچنین چند مسئله ی مهم از بهینه سازی ترکیبیاتی بیان می گردد که با اعمال آزادسازی بر روی آن ها به برنامه ریزی نیمه معین تبدیل می شوند. در فصل دوم مفهوم صفحه ی برش بیان شده و چند نمونه از روش های صفحه ی برش معرفی می شوند. در فصل سوم روش های نقطه درونی را خواهیم داشت. این روش ها برای ساختن الگوریتم هایی که از روش های صفحات برش برای حل مسائل برنامه ریزی نیمه معین استفاده می کنند به کار می رود. در فصل چهارم دو نمونه از روش های صفحات برش را به تفصیل مورد بررسی قرار خواهیم داد که می توان آن ها را برای حل تمامی مسائل برنامه ریزی نیمه معین با ساختاری که در فصل اول بیان شد، به کار برد. در فصل چهارم یک روش صفحات برش خاص بیان خواهد شد که برای حل یک نوع خاص از برنامه ریزی نیمه معین به کار برده می شود و کارایی بهتری نسبت به سایر روش های صفحات برش دارد.

در روش ترکیبی اول،جهت متناظر با روش گرادیان مزدوج از فرمولی متمایز از فرمولهای روشهای موجود قبلی به دست می آید. در این روش با وارد شدن پارامتری در جهت مربوط تاثیر بردار گرادیان در جهت بدست آمده،تغییر می یابد. روش ترکیبی دوم،در واقع توسعه ای از روش دای-یوآن است،که با اصلاحات انجام شده که شرایطی به نام شرایط کاهش کافی را،که اخیرا در ادبیات موضوع مطرح شده است،دارا است.برای بررسی میزان کارایی الگوریتمهای ارایه شده،این الگوریتمها همراه با چند الگوریتم موجود دیگر در محیط برنامه نویسی ++c پیاده سازی و با اجرای برنامه ها و مقایسه نتایج محاسباتی بدست آمده کارایی الگوریتمها بررسی می شود.

در این پایان نامه برخی روش های عددی مانند تفاضل مرکزی، فرمول همیلتنی و روش فرمول عددی آگراوال برای حل مسائل کنترل بهینه کسری در نظر گرفته شده است. وجود و یکتایی جواب برای این مسائل مطرح شده است. حساب تغییرات، لاگرانژ ضربی و فرمول انتگرال کسری جز به جز برای بدست آوردن معادلات اویلر-لاگرانژ این مسائل استفاده شده است. در خاتمه روش شبه طیفی و کالوکیشن را برای این مسائل مطرح می کنیم. برخی مثال های عددی برای نشان دادن کارایی روش بیان شده است.

در این پایان نامه مسئله ی بهینه سازی در کنترل پیش بین مورد بررسی قرار گرفته است. در کنترل پیش بین، برای یافتن سیگنال کنترلی، یک مسئله ی بهینه سازی درجه دوم بایستی حل شود و از آنجا که این مسئله مقید است روشهای بهینه سازی مقید درجه دوم برای حل آن قابل ارائه است. برای حل مسئله ی بهینه سازی که در کنترل پیش بین با آن مواجه هستیم، روشهای گوناگونی وجود دارد. در این پایان نامه به یک الگوریتم خاص به نام الگوریتم پیش گو-اصلاح گر مهروترا پرداخته شده است و پس از شرح مزیت ها و ویژگی های آن، یک گونه ی اصلاح شده از این الگوریتم، ابتدا برای مسئله ی برنامه ریزی درجه دوم توسعه داده شده و سپس به مسئله ی کنترل پیش بین اعمال گردیده است. در نهایت با در نظر گرفتن چند سیستم مختلف و اعمال کنترل پیش بین پیشنهادی به آنها در حالتهای مختلف، با افقهای پیش بین گوناگون، کارآمدی این روش به دقت بررسی شده است. برای بررسی کارآمدی این روش، سرعت پاسخدهی آن با دستور مخصوص برنامه ریزی درجه دوم نرم افزار متلب مقایسه شده است. نتایج حاصل به خوبی نشان دهنده ی سرعت بیشتر در حل مسئله ی کنترل پیش بین در هر گام بوده است.

چکیده: نامه، ابتدا مفاهیم اولیه در ارتباط با مسائل کنترل بهینه فردهلم و ولترا و ?? در این پایان های عددی ?? برخی قضایای مرتبط به این مبحث را بیان کرده و سپس با استفاده از روش متفاوت به حل مسائل کنترل بهینه درگیر با معادلات انتگرال غیرخطی ولترا و فردهلم های طیفی بالاخصروش شبه طیفی بر اساس توابع ?? پردازیم. در ادامه به معرفی روش ?? می پایه لاگرانژ پرداخته و با استفاده از این روش، به حل مسئله کنترل بهینه درگیر با معادلات هایی، کارایی ?? پردازیم. در انتهای تمامی فصول با ارائه مثال ?? انتگرال غیرخطی فردهلم می ایم. ?? ها را نشان داده ?? این روش

به طور کلی مدل ریاضی مسائل مطرح در شاخه های مختلف علوم مهندسی و سایر علوم به صورت مجموعه ای از معادلات دیفرانسیل توصیف می شوند. در حل این قبیل معادلات برای یافتن جواب منحصر به فرد نیاز به افزودن تعداد کافی شرایط ویژه مانند شرایط مرزی به معادله دیفرانسیل داریم. در حالت کلی یافتن جواب تحلیلی چنین معادلاتی به خاطر پیچیدگی دامنه و شرایط مرزی مشکل و یا امکان ناپذیر است. بنابراین روش های عددی در جهت فراهم نمودن جواب های تقریبی مورد توجه قرار گرفته اند. روش اجزای محدود (fem) و روش اجزای مرزی (bem) روش های عددی قدرتمندی هستند که برای حل معادلات دیفرانسیل جزیی به کار برده می شوند. هر یک از این روش ها مزایا و معایب خاص خود را داراست و همین موضوع سبب می شود که در حل بعضی مسائل یکی از این روش ها بر دیگری ترجیح داده شود اما بدون شک مسائلی وجود دارند که در مورد آنها بهتر است بخشی از دامنه ی مورد بررسی به وسیله ی fem و بخش دیگر به وسیله ی bem تحلیل شود. از آنجایی که دستگاه معادلات حاصل از این روش ها بر حسب متغیرهای متفاوتی بیان می شود بنابراین نمی توان آنها را همان گونه که هستند با هم جفت (ترکیب) نمود. لذا در این پایان نامه سعی شده است که ضمن بررسی دقیق هر یک از این دو روش سازگاری آنها با یکدیگر مورد بررسی قرار گیرد و راه های مختلف برای جفت شدن و شرایط لازم برای همگرایی و پایداری آنها مطرح شود.

مسئله پهنای باند گراف یک مسئله np-کامل است.اگر g را گرافی ساده وبدون جهت با مجموعه رئوس v شامل n عضو در نظر بگیریم.یک برچسب گذاری از گراف gاختصاص اعداد صحیح{‎1,...,n}به رأس های گراف g است.هدف از مسئله پهنای باند گراف یافتن برچسبی است که در آن بیشترین فاصله ی بین دو رأس مجاور مینیمم شود.هر چند برای خانواده خاصی از گراف هاالگوریتم های شناخته شده ای وجود دارد که می تواند مقدار دقیق این مسئله را در زمان چندجمله ای محاسبه کند,اما در حالت کلی بدست آوردن یک تقریب ثابت برای این مسئله کاری دشوار است.دراین پایان نامه,دو کران جدید بر اساس آزادسازی نیمه معین مسئله تخصیص درجه دوم بدست می آیند.بررسی های عددی نشان می دهند که این کران های پیشنهادی در مقایسه با کران های موجود نتایج بهتری را فراهم می کند.

در این پایان نامه، یک روش ناحیه اعتماد غیردقیق برای حل مسایل کمترین مربعات غیرخطی مقید کران دار معرفی می شود. این روش مساله را به صورت یک مدل گوس-نیوتن در نظر گرفته و در هر تکرار، زیرمساله ناحیه اعتماد به صورت تقریبی توسط روش گرادیان مزدوج حل می شود. تحت شرایط کنترلی مناسب روی پارامترها، نشان داده می شود که روش پیشنهادی دارای ویژگی های همگرایی سراسری و مجانبی سریع است. در پایان، نتایج عددی، عملکرد روش را در عمل نیز تشریح می کنند.

یک الگوریتم ساده گرادیان مزدوج سه جمله ای که در هر دو شرط کاهشی و مزدوجی صدق می کند، ارایه می شود. این ویژگی ها مستقل از جستجوی خطی هستند. هم چنین، الگوریتم پیشنهادی را می توان اصلاح شده ای از الگوریتم شبه نیوتن bfgs (بی حافظه) در نظر گرفت. برای توابع به طور یکنواخت محدب، تحت فرضیات استاندارد، همگرایی سراسری الگوریتم اثبات شده است. نتایج عددی حاصل از پیاده سازی الگوریتم گرادیان مزدوج سه جمله ای پیشنهادی با شش الگوریتم گرادیان مزدوج سه جمله ای دیگر روی یک مجموعه مسایل آزمونی بهینه سازی نامقید بیانگر این است که الگوریتم پیشنهادی در مجموع کمی سریع تر و قوی تر از بقیه عمل می کند.

مساله ترمیم تصویر‏‏، اغلب به مسایل بهینه سازی مقیاس بزرگ‏‏، ناهموار و نامحدب تبدیل می شود.‏ اغلب روش های بهینه سازی‏، برای حل چنین مسایلی کا‏را نیستند. روش گرادیان مزدوج‏، به دلیل‎‎‏ سادگی‏، ذخیره سازی کم‏، همگرایی موضعی وسراسری مناسب و نیز پیاده سازی ساده‏، برای حل مسایل بهینه سازی با مقیاس بزرگ‏، ایده آل است.در این پایان نامه‏، به معرفی روش گرادیان مزدوج هموارساز برای مساله ترمیم تصویر می پردازیم‏، که در هر تکرار‏، پارامتر هموارساز بهنگام می شود. می توان نشان داد که هر نقطه حدی تولید شده توسط این روش‏، یک نقطه ایستای کلارک برای مساله بهینه سازی ناهموار و نامحدب است. علاوه بر این‏، به معرفی دسته ای از توابع هموارساز و خواص تقریبی آن می پردازیم.‎این روش‏، ‏بدون افزودن متغیرهای جدید به سادگی پیاده سازی می شود. در پایان‏، نتایج عددی مقایسه این روش با روش استمراری را آورده و کارایی روش گرادیان مزدوج هموارساز را نشان می دهیم.

مساله ی کوله پشتی از رده مسایل تخصیص است که مقید به قید اندازه است. این مساله در حالت درجه دوم به ماکزیمم کردن تابعی درجه دوم تبدیل می گردد. تاکنون الگوریتم دقیقی برای این دسته از مسایل مطرح نشده است. از زمان معرفی این دسته از مسایل، تلاش ها بر روی بهبود تخمین و یا بدست آوردن عامل ثابتی از تقریب متمرکز شده است. کاربردهای متفاوت و بسیار این مساله هم در حوزه صنعت و هم به عنوان زیرمساله در مسایل دیگر، بر این تلاش ها افزوده است. در ضمن، ساختار خود مساله با توجه به فرمول بندی ساده و حل پیچیده آن، این دسته از مسایل را جذاب تر کرده است. مساله ی کوله پشتی بیش از یک قرن مورد مطالعه قرار گرفته و اولین بررسی آن به سال ‎1897‎ برمی گردد. هرچند اولین داده های ثبت شده در این مورد، به کارهای ریاضیدانی به نام دانتزیگ‎ منسوب است، شواهد نشان می دهد که مفهومی با عنوان مساله ی کوله پشتی قبلا در میان عامه ی مردم وجود داشته است. ‎ در سال ‎1988‎، تحقیقی از دانشگاه استونی بروک بر روی مجموعه ای از الگوریتم ها، نشان داد که از میان ‎75‎ مساله ی الگوریتمی، مساله ی کوله پشتی، هیجدهمین مساله ی معروف و چهارمین مساله ی پرکاربرد بعد از درخت کی دی‎، درخت پیشوندی‎ ‎ و مساله ی بسته بندی صندوق است ‎ این پایان نامه به بررسی مساله کوله پشتی درجه دوم می پردازد و فرایند این بررسی در چهار فصل به شرح زیر انجام می گیرد در فصل اول، ابتدا به تعاریف، مفاهیم و پیش نیازهای اولیه اشاره می شود. بعد از تعریف نوع مساله، به سراغ روش هایی خواهیم رفت که در این پایان نامه مورد توجه هستند. ابتدا مساله برنامه ریزی نیمه معین و مفهوم آزادسازی معرفی خواهند شد. سپس برنامه ریزی پویا و گام های آن مطرح می گردند. در انتها نیز بهینه سازی مقاوم تعریف خواهد شد. در فصل دوم، مساله برنامه ریزی نیمه معین و آزادسازی های آن به تفضیل مورد بررسی قرار می گیرند. در این فصل مقایسه ای بین این نوع آزادسازی و آزادسازی خطی صورت خواهد گرفت. ملاحظه می شود که حتی در حالتی که تابع هدف خطی است، آزادسازی نیمه معین برتری دارد. در ادامه، برای بهبود آزادسازی ها، صفحات برش معرفی می گردند. این صفحات برش به حالت درجه دوم تعمیم داده شده و در نهایت برای تقویت این صفحات روش هایی بیان می شود. در فصل سوم، روش برنامه ریزی پویا برای حل مساله کوله پشتی درجه دوم مطرح می گردد. در این فصل برای بهبود جواب، از روش صفحات بالایی که در مراجع ‎ عنوان شده است، استفاده می گردد. هم چنین، از یک اصلاحیه فنی که با تغییر در الگوریتم معرفی شده بدست می آید، بهره می گیریم تا جوابی نزدیک تر به جواب بهینه را بیابیم. در فصل چهارم، ابتدا به بحث مساله ی کوله پشتی خطی مقاوم می پردازیم . مسایل استاندارد با روش برنامه ریزی پویا به طور دقیق قابل حل هستند. سپس، مباحث بهینه سازی کوله پشتی خطی مقاوم را به مساله کوله پشتی درجه دوم تعمیم خواهیم داد.

ابتدا یک مدل موضعی برای تابع لیپشیتز که با تقریبی از جهت تندترین کاهش ایجاد شده است‏، معرفی می شود. بر اساس این مدل‏، زیرمساله درجه دوم در روش ناحیه اعتماد کلاسیک با جایگزینی بردار گرادیان با تقریبی از جهت تندترین کاهش ارایه می شود. سپس‏، برای حل این زیرمساله، یکی از روش های کارا در روش های ناحیه اعتماد کلاسیک به کار گرفته می شود. همگرایی سراسری الگوریتم ارایه شده تحت شرایطی استاندارد و با استفاده از قاعده به هنگام سازی ‎lr‏{?bfgs‎‎?}‏‎ برای ماتریس هسی مدل نشان داده می شود. ? در ادامه‏، به منظور افزایش کارایی‏ الگوریتم پیشنهادی، ترکیبی از این الگوریتم با یک روش جستجوی خطی ارایه می شود. در الگوریتم های ناحیه اعتماد‏، اگر جواب زیرمساله درجه دوم منجر به کاهش کافی در تابع هدف نشود‏، آن گاه از شعاع ناحیه اعتماد کاسته و زیرمساله درجه دوم دوباره حل می شود. برای جلوگیری از حل دوباره ی زیرمساله‏، در صورتی که گام آزمایشی تولیدشده از حل زیرمساله‏‏، جهت کاهشی برای تابع نباشد‏، روش جستجوی ‎‎خطی پیمایش‎‎‎ وارون در راستای جهت تندترین کاهش‏ تقریبی اجرا می شود. همگرایی سراسری الگوریتم ترکیبی تحت فرضیاتی استاندارد ثابت می شود. در پایان‏، الگوریتم های پیشنهادی در محیط متلب روی برخی مسایل بهینه سازی ناهموار آزمون قرار می شوند. ‏% زیرا این جهت‏، کاهش کافی را در تابع هدف ایجاد می کند.

رو‏ش‏ های گرادیان مزدوج ‏را برای حل مسایل بهینه سازی نامقید در مقیاس بزرگ بررسی می کنیم که در آن ها برای محاسبه ی ‎‎‏پارامتر روش گرادیان مزدوج‏، علاوه بر گرادیان از مقدار تابع نیز استفاده می شود. ‏این روش ها به دلیل سادگی ساختار، خواص همگرایی خوب و نیاز به حافظه کمتر‏، نقش ویژه ای را در مقوله بهینه سازی ایفا می کنند. ‎‎در این پایان نامه، یک رده جدید از روش های گرادیان مزدوج طیفی که اخیرا در ادبیات موضوع مطرح شده است، با عنوان روش گرادیان مزدوج اصلاح شده پری معرفی می شود. این روش شرط کاهش کافی را مستقل از نوع جستجوی خطی به کار رفته تضمین می کند. جذابیت روش پیشنهادی در این است که تخمین انحنای مرتبه دوم تابع هدف با استفاده از شرایط سکانت اصلاح شده بابایی با دقت بالایی صورت می پذیرد. نتایج همگرایی سراسری روش پیشنهادی روی توابع کلی با شرط جستجوی خطی ولف مورد بررسی قرار می گیرد.‎‎‎‎ هم چنین، نتایج عددی نشان می دهد که روش پیشنهادی نسبت به روش کلاسیک گرادیان مزدوج از لحاظ کارایی و استواری ترجیح داده می شود.‎‎ روش های پیشنهادی در محیط نرم افزاری ‎ ‎‎‎‎‎‎matlab ‎ پیاده سازی و روی دسته ای از مسایل بهینه سازی نامقید‏، انتخاب شده از مجموعه مسایل ‎ ‎‎cuter‎ ‎ ‏، آزمون و مقایسه می شوند

برای حل مسایل بهینه سازی نامقید روش های متفاوتی، از جمله روش های گرادیان مزدوج، نیوتن، شبه نیوتن موجود است.در این پایان نامه، به بررسی روش حل مسایل بهینه سازی نامقید با استفاده از روش گرادیان مزدوج می پردازیم، و روش جدید گرادیان مزدوج حافظه محدود را معرفی کرده وقضایای همگرایی آن را ثابت می کنیم. در تئوری، گرادیان های متوالی تولید شده توسط روش گرادیان مزدوج زمانی که به یک مدل درجه دوم اعمال می شوند متعامد هستند. با این حال، برای بعضی از مسایل بد حالت، تعامد به علت خطای گرد کردن، سریعاً از دست می رود و همگرایی کندتر از حد انتظار است. در این پروژه، نسخه ای از روش گرادیان مزدوج با حافظه محدود که اخیراً در ادبیات موضوع ارایه شده است، مورد تحلیل و بررسی قرار می گیرد. در این روش جدید، حافظه برای نمایش تعامد جهت جستجو و با از دست دادن تعامد برای تولید جهت جستجوی متعامد استفاده می شود.

روش های ناحیه اعتماد یکی از روش های حل مسایل بهینه سازی نامقید است که به صورت گسترده ای در ادبیات موضوع مورد بررسی قرار گرفته و در حل دستگاه معادلات غیرخطی نیز به کار گرفته شده اند. دستگاه معادلات غیرخطی متقارن دستگاهی است که در آن ماتریس ژاکوبین یک ماتریس متقارن است. این نوع از دستگاه ها در علوم مهندسی و به ویژه تخمین تابع و برآورد پارامترها کاربرد زیادی دارد. در این پایان نامه، یک روش ناحیه اعتماد جدید برای حل دستگاه معادلات غیرخطی منفرد، که اخیرا در ادبیات موضوع مطرح شده است، ارایه می شود که از یک زیر مساله منظم سازی شده بهره می گیرد. هم چنین، رویکرد بهنگام سازی ‎bfgs‎ در بهنگام تقریب هسی مورد استفاده قرار می گیرد و شعاع ناحیه اعتماد با ساختار جدید بهنگام می شود. نتایج عددی حاصل از اعمال روش روی مسایل آزمونی، بیان گر کارایی روش جدید است

در این پایان نامه، یک روش برنامه ریزی درجه دوم متوالی که اخیراً در ادبیات موضوع مطرح شده است ارایه می گردد. این روش در صدد برطرف کردن برخی از عیوب روش های برنامه ریزی درجه دوم متوالی موجود است. این مهم توسط زیرمساله های همواره محدب به منظور غلبه بر مشکلات موجود در زیرمساله های نامعین برنامه ریزی درجه دوم متوالی صورت می پذیرد. در ساختار جدید یک فاز برنامه ریزی درجه دوم مقید تساوی وجود دارد که همگرایی سریع و بهبود عملکرد در حضور شرایط نامناسب را تضمین می کند. فاز برنامه ریزی درجه دوم مقید تساوی از اطلاعات مرتبه دوم دقیق استفاده کرده و با استفاده از روش مستقیم یا تکراری حل می شود.

مهمترین مسأله مطرح برای سرمایه گذاران بخصوص در آغاز فعالیت‍های اقتصادی ،مسأله تخصیص سرمایه به یک یا چند گزینه مختلف سرمایه گذاری است.تا ضمن داشتن حداکثر بازده حداقل ریسک را متحمل شود.این موضوع در ادبیات اقتصادی به عنوان مسأله پرتفوی مطرح است.این پایان نامه بر آن است که به ارائه روشی کارا به منظور پشتیبانی از فرد تصمیم گیرنده در انتخاب پرتفوی مناسب جهت سرمایه گذاری، بپردازد.در این مطالعه یک روش استوار را برای شرح بازده فازی با به کارگیری توزیع امکان پارامتریک توسعه می دهیم. توزیع امکان پارامتریک با کمک روش های کاهشی مقدار معادل (ev)به دست می آیند. همچنین مسأله انتخاب پرتفوی مبنی بر مدل های پاداش-ریسک و ریسک-پاداش در نظر گرفته می شود. که به منظور تطبیق هر چه بیشتر مل بت دنیای واقعی ، بازده های سهام به صورت متغیرهای فازی در نظر گرفته شده اند. با توجه به نمایشی که برای گشتاورهای دوم ارائه می شود مدل های پاداش-ریسک و ریسک-پاداش، به برنامه ریزی درجه دوم پارامتریک معادل شان تبدیل می شوند. در اماما فرم برنامه ریزی مخروطی و نیمه معین برای آن ها بدست می آوریم و سپس آن را با استفاده از نرم افزار matlab و جعبه ابزار sedumi حل می کنیم.سرانجام، نتایج عددی حاصل از اجرایی الگوریتم رامی آوریم.

در این پژوهش، یک روش کنترل بهینه مبتنی بر چارچوب سیستم های غیرخطی به منظور بهبود عملکرد کنترل کلی سیستم های غیرخطی ارائه گردید است. اولاً، سیستم های غیرخطی با استفاده از تعدادی از روابط مدلهای آفلاین تکه ای تقریب زده می شوند، روابطی که خود از طریق سیستم های غیرخطی در نقاط عملیاتی تعیین شده ایجاد می گردند. سپس این مدل های تبدیلی در چارچوب سیستم های ترکیبی با یکدیگر ترکیب شده و یک مساله مرتبط در حوزه کنترل بهینه را پایه ریزی می کنند که در آن متغیرهای تصمیم گیری نه تنها شامل کنترل مجاز پیوسته، بلکه شامل زمانبندی مدل های زیرسیستمی نیز هستند. ثانیاً، این مساله دستیابی به کنترل بهینه از طریق گسسته سازی در کل فضای حالت و فضای کنترل مجاز به منظور دستیابی به راه حل عددی بهینه به یک مساله miqp تبدیل می گردد. به منظور تسریع نمودن این الگوریتم، یک روش همزمان در رابطه با المان های محدود نیز مورد استفاده قرار می گیرد تا بدین وسیله از ابعاد مساله miqp کاسته شود. در نتیجه، یک mpc مبتنی بر مدل ترکیبی برای سیستم های خطی طراحی شده و آثار نامطلوب عدم مطابقت مدل که از روش همزمان حاصل شده است با اتخاذ استراتژی mpc تقلیل داده شود. شبیه سازی ها و قیاس های انجام گرفته با روش های سوییچینگ نرم (soft-switching)، سوییچینگ سخت (hard-switching) و hmb تاییدکننده این موضوع هستند که با استفاده از رویکرد ارائه شده می توان به یک عملکرد مطلوب دست یافت.

اصلاحات ساده از روش حافظه محدود bfgs برای حل مسائل مقیاس بزرگ بهینه سازی نامقید که اخیرا در ادبیات موضوع مطرح شده است ارائه می شود. این اصلاحات شامل تصحیح بردارهای تفاضلی به کار رفته و هم چنین استفاده از اطلاعات تکرارهای قبلی است. در حالتی که تابع هدف درجه دوم باشد, با همگرایی الگوریتم, بردارهای تفاضلی ذخیره شده برای طول گام های واحد, مزدوج هستند. نتایج همگرایی الگوریتم برای توابعی که بع اندازه کافی محدب و هموار هستند ارائه می شود. نتایج همگرایی نشان می دهد که روش جدید از روش l-bfgs کاراتر است.

روش های برنامه ریزی درجه دوم متوالی با فیلتر یکنوا و نایکنوا برای حل مساله ی بهینه سازی غیرخطی مقید مطالعه می شوند. در روش یکنوا، از یک فیلتر، شامل لیستی از نقاط تولید شده توسط الگوریتم، برای برقراری همگرایی سراسری روش های برنامه ریزی درجه دوم متوالی استفاده می شود. روش فیلتر یکنوا بدون استفاده از گام های اصلاحی مرتبه دوم، ممکن است دچار اثر ماراتوس شود. با توجه به هزینه ی سنگین محاسبه ی گام های اصلاحی مرتبه دوم، روش فیلتر نایکنوا در ادبیات موضوع طراحی و معرفی شده است. این روش از دو فیلتر استفاده می کند: فیلتر استاندارد سراسری، با عنوان g-فیلتر که همگرایی سراسری روش را تضمین می کند و فیلتر نایکنوای موضعی، با عنوان l-فیلتر که امکان همگرایی موضعی سریع روش را فراهم می کند. چگونگی تعویض کارا بین این دو فیلتر بیان می شود. به علاوه، همگرایی سراسری و همگرایی موضعی زبرخطی روش ثابت می شود. ویژگی شاخص این روش عدم نیاز به گام های اصلاحی مرتبه دوم برای جلوگیری از اثر ماراتوس است. نتایج عددی حاصل از پیاده سازی این روش در محیط نرم افزاری fortran و اجرای برنامه روی مساله های آزمون کتابخانه ی cuter، نشان دهنده ی کارایی و پایداری روش است.

در این پایان نامه، ابتدا قانون جستجوی خطی نادقیق نایکنواخت جدیدی که اخیرا در ادبیات موضوع مطرح شده است، ارائه می شود و سپس در روش ناحیه اعتماد برای مسایل بهینه سازی نامقید به کار برده می شود. در این قانون جستجوی خطی، مولفه نایکنواخت به جای مقدار تابع هدف فعلی ترکیب محدبی از مولفه نایکنواخت قبلی و مقدار تابع هدف فعلی است. با استفاده از این روش می توان در هر فرآیند جستجوی خطی به طول گام بزرگتری رسید و با به کار بردن مولفه نایکنواخت در روش ناحیه اعتماد می توان از خاصیت نایکنواختی نیز برخوردار بود. برخلاف روش ناحیه اعتماد سنتی، اگر گام آزمایشی پذیرفته نشود الگوریتم از حل مجدد زیرمساله اجتناب می نماید. تحت شرایط مناسب، همگرایی سراسری برقرار است. نتایج عددی نشان می دهد که روش جدید برای حل مسایل بهینه سازی نامقید کارآمد است.