abstract: in this thesis, we focus to class of convex optimization problem whose objective function is given as a linear function and a convex function of a linear transformation of the decision variables and whose feasible region is a polytope. we show that there exists an optimal solution to this class of problems on a face of the constraint polytope of feasible region. based on this, we develop an algorithm that is inspired by the simplex method of linear programming. although the simplex method for linear programming may generate an exponential of solution but this method is an efficiency algorithm for linear programming problems so we encounter to less number of iteration. we show that this proposed method in the special case that the convex function has only a single argument is terminated in a finite number of iterations. we then use this insight to develop a second algorithm that solves the problem in a finite number of iterations for and arbitrary number of arguments in the convex function. a computational study illustrates the efficiency of the algorithm and suggests that the average-case performance of these algorithms is a polynomial of low order in the number of decision variables. in this thesis, we study the following class of nonlinear programming problems: where is a vector of decision variables, , , , and are the problem data, and is a convex function with continuous partial derivatives. in addition, we assume that the feasible region of (cp) is nonempty and bounded, so that an optimal solution to (cp) exists. for convenience, we denote the feasible region of (cp) by p. we will develop two solution methods that solve (cp) through solving a sequence of either one-dimensional or k dimensional linear and convex programming problems. the methods that we develop are partially inspired by the simplex for linear and convex programming. where we employ the fact that we can show that (cp) has an optimal solution that lies on a face of p of dimension k. note that this generalizes the well-known result that a programming problem has an extreme point optimal solution (provided an optimal solution exists.) our proposed algorithm generate a sequence of solutions on face of p of dimension no more than k. finally we generate the algorithms that solve (cp) problems and we use of them to solve the following problems: (cp) this kind of problems are solved analogous to (cp) problems except the nonbasic variables solution would be bounds of nonbasic. key words: convex optimization, simplex-inspired method, nonlinear programming, zangwill algorithm, kkt optimization conditions.

روش های بسیاری برای حل مسائل بهینه سازی نامقید وجود دارد که نمونه هایی از روش نیوتن می باشند. هر تکرار روش نیوتن به تعیین ماتریس هسی متشکل از مشتق های مرتبه دوم تابع هدف نیاز دارد. روش های شبه نیوتن برای مواقعی که محاسبه ماتریس هسی مشکل یا پرهزینه باشد، کاربرد دارد. روش های شبه نیوتن ماتریس هسی را در هر تکرار با استفاده از فقط مشتق های مرتبه اول تقریب می کنند. تقریب های فوق در هر تکرار با یک ماتریس رتبه پایین بهنگام می شوند. در بهینه سازی نامقید، معادله شبه نیوتن اصلی به صورت ، که در آن تفاضل گرادیان های دو تکرار آخر است. در این پایان نامه، ابتدا یک معادله شبه نیوتن جدید به صورت ارائه می کنیم، که در آن حاصل جمع با ، به ازای بعضی ماتریس می باشد. چهار انتخاب برای ماتریس پیشنهاد می کنیم که شامل بعضی اطلاعات مرتبه دوم هسی تابع هدف است.

در این پایان نامه، با دنبال کردن رهیافت مطرح شده دای و لیائو دو روش گرادیان مزدوج غیر خطی جدید برای حل مسائل بهینه سازی نامقید مطرح می کنیم. یکی از روش های پیشنهادی، مبتنی بر یک نسخه اصلاح شده از معادله سکانت ژانگ، دنگ و چن و ژانگ و شوو می باشد. روش دیگر مبتنی بر بهنگام سازی bfgs اصلاح شده یوان می باشد. ویژگی جالب این روش ها این است که هم مقادیر تابع و هم مقادیر گرادیان را برای تقریب دقیق تر انحنا به کار می گیرند. تحت شرایط مناسب، نشان می دهیم که یکی از روش های مطرح شده برای توابع عمومی، همگرای سراسری است و روش دیگر برای توابع به طور یکنواخت محدب همگرای سراسری است. همچنین، با توجه به این که انتخاب طول گام آغازین، اجرای روش های گرادیان مزدوج را تحت تاثیر قرار می دهد. برای اجرای بهتر روند جستجوی خطی، یک رهیافت جدید برای محاسبه طول گام آغازین جهت شروع روند جستجو مطرح می کنیم. اجرای روش های مطرح شده در پایان نامه را با روش های کارای دای – لیائو و هستنس – استیفل مقایسه می کنیم. نتایج عددی کارایی روش های مطرح شده را نشان می دهد.

مساله مکملی خطی به دلیل شکلدهی یکسان به مسائل برنامه ریزی خطی، برنامه ریزی درجه دوم و نظریه بازی های با مجموع صفر دارای اهمیت می باشد. به دلیل اهمیت مساله مکملی خطی، روش های گوناگونی برای حل این مسایل ابداع شده است. یکی از این روش ها معادلات قدرمطلقی می باشد.معادلات قدرمطلقی، مسائل ریاضی شامل قدر مطلق متغیرهاست بطوریکه در حالت کلی به صورت معادله ax-b|x|=b می باشند که در آن aوb ماتریس های m×n دلخواه با درایه های حقیقی هستند وb?r^n می باشد. ما در این پایان نامه به معرفی و بررسی معادلات قدر مطلقی می پردازیم. حل معادلات قدرمطلقی در حالت کلی یک مساله np-سخت می باشد و با قرار دادن b=-i معادله فوق به یک مساله مکملی خطی تبدیل میشود. در ادامه به بررسی شرایط کافی بهینگی و نتایج دوگانی برای معادلات قدر مطلقی می پردازیم و همچنین با استفاده از هم ارزی مساله مکملی خطی با معادلات قدر مطلقی نتایج وجود و عدم وجود جواب را برای این معادلات بیان می کنیم. یکی از روش های عملی برای بهینه سازی نامقید روش نیوتن است. ما در این پایان نامه یک روش نیوتن تعمیم یافته را برای حل معادلات قدر مطلقی ax-|x|=b بررسی می کنیم، هنگامی که مقادیر ویژه ماتریس aبیشتر از 1 باشند روش نیوتن تعمیم یافته همواره همگرا به جواب می باشد.در ادامه برای اولین بار یک اصلاح از روش نیوتن تعمیم یافته با عنوان روش نیوتن تعمیم یافته اصلاح شده را برای حل معادلات قدرمطلقی ارایه می کنیم که این روش نیز هنگامی که که مقادیر ویژه ماتریس aبیشتر از 1 باشند همواره همگرا به جواب می باشد. نتایج حاصل از حل 800 مساله تصادفی نشان می دهند که روش نیوتن تعمیم یافته اصلاح شده دارای نتایج عددی بهتری نسبت به روش نیوتن تعمیم یافته می باشد.

در فصل نخست این پایان نامه مقدمات و پیش نیازهای مورد نیاز برای حل معادلات غیرخطی را بیان می کنیم و در فصل دوم چندین مورد از روش های مرتبه سوم را که برای حل معادلات غیرخطی‎طی سال های اخیر ارائه شده است را ذکر می کنیم. اکثر روش های این فصل اصلاحاتی برای روش های کلاسیک مانند روش نیوتن‏، روش چبی شف روش هالی و روش سوپرهالی هستند. هم چنین روش هایی برای ریشه های چندگانه نیز ارائه شده است. فصل سوم به روش های جدید اختصاص دارد. در این فصل با استفاده از انتگرال گیری گوسی دو روش جدید برای حل معادلات غیرخطی به دست می آوریم. همچنین با ارائه دو تقریب جدید چندین روش جدید ساخته شده است که اصلاحاتی برای روش های کلاسیک هستند. در انتهای این فصل با ذکر چند نمونه از روش های مرتبه شش نمونه ای از کاربرد تقریب های جدید بیان می شود. در فصل پایانی نتایج عددی روش های جدید را ارائه می کنیم که نشان می دهند این روش ها قابلیت مقایسه با روش های مشابه را دارند.

در این پایان نامه دو روش مستقیم برای حل رده ای از مسئله های برنامه ریزی خطی ارائه می کنیم. روش اول یک نقطه ی فرین یا یک رأس مجاور با یک جواب بهینه تولید می کند. در این روش حذف قیدهای زائد را با استفاده از نظریه ی بازی ها بررسی می کنیم. می توان از این روش برای تعیین نقطه ی شروع روش سیمپلکس استاندارد استفاده کرد. کارآیی روش سیمپلکس بهبود یافته، که نقطه ی شروع به وسیله ی این روش ساخته می شود با روش سیمپلکس اصلی و روش های نقطه درونی مقایسه می شود. با پیاده سازی این روش و کاربرد حداکثر یک تکرار از روش سیمپلکس به جواب بهینه دست می یابیم. به دلیل استفاده نکردن از متغیرهای لنگی‏، مازاد و مصنوعی در این روش‏، بعد مسئله افزایش نمی یابد و بنابراین سریع تر از سایر روش ها به جواب بهینه دست می یابیم. روش دوم بر مبنای مسئله ی دوگان و کمترین مربعات خطی می باشد. این روش ترکیبی از روش محورگیری و روش های نقطه درونی است. لازم به ذکر است که بعضی از مسئله های برنامه ریزی خطی تبهگن وجود دارند که با قوی ترین پیاده سازی های روش سیمپلکس اولیه و دوگان نیز قابل حل نمی باشند، در حالی که این نوع مسئله ها را می توان با روش های ارائه شده در این پایان نامه حل کرد.

مسئله یافتن نزدیک ترین نقطه در مجموعه چندوجهی به نقطه داده شده را در نظر بگیرید، که در آن و . این مسئله را می توان به صورت مسئله برنامه ریزی درجه دوم محدب با ساختاری ویژه نمایش داد. در این پایان نامه هیچ محدودیتی روی رتبه ماتریس در نظر نمی گیریم. مسئله نزدیک ترین نقطه در یک مخروط چندوجهی، حالت خاصی از مسئله نزدیک ترین نقطه در یک مجموعه چندوجهی است که در آن بردار برابر با صفر است. در این پایان نامه، ساختار هندسی مسئله نزدیک ترین نقطه در یک مخروط چندوجهی را بررسی کرده و برای حل آن، یک الگوریتم کارآمد به نام الگوریتم اندیس موثر‏ بیان می کنیم. به ویژه، نشان می دهیم که با دانستن یک اندیس موثر از این مسئله، می توان مرتبه مسئله (تعداد متغیرها و تعداد قیدها) را یک واحد کاهش داد. سپس، با بیان رابطه بین مسئله نزدیک ترین نقطه در یک مخروط چندوجهی و مسئله نزدیک ترین نقطه در یک مخروط تولید شده، فرآیند را برای یافتن جواب بهینه مسئله نزدیک ترین نقطه در یک مخروط چندوجهی و یا پیدا کردن یک اندیس موثر آن، معرفی می کنیم. هم چنین، چند راهبرد برای پیاده سازی کارای این الگوریتم ذکر می کنیم. به علاوه، رابطه بین مسئله نزدیک ترین نقطه در یک مخروط چندوجهی و مسئله نزدیک ترین نقطه در یک مجموعه چندوجهی را بررسی کرده، و از این رابطه، به منظور بیان یک روش کارآمد برای حل مسئله نزدیک ترین نقطه در یک مجموعه چندوجهی با استفاده از الگوریتم اندیس موثراستفاده می کنیم. سپس نشان می دهیم که این رهیافت می تواند برای مینیمم کردن هر تابع درجه دوم اکیداً محدب روی یک مجموعه چندوجهی تعمیم داده شود. هم چنین از طریق آزمون های عددی کارایی این رهیافت را ارزیابی کرده و نشان می دهیم که برای رده ای از مسائل تصادفی، این رهیافت کاراتر از بقیه روش های موجود برای حل مسائل فوق می باشد.

در این پایان نامه دو روش برای حل مساله جریان در شبکه کمترین هزینه کسری خطی ارایه می کنیم. در روش اول با استفاده از تعدادی قضایای جدید و ترکیب آن ها با مشخصه های مساله جریان در شبکه کلاسیک را به مساله کمترین هزینه کسری خطی تعمیم می دهیم. هم چنین شرایط بهینگی را ارایه کرده و یک الگوریتم سیمپلکس شبکه پیشنهاد می کنیم که به جواب های شدنی بهینه با همان خواص کلاسیک منجر می شود. و یک فرمول دوگان برای این مساله ارایه می کنیم. سپس روابط بین مساله جدید و مساله دوگان را بررسی می کنیم. در روش دوم نشان می دهیم که الگوریتم بحث شده در روش اول مبتنی بر الگوریتم سیمپلکس محدب است. و با استفاده از مشتق جهتی تابع f شرایط بهینگی مساله را ارایه می کنیم. در آخر بعضی مثال عددی نیز برای تکمیل بحث مطرح می کنیم.

مساله هایی که شامل برآورد و نتیجه گیری تحت قیدهای نامعادله خطی می باشند اغلب در مدل های آماری رخ می دهند. در این پایان نامه الگوریتمی برای حل مساله ی برنامه ریزی درجه دو از مینیمم سازی?(?)=?^ q?-2c? ارائه می کنیم که در آن q ماتریسی معین مثبت است و ? در درون مخروط محدب c={?:a??d} قرار دارد. در اینجا a ماتریس m×n است که لزوماً a رتبه کامل سطری نمی باشد. این الگوریتم سه مرحله ای، ساده است و همچنین برنامه نویسی راحتی دارد

در این پایان نامه یک اصلاح روی جهت نیوتن برای حل مساله بهینه سازی نامقید مطرح می شود. نشان داده شده است که یکی از معایب بزرگ روش نیوتن کندی یا واگرایی آن به ازای نقاط شروعی است که دور از جواب بهینه می باشند. ثابت می شود که اصلاح مطرح شده در این پایان نامه باعث کاهش تابع یا نرم گرادیان آن در هر تکرار می شود که این امر به کارایی روش نیوتن کمک قابل توجهی می نماید. نشان می دهیم که این روش همگرایی مرتبه دوم دارد و همچنین ناحیه همگرایی آن بزرگ تر از روش نیوتن می باشد. آزمون های عددی انجام شده موید این حقیقت بوده و درستی نتایج بدست آمده را نشان می دهند.

حل دستگاه های غیرخطی از دیرباز مد نظر بوده است و ارائه روش هایی که بتوانند جواب را خیلی سریع به دست آورند از اهمیت ویژه ای برخوردار می باشد. در این پایان نامه، بر مبنای روش مرتبه سوم چبیشف، برخی تکرارهای چندنقطه ای با مرتبه همگرایی سه و شاخص کارایی بهتر از روش نیوتن ارائه شده است.

چکیده ندارد.