برای حل مسایل بهینه سازی نامقید روش های متفاوتی، از جمله روش های گرادیان مزدوج، نیوتن، شبه نیوتن موجود است.در این پایان نامه، به بررسی روش حل مسایل بهینه سازی نامقید با استفاده از روش گرادیان مزدوج می پردازیم، و روش جدید گرادیان مزدوج حافظه محدود را معرفی کرده وقضایای همگرایی آن را ثابت می کنیم. در تئوری، گرادیان های متوالی تولید شده توسط روش گرادیان مزدوج زمانی که به یک مدل درجه دوم اعمال می شوند متعامد هستند. با این حال، برای بعضی از مسایل بد حالت، تعامد به علت خطای گرد کردن، سریعاً از دست می رود و همگرایی کندتر از حد انتظار است. در این پروژه، نسخه ای از روش گرادیان مزدوج با حافظه محدود که اخیراً در ادبیات موضوع ارایه شده است، مورد تحلیل و بررسی قرار می گیرد. در این روش جدید، حافظه برای نمایش تعامد جهت جستجو و با از دست دادن تعامد برای تولید جهت جستجوی متعامد استفاده می شود.