در این پایان نامه، دو روش برای حل سیستم غیر خطی که در آن درایه های ماتریسهای ضرایب متغیر کنترل و متغیر وضعیت، توابعی بر حسب متغیر وضعیت هستند و در این مساله تابعی هدف به صورت درجه دوم خواهد بود. در اولین روش، سیستم مذکور را با دنباله ای از تقریب های متغیر با زمان جایگزین کرده و مساله کنترل بهینه خطی حاصل را حل می کنیم. در روش دوم با استفاده از تابع همیلتونی شرایط لازم برای بهینگی را با دنباله ای مشابه قبل تقریب می زنیم. در پایان یکی از کاربردهای این روش را روی بیماری سرطان بیان خواهیم کرد.