در سالهای اخیر مسائل کمترین مربعات مورد توجه زیادی قرار گرفتته است به طوری که این گونه مسائل در بخش های تحقیقی و علمی مهمی مانند نقشه برداری کروی، مطالعات زلزله شناسی، ساختمانهای موکلولی، توموگرافی و محاسبات pde (معادلات با مشتقات جزیی) مورد استفاده قرار گرفته اند. عمل ذخیره سازی اطلاعات و روش اطلاعات قابل دسترسی برای ذخیره کردن آنها، به مقدار زیادی بر انتخاب روشهای عددی حل چنین مسائلی تاثیر می گذارد. بنابراین روشهای تکراری جانشین مفید و سودمندی بر روشهای مستقیم هستند. گو اینکه روشهای مستقیم را برای حل دستگاه با ابعاد کوچکتر و فوق معین جزیی نیز بکار می بریم. اخیرا نتایج همگرایی روی روشهای تکراری و تشکیل برقراری طرحهای تکرای برون یابی سریع، روی دسته ای از مسائل خاص ، گرایش قابل ملاحظه ای در بررسی همگرایی این قبیل روشها ایجاد کرده است . رساله حاضر مروری بر این روشها و تعیین پارامترهای بهینه آنها و مشخص کردن بازه های همگرایی برای این روشها می باشد. در فصل اول، ابتدا به معرفی مساله کمترین مربعات جهت حل دستگاه فوق تعیین از طریق معادلات نرمال پرداخته و سپس طرحهای تکراری sor دو و سه قطعه ای، معرفی گردیده و در پی آن روش فوق تخفیف شتابدار (aor) برای مسائل کمترین مربعات برای حالت دو و سه قطعه ای معرفی گردیده است . در فصل دوم، به بررسی یک روش مستقیم برای حل مساله کمترین مربعات به نام روش حذفی و ارائه الگوریتمی مفید و کارا در این مورد پرداخته ایم. در فصل سوم، همگرایی روشهای تکراری sor دو و سه قطعه ای برای حل مساله کمترین مربعات و پارامتر بهینه آنها و بازده های همگرایی این روشها تعیین گردیده است . در فصل چهارم، طرحهای تکراری aor قطعه ای برای حل مساله کمترین مربعات با مقیاس بزرگ مورد بررسی قرار گرفته و در ادامه آن به وسیله برون یابی، روش ags سه قطعه ای که از خانواده aor می باشد بررسی شده و بازه های همگرایی و پارامتر بهینه آن و سپس عامل برون یابی آن محاسبه گردیده است . در فصل پنجم، الگوریتم روش مزدوج گرادیان برای حل مسائل کمترین مربعات ارائه شده کره در مقایسه با طرحهای تکراری sor2 و sor3 از سرعت عمل بیشتری برخوردار است . تعاریف و قضایایی را که در طول این رساله به طریقی مورد استفاده قرار گرفته اند در بخش ضمیمه a در پایان آمده است . همچنین ضمیمه b به برنامه ها و مثالهای عددی جهت بکارگیری این روشها اختصاص یافته است .