در اواسط قرن بیستم نظریه پرداز روسی آندره تیخونو بر روی حل مساله «مطرح بیمار » مطالعه می کرد. در حقیقت آنها مسائل ریاضی گونه ای بودند که هیچ راه حل منحصر به فردی نداشتند زیرا اطلاعات کافی در مورد این مساله به طور ویژه وجود نداشت. این مطالعات به وسیله تیخونو در غرب شناخته شد و کتاب او در این زمینه در سال 1977 انتشار یافت. اگرچه قبل از آن دو آماردان آمریکایی آرتورهوئرل و روبرت کنارد مقاله ای را در سال 1970 مبنی بر اینکه رگرسیون ستیغی روشی برای حل مشکلات رگرسیون خطی در شرایط نا مناسب است منتشر کرده بودند. شرایط نا مناسب بدین معنا که شماری از مشکلات در روند اجرای معکوس از ماتریس واریانس به دست می آید. روش این برآوردگر به این صورت است که در رگرسیون ستیغی (تنظیم تیخونو ) با مینیمم کردن تابع هدف ? را برآورد خواهیم کرد. تابع هدف x^2=?x?-y?^2+h_p^2 ???^2 شامل دو قسمت می باشد، قسمت اول مجموع مربعات باقیمانده و قسمت دوم جریمه یک مقیاس بزرگ از بردار پارامتر ? است. پارامتر ستیغی h رابطه ای جایگزین را بین مینیمم کردن مجموع مربعات باقیمانده و مینیمم کردن مقیاس پارامتر را تعیین می کند. برای مقادیر متوسط از پارامتر ستیغی برآورد ? ? در مقایسه با برآورد کمترین مربعات معمولی به سمت صفر انقباض پیدا می کند، حتی اگر ماتریس x کم رتبه باشد. بنابراین ماتریس xx منحصر به فرد است و ماتریس ستیغی (xx+h_p i_p ) برای هر داده غیر صفر از h_p غیر منحصر به فرد است. هدف در این پایان نامه شناخت بیشتری از ویژگی های این برآورد غیرمنحصر به فرد از جمله کارایی مجانبی و سازگاری کمترین مربعات خطای آن و معرفی برآوردگر ستیغی مقید نابرابر است. این پایان نامه شامل 4 فصل می باشد که در فصل اول به شرح مقدمه وتعریف مفاهیمی نظیر هم خطی چندگانه، روش کمترین مربعات معمولی ،کارایی و سازگاری می پردازیم. در فصل 2، به بررسی کارایی مجانبی برآوردگر ستیغی در مدل های خطی و مدل های خطی نیم پارامتری پرداخته وسپس سازگاری میانگین مربعات خطا را بررسی می کنیم. در فصل 3، برآوردگر رگرسیون ستیغی مقید نابرابر را برای دوحالت متفاوت از پارامتر ها یعنی زمانی که همگی نا محدودند وزمانی که بعضی محدود وبعضی نامحدودند بررسی می کنیم. در فصل 4، به کمک جداول نشان خواهیم داد که برآوردگر رگرسیون ستیغی مقید نابرابر به عنوان برآورد بهتری نسبت به برآوردگر کمترین مربعات مقید نابرابر برای اصلاح مشکل همخطی چندگانه پیشنهاد می شود.

از زمان تحقیقات باکس (1953) و توکی (1960) نیاز به روش استوار، آشکار شد.حساسیت زیاد و به ظاهراً ناچیز انحرافات از فرضیه های مربوط به توزیع در روش های کلاسیک، منجر به جایگزینی روش های استوار شده است. در رگرسیون خطی، روش های شکست مثبت (روسوو 1997) مهم ترین روش در میان روش های استوار است. متأسفانه، محاسبه ی این برآوردگرها بسیار سختاست. مطالعات دقیق و بیشتر برن هولت (2005) نشان می دهد که محاسبه ی برآوردگرهایی با ویژگی برازش دقیق، از نوع مسائل پیچیده هستند. (هرگاه اکثریت مشاهدات در ابرصفحه نهفته باشند، برآوردگر با بازده مناسب و دقیق به عنوان راه حل ابرصفحه در نظر گرفته می شود) وقتی که به طور گسترده با فرضیاتی که باور داریم، قبول می کنیم که پیچیدگی کلاس های ان پیو p برابر نیستند (ویگنر 2005)، و لذا هیچ امیدی برای محاسبه راه حل های دقیق برای مجموعه داده های زیاد، با ابعاد بزرگ نداریم. روش معمول برای حل مسائل، با استفاده از الگوریتم محاسباتی، امکان محاسبه ی دقیق را نمی دهد. پیشنهاد استفاده از الگوریتم محاسباتی (ابتکاری) برای برآوردگرهای استوار توسط (چاکرابورتی و چودری 2008، سلیبین و باررا و همکاران 2008، تودوروف 1992، وودراف و راک 1994) مطرح شده است. الگوریتم های تکاملی محاسباتی جستجو( به عنوان مثال نگاه کنید به دی جانگ 2006) به خوبی در علوم کامپیوتر و به طور پیوسته در محاسبات آماری پایه گزاری شده است. مثال هایی از الگوریتم های تکاملی برای برآورد استوار وجود دارد که می توان از الگوریتم برنز (1992) چاکرابورتی و چودری (2003)و میر (2003) یاد کرد. با این حال، برای مسائل بهینه سازی در نظر گرفته شده در این تحقیق، الگوریتم محاسباتی ذکر شده قادر نیست به طور کامل جایگزین الگوریتم های استاندارد شود.مثالی از یک الگوریتم که نشان می دهد مزایایی برای موقعیت های دشوار داده شده توسط مورل و همکاران(2008) ارائه گردیده است.این پایان نامه شامل 4 فصل می باشد که در فصل اول به معرفی مفاهیم و مقدماتپرداخته ایم در ابتدای فصل در بخش اول آمار توصیفی را بیان نموده ایم و در ادامه معرفی تابع درستنمایی و مدل خطی و مدل غیرخطی و همچنین کمترین مربعات خطی و کمترین مربعات غیرخطی ذکر گردیده است. و بخش آخر را به بیان برآوردگرهای استوار اختصاص داده ایم. در فصل دوم ابتدا برآوردگرهای استوار را بیان نموده ایم و سپس با بیان مثالاین برآوردگرها را محاسبه نموده ایم.با استفاده از برنامه نویسیو دستورات لازم در محیط r با استفاده از بسته هایmass وrfreakquantalregبه شرح رو ش های استفاده شده پرداخته ایم. در فصل سوم ابتدا به معرفی الگوریتم ژنتیک پرداخته ایم و بعد از آن نمای کلی در مورد الگوریتم progressرا بیان نموده ایم و در ادامه به شرح الگوریتم fast-ltsپرداخته ایم و در نهایت با بیان الگوریتم محاسباتی بحث را به پایان می رسانیم. در فصل چهام با بیان نتایج اصلی وشرح شبیه سازی بکار رفته در مورد الگوریتم محاسباتی و الگوریتم progressو همچنین شبیه سازی استفاده شده در مثال بیان شده در فصل دوم با استفاده از مقادیر اریبی پارامترها به مقایسه روش های بیان شده در الگوریتم محاسباتی و الگوریتم progress پرداخته ایم و به نتیجه گیری مطلوب رسیده ایم.

تحلیل گران اغلب هنگامی که داده های واقعی را تجزیه و تحلیل کرده و از روش کمترین مربعات برای محاسبه پارامترهای مدل غیر خطی استفاده می کنند، مفروضات اساسی را در نظر نمی گیرند و یا از آن چشم پوشی می کنند.برای اینکه استنباط های قابل اتکایی در مورد پارامترهای مدل را ایجاد کنیم می بایست مفروضات اساسی و بنیادین به ویژه آن دسته از مفروضاتی که خطاهای آنها ناهمبسته می باشند را به اندازه کافی مدنظر قرار دهیم. بهرحال در موقعیت های واقعی ممکن است با خطاهای وابسته ای مواجه شویم که با حداکثر سرعت خطاهای همبسته ایجاد می کنند. برآوردگر دومرحله ای برای حل این مشکل ساخته شده است. گر چه امروزه مشخص گردیده که وجود نقاط پرت تأثیر نااریبی بر روی محاسبات روش کمترین مربعات می گذارد. انتظار می رود که برآوردگر دومرحله ای به راحتی تحت تأثیر نقاط پرت قرار گیرد، چرا که براساس برآوردگر کمترین مربعات طراحی شده است که یک روش استوار نمی باشد. در این پایان نامه روند و فرآیند استوار دومرحله ای را برای محاسبه پارامترهای رگرسیون غیرخطی در مواقعی که خطاهای هم بسته با بودن نقاط پرت با یکدیگر نمود پیدا می کنند را ارائه داده ایم. مثال عددی و مطالعات شبیه سازی شده بر این امر دلالت می کند که فرآیند استوار دومرحله ای بهتر از روش های کمترین مربعات غیرخطی و برآوردگر دومرحله ای می باشد. کلمات کلیدی: خطاهای همبسته، رگرسیون غیرخطی، نقاط پرت

نمودارهای آماری نقش مهمی را در تحلیل اکتشافی داده ها ایفا می کنند. پروتوکل ترتیب آزمون های معنی داری آماری برای یافته های بصری را نیرومند می سازد و پلی بین آمار استنباطی و اکتشافی ایجاد می کند. در این تحقیق، روش های استنباطی برای نمودارهای آماری با پالودن مسائل فنی استنباط بصری و شکل دادن به پروتوکل ترتیب در زمینه ای که به مقایسه مستقیم با آزمون های متعارف منجر می شود، گسترش یافته اند. این چارچوب برای مقایسه ی اجرای پروتوکل ترتیب در برابر آزمون آماری متعارف در سناریوی برازش مدل های خطی مورد استفاده قرار گرفته شده است. یک آزمایش نیز با داده های شبیه سازی شده انجام شده است. نتایج نشان می دهند که پروتوکل ترتیب پا به پای آزمون های متعارف عمل می کند و هنگامی که فرض های مورد نظر خدشه دار می شوند بهتر عمل می کند. نکته جالب این است که آزمون های بصری هنگامی که اندازه نمونه بزرگ است دارای توان بیشتری نسبت به آزمون های متعارف هستند.

در سانسور تصادفی دیده شده که برآورد درستنمایی ماکزیمم، (mle) منحنی بقاء از فرض پارامتری بودن توزیع متغیر سانسور تاثیر نمی پزیرد. برآورد روش کاپلان مایر در 1958 یک برآورد mle هم برای هر دو مدل ناپارامتری و هم مدل نیمه پارامتری را که در داده های تصادفی بریده شده برآورد حدی ضربی که توسط لیندل بل در 1971 ارائه شده برآوردی mle برای مدل ناپارامتری است . و آن مدل نیمه پارامتری را که در آن مکانیزم برش پارامتری باشد را در برنمی گیرد. فرض کنید x,y دو متغیر تصادفی مثبت باشند. متغیر تصادفی x، (متغیر مورد بررسی) از چپ بوسیله y، (متغیر برش) بردیده شده (یا y از راست بوسیله x بریده شده) اگز زوج (x,y) وقتی مشاهده شود که x>y چنانچه توزیع y کاملا معلوم باشد مدل ناپارامتری است . بریدگی در بسیاری از مطالعات ستاره شناسی× همه گیری شناسی، پزشکی، علوم اجتماعی، جرم شناسی و غیره رخ می دهد. برای برآورد منحنی بقاء روشهایی از قبیل ناپارامتری، نیمه پارامتری، رگرسیونی، فرایندهای مارکف ارائه شده است . بسیاری از تحقیقات بر اساس ماکزیمم کردن تابع درستنمایی بنا نهاده شده و ما نیز به طور گسترده چنین روشهایی بکار خواهیم برد. همچنین فرض مشخص بودن تابع توزیع متغیر برش برآوردهای بهتری از حالت نا مشخص تابع توزیع بدست می دهد. اگر متغییر برش از خانواده پارامتری باشد در روش درستنمایی ماکزیمم پارامترها را نیز برآورد می کنیم.