رگرسیون ستیغی

در اواسط قرن بیستم نظریه پرداز روسی آندره تیخونو بر روی حل مساله «مطرح بیمار » مطالعه می کرد. در حقیقت آنها مسائل ریاضی گونه ای بودند که هیچ راه حل منحصر به فردی نداشتند زیرا اطلاعات کافی در مورد این مساله به طور ویژه وجود نداشت. این مطالعات به وسیله تیخونو در غرب شناخته شد و کتاب او در این زمینه در سال 1977 انتشار یافت. اگرچه قبل از آن دو آماردان آمریکایی آرتورهوئرل و روبرت کنارد مقاله ای را در سال 1970 مبنی بر اینکه رگرسیون ستیغی روشی برای حل مشکلات رگرسیون خطی در شرایط نا مناسب است منتشر کرده بودند. شرایط نا مناسب بدین معنا که شماری از مشکلات در روند اجرای معکوس از ماتریس واریانس به دست می آید. روش این برآوردگر به این صورت است که در رگرسیون ستیغی (تنظیم تیخونو ) با مینیمم کردن تابع هدف ? را برآورد خواهیم کرد. تابع هدف x^2=?x?-y?^2+h_p^2 ???^2 شامل دو قسمت می باشد، قسمت اول مجموع مربعات باقیمانده و قسمت دوم جریمه یک مقیاس بزرگ از بردار پارامتر ? است. پارامتر ستیغی h رابطه ای جایگزین را بین مینیمم کردن مجموع مربعات باقیمانده و مینیمم کردن مقیاس پارامتر را تعیین می کند. برای مقادیر متوسط از پارامتر ستیغی برآورد ? ? در مقایسه با برآورد کمترین مربعات معمولی به سمت صفر انقباض پیدا می کند، حتی اگر ماتریس x کم رتبه باشد. بنابراین ماتریس xx منحصر به فرد است و ماتریس ستیغی (xx+h_p i_p ) برای هر داده غیر صفر از h_p غیر منحصر به فرد است. هدف در این پایان نامه شناخت بیشتری از ویژگی های این برآورد غیرمنحصر به فرد از جمله کارایی مجانبی و سازگاری کمترین مربعات خطای آن و معرفی برآوردگر ستیغی مقید نابرابر است. این پایان نامه شامل 4 فصل می باشد که در فصل اول به شرح مقدمه وتعریف مفاهیمی نظیر هم خطی چندگانه، روش کمترین مربعات معمولی ،کارایی و سازگاری می پردازیم. در فصل 2، به بررسی کارایی مجانبی برآوردگر ستیغی در مدل های خطی و مدل های خطی نیم پارامتری پرداخته وسپس سازگاری میانگین مربعات خطا را بررسی می کنیم. در فصل 3، برآوردگر رگرسیون ستیغی مقید نابرابر را برای دوحالت متفاوت از پارامتر ها یعنی زمانی که همگی نا محدودند وزمانی که بعضی محدود وبعضی نامحدودند بررسی می کنیم. در فصل 4، به کمک جداول نشان خواهیم داد که برآوردگر رگرسیون ستیغی مقید نابرابر به عنوان برآورد بهتری نسبت به برآوردگر کمترین مربعات مقید نابرابر برای اصلاح مشکل همخطی چندگانه پیشنهاد می شود.