در این نوشتار ابتدا مدل رگرسیون خطی، نحوه برآورد پارامترهای مدل رگرسیون، آزمون معنی داری ضرایب رگرسیون، انتخاب بهترین معادله رگرسیون و مساله هم خطی مطرح می شود. تعاریفی از نظریه اطلاعات بیان می گردد و اصل آنتروپی ماکسیمم معرفی می شود. با استفاده از نظریه اطلاعات‏، آنتروپی ماکسیمم برای ضرایب و خطا‎‏های مدل رگرسیون حاصل می شود، ضرایب مدل رگرسیون با کمک نظریه اطلاعات برآورد می شوند و آزمون معنی دا...

هدف از انتخاب مدل، تقریب مدل درست و مجهول مشاهدات، یعنی چگالی مولد داده ها از طریق مدل های پیشنهادی است. به طور کلی مسئله انتخاب مدل پیدا کردن توزیع درست مشاهدات است، اما در دنیای واقعی مشاهدات و رخدادها تحت تاثیر متغیرهای زیادی هستند که بعضی از آن ها قابل شناسایی نیستند. پس پیدا کردن مدلی که به طور کاملا دقیق توزیع مشاهدات را نشان دهد کاری مشکل و تقریبا غیر ممکن است. لذا سعی می شود در بین مدل ...

انتخاب مدل یک مفهوم اساسی در استنباط آماری است. در مسائل آماری معمولا با مشاهداتی سروکار داریم که از یک جامعه با چگالی نامعلوم تولید شده اند. آماردان بر اساس نمونه تصادفی موجود مطالعاتی انجام داده و استنباط یا پیش بینی در مورد آینده را بعمل خواهد آورد. بدون داشتن یک الگوی مناسب، استنباط و یا پیش بینی درست در مورد جامعه غیر ممکن است. بنابراین یک مدل آماری را معرفی کرده و بررسی های مورد نیاز را ب...

مسئله آزمون فرضیه در مدل های آشیانی شامل فرضیه هایی در مورد پارامتر مجهول جامعه است که با روش هایی نظیر لم نیمن-پیرسن و آزمون نسبت درستنمایی قابل انجام هستند. اما در مدل های غیر آشیانی روش های کلاسیک نمی توانند مورد استفاده قرار بگیرند. روش آزمون چنین فرضیه هایی ابتدا توسط کاکس (1962-1961) مورد بررسی قرار گرفت. وونگ (1989) با استفاده از معیار اطلاع کولبک-لیب لر و استفاده از برآورد شبه درستنم...

در بیشتر پژوهش های مربوط به داده های طول عمر، عوامل بازدارنده ای هم چون زمان و هزینه باعث می شوند که آزمایش ها پیش از شکست همه ی واحدها، به پایان برسند؛ به داده های برآمده از این آزمایش ها، داده های سانسور شده گفته می شود. در مطالعات داده های سانسور شده، انجام آزمون نیکویی برازش برای این نوع داده ها، اهمیت به سزایی دارد. اغلب آماره های آزمون نیکویی برازش بر اساس فاصله ی تقریبی بین توابع توز...

یکی از فرضیه های اساسی در استنباط پارامتری آن است که چگالی‎‎ مولد داده ها معلوم است. این فرضیه می تواند مورد شک قرار گیرد. تردید در مورد این چگالی ‎‎‎‎‎‎‎‎‎‎شرایط تصمیم گیری پیچیده ای را ایجاب می کند. در این پایان نامه روشی ارائه می شود که بر اساس آن مجموعه مدل های رقیب به مدل هایی که تقریب مناسبی برای مدل مولد داده ها هستند کاهش می یابد. برای این منظور محدوده ای در اطراف چگالی مولد داده ها در ...

در این پایان نامه، ابتدا به معرفی بعضی از انواع اطلاع های آماری از قبیل آنتروپی شانون، فاصله کولبک-لایبلر، فاصله رنی و فاصله لین ونگ می پردازیم. سپس با برآورد کردن این فاصله ها به آزمون چند توزیع آماری پرداخته، توان آن ها را به دست آورده و مقایسه می کنیم. هم چنین روش های غیر آنتروپی مختلفی برای آزمون های نمایی بودن توزیع داده ها معرفی شده است. با توجه به نامنفی بودن طول عمر یا زمان خرابی مولفه...

مدل خطی و طرح های کاوش را سریواستاوا (1975) معرفی کرد. نظر به اصل تُنک بودن، تعداد اثرات تاثیرگذار و فعال یک سیستم اندک هستند. با استفاده از طرح های کاوش با تعداد کمی اجرا می توان تعدادی اثر متقابل فعال را کاوش و آنها را همراه با میانگین عمومی و اثرات اصلی برآورد کرد. همچنین سریواستاوا, در حالت مدل بدون اغتشاش, یک شرط لازم و کافی برای طرحی که قادر به حل مساله کاوش باشد، ارائه کرد. بعد از نتایج ...

در مدلهای پارامتر مبنا، مشکل اساسی ترقیب درستنمایی این مدل و در واقع برآورد پارامترهای مدل است. یک روش برخورد با این مشکل استفاده از درستنمایی های ساده تر مانند درستنمایی مرکب است. در این مقاله پس از معرفی مدلهای پارامتر مبنا و درستنمایی مرکب، به معرفی یک ملاک انتخاب مدل مبتنی بر درستنمایی مرکب پرداخته ایم. در ادامه با استفاده از شبیه سازی، توانایی درستنمایی مرکب را در استنباط و انتخاب مدل صحیح...

تعیین ساختار وابستگی بین متغیرها یکی از موضوعاتی است که به طور گسترده در تئوری احتمال و آمار مورد استفاده قرار می‏گیرد، تا جایی که بدون در نظر گرفتن نوع وابستگی متغیرها، مدل‏بندی مقدور نمی‏باشد. توابع مفصل می‏توانند ساختار وابستگی بین متغیرها را به صورت مدل نشان دهند. تابع مفصل مناسب برای یک کاربرد خاص تابعی است که به بهترین نحو ممکن وابستگی بین داده‏ها را نشان دهد. بنابراین یک موضوع مهم در راب...