چکیده: نظریه اطلاع شاخه نسبتا جدیدی از علم ریاضی است که در آن اطلاع به صورت کمی تعریف و محاسبه می شود. در نظریه اطلاع، آنتروپی رنی و اندازه اطلاع رنی نقش مهمی ایفا می کنندکه به ترتیب تعمیمی از آنتروپی شانون و اطلاع کولبک-لایبلر می باشند. یکی دیگر از تعمیم های آنتروپی شانون، آنتروپی تی سالیس می باشد واز این جهت که یک ارتباط یکنوا با آنتروپی رنی دارد نیز در اینجا مورد توجه قرار می گیرد. در این پایان نامه ضمن معرفی آنتروپی رنی و تی سالیس برخی از ویژگیهای آنها را مورد بررسی قرار می دهیم. یکی از مباحثی که نقش مهمی در استنباط آماری دارد ماکسیمم کردن آنتروپی در یک کلاس ازتوزیع ها متناظر با یک سری از محدودیت ها می باشد. آنتروپی رنی ماکسیمم و آنتروپی تی سالیس ماکسیمم نیز توسیع ایده آنتروپی ماکسیمم به کلاس بزرگتری از آنتروپی شانون است در این راستا برخی از توزیع ها یی را که دارای آنتروپی رنی ماکسیمم تحت محدودیت های معین می باشند، بدست می آوریم. اصل مینیمم اطلاع نیز یک اصل بهینه سازی معروف است. براین اساس فرمولی برای توزیع های با مینیمم اندازه اطلاع رنی تحت محدودیت های معلوم می یابیم. ماکسیمم آنتروپی رنی و آنتروپی تی سالیس به روش تعمیم یافته از دیگر مباحثی است که در این پایان نامه مورد توجه قرار گرفته است. در انتها به برخی از کاربردهای آنتروپی رنی و ماکسیمم آنتروپی رنی اشاره می کنیم.

در این تحقیق مسأله ماکسیمم آنتروپی تعمیم یافته تحت قید پارامتری کردن اندازه اطلاع سیزار و مسأله مینیمم اندازه اطلاع سیزار تحت قید پارامتری کردن آنتروپی تعمیم یافته را مطرح کرده و نشان می دهیم که حل آن ها به جواب یکسان منجر می شود. اصل ماکسیمم آنتروپی تعمیم یافته را که توسط کاپور و کساوان ‎(1989)‎ مطرح شده بود مورد نظر قرار داده، ضمن بیان نکاتی در این رابطه، اصل ماکسیمم آنتروپی تعمیم یافته مرتبه ?‎ را بر اساس آنتروپی تی سالیس معرفی می کنیم. بعد از معرفی روش ماکسیمم آنتروپی تعمیم یافته با توجه به کاربردهای آنتروپی تی سالیس و به خصوص آنتروپی تی سالیس مرتبه ‎2‎، به جای آنتروپی شانون از آنتروپی تی سالیس مرتبه دو استفاده کرده و آن را برآوردگرهای ماکسیمم آنتروپی تی سالیس مرتبه دو تعمیم یافته می نامیم. برای یک مجموعه داده این برآوردگرها را محاسبه و با یکدیگر مقایسه می کنیم. براساس برآوردگرهای ماکسیمم آنتروپی تی سالیس مرتبه دو تعمیم یافته برآوردگر ماکسیمم آنتروپی تی سالیس مرتبه دو تعمیم یافته ریج را معرفی و برای داده هایی که از هم خطی بالایی برخوردار هستند آن را محاسبه و با سایر برآوردگرهای ریج مورد ارزیابی قرار می دهیم