نظریه ی اطلاع شاخه ای از نظریه ی ریاضی امار و احتمال است که شامل کمی کردن اطلاع است. یکی از مهمترین اندازه هایی که برای کمی کردن اطلاع به کار می رود، انتروپی است. انتروپی، اندازه ای احتمالاتی از عدم اگاهی درباره ی برامد یک ازمایش تصادفی است. از دیدگاه شانون، آنتروپی، عدم یکنواختی (تمرکز احتمالها) را تحت چگالی f اندازه می گیرد.در این پایان نامه در مورد انتروپی، آنتروپی شانون و به ویژه آنتروپی شانون آماره های ترتیبی و مقادیر رکورد جاری پرداخته ایم. همچنین با توجه به ایده ی آنتروپی باقیمانده که ابراهیمی (1996) مطرح کرد، قضیه ای در ارتباط با محاسبه ی آنتروپی باقیمانده ی آماره های ترتیبی ارائه شده است. و در نهایت به بررسی آنتروپی مقادیر رکورد جاری پرداخته ایم.