یکی از چالش های موجود در سیستم‎ هایmassive mimo ، تداخل بین سمبلی (isi) در کانال های فرکانس گزین می باشد. یک روش برای حذف این تداخل روش تفکیک چندمسیرگی فضایی (smr) است که با استفاده از درجه آزادی های فضایی اضافی با تداخل مقابله می کند. یکی از محدودیت هایی که در به کارگیری این روش وجود دارد این است که تعداد آنتن های گیرنده باید از ضرب تعداد آنتن های فرستنده در تعداد مسیرهای کانال بیشتر باشد. بنابراین در سیستم های massive mimo نمی توان تمام آنتن های فرستنده را به کار گرفت. پس برای مقابله با این محدودیت و بهره گیری از ویژگی دایورسیتی فضایی یک روش انتخاب آنتن مناسب پیشنهاد شده است. یک محدودیت جدی در پیاده سازی سیستم های massive mimo تعداد زنجیره های rf مورد نیاز می باشد که این زنجیره ها هزینه ی پیاده سازی و تلفات توان بالایی دارند. انتخاب آنتن یک روش مناسب برای کاهش تعداد زنجیره ها و همچنین بهبود عملکرد سیستم می باشد. در این پایان نامه دو روش انتخاب آنتن (cbss) و (gdb) با پیچیدگی کم در فرستنده بر اساس ماکزیمم کردن ظرفیت پیشنهاد می شود و برای هر دو روش تحلیل ریاضی انجام گرفته است. یکی از راه حل های مناسب برای کاهش تعداد زنجیره های rf به کارگیری روش جدیدی به نام مدولاسیون فضایی (sm) می باشد که دریک بازه زمانی سیگنالینگ تنها یک آنتن (sm) یا بیش از یک آنتن (gsm) از آنتن های فرستنده فعال می باشند. در این پایان نامه یک روش انتخاب آنتن برای بهبود عملکرد سیستم gsm-massive mimo پیشنهاد شده است که این روش بر اساس گروه بندی آنتن های فرستنده می باشد و مبنای انتخاب آنتن، تجزیه qr است. همچنین برای میزان احتمال خطای آن تحلیل ریاضی صورت گرفته است.