سیستم های مخابرات بی سیم با بهره گیری از آنتن های ارسال و دریافت چند گانه ظرفیت و کیفیت ارتباط را به طور قابل ملاحظه ای بهبود می بخشند. با این وجود، زنجیر های فرکانس رادیویی(rf ) چندتایی که از وجود چند آنتن ناشی می شوند، از لحاظ اندازه، توان و سخت افزار هزینه بر هستند. انتخاب آنتن روشی جایگزین است که هزینه و پیچیدگی کمتری دارد، و می تواند بسیاری از مزایای سیستم های mimo را داشته باشد. در این روش، زیر مجموعه ای از آنتن های ارسال و دریافت بر اساس یک معیار انتخاب می شوند. معیار های متداول انتخاب بهترین آنتن ها، ظرفیت کانال و نرخ خطا بر بیت است که تنها از پارامترهای لایه فیزیکی استفاده می کنند. بنابراین انتخاب آنتن بر اساس این معیارها لزوماً منجر به بهبود پارامترهای سایر لایه ها مثلاً نرخ داده نمی گردند. روش بین لایه ای، شیوه-ای برای انتخاب آنتن است که از معیارهای بر گرفته از سایر لایه ها مانند لایه پیوند، برای بهبود پارامترهایی نظیر اندازه بسته، نوع مدولاسیون و تعیین راهبرد درخواست خودکار ارسال مجدد (arq) استفاده می کند و می تواند مزایای چشمگیری در مقایسه با روش های مبنی بر لایه فیزیکی فراهم سازد. در این پایان نامه مسأله انتخاب آنتن با معیار گذردهی لایه پیوند، با در نظر گرفتن پروتکل arq مورد بررسی قرار گرفته است. نتایج شبیه سازی ها نشان می دهد، استفاده از این معیار، در مقایسه با معیار سنتی ظرفیت عملکرد سیستم را بهبود می بخشد. در سیستم های زمان واقعی با افزایش تعداد آنتن ها، استفاده از روش بهینه جستجوی کامل برای انتخاب بهترین زیرمجموعه ی آنتن ارسال و دریافت، غیر عملی خواهد بود، زیرا پارامترهای کانال به سرعت تغییر کرده و آنتن های انتخاب شده نیز باید با شرایط کانال تطبیق یابند. در پایان نامه حاضر از الگوریتم بهینه سازی انبوه ذرات (pso) به عنوان ابزاری قدرتمند در کاهش پیچیدگی محاسباتی بهره گرفته شده است. روش نوین این پایان نامه، به کارگیری معیار بین لایه ای گذردهی لایه پیوند به عنوان تابع شایستگی در الگوریتم pso است، که منجر به بهبود عملکرد سیستم در مقایسه با به کارگیری تابع ظرفیت می شود. نتایج شبیه سازی ها نشان می دهد، استفاده از این الگوریتم علاوه بر کاهش پیچیدگی به میزان قابل ملاحظه، عملکردی بسیار نزدیک به روش بهینه دارد.