روشهای مبتنی بر بیز از جمله روشهایی هستند که امروزه کاربرد زیادی در زمینه های مختلف آمار، هوش مصنوعی و مهندسی یافته اند. این روش، مبتنی بر یادگیری مداوم بر اساس دانش قبلی و وضعیت موجود سیستم است. این روش برای رسیدن به اهداف خود از مجموعه ای از علوم مرتبط با آمار، احتمالات و هوش مصنوعی استفاده می نماید. در این پایان نامه تلاش بر این بوده است که جنبه های علمی و نظری روش های مبتنی بر بیز مورد بررسی قرار گیرند. سپس بر اساس دانش بدست آمده از این مبحث این روش را در مورد شبکه های عصبی مورد بررسی و تحقیق قرار دهیم. بدلیل اینکه استفاده از این روش ها نیازمند دانش مورد نیاز در زمینه نمونه برداری از توزیع های بدست آمده در جریان محاسبات مدل ها می باشد، ویژگیها و قابلیت های روش های مختلف نمونه برداری از توزیع های بدست آمده مورد بررسی قرار گرفته است. و در پایان یک روش پیشنهادی برای یادگیری مبتنی بر بیز ارائه شده است.این روش ترکیبی از دو الگوریتم نمونه برداری می باشد که قادر است نتایج بهینه ای برای تنظیم پارامتر های یک شبکه عصبی ارائه دهد. همچنین نتایج راهکار پیشنهادی مورد بررسی قرار می گیرند.