یادگیری را می توان به دو دسته کلی یادگیری دسته ای و یادگیری برخط تقسیم کرد. یادگیری برخط معمولا در مسائلی که کلیه داده ها موجود نباشد و به پاسخی مناسب در زمانی کم نیاز باشد، کاربرد دارد. روش های مختلفی برای یادگیری برخط ارائه شده است که هر یک سعی دارند تا به بهترین جواب برسند. اما هنگامی که داده ها ساختاری غیرخطی و نامحدب داشته باشند، روش های کلاسیک یادگیری قادر به افراز صحیح داده ها نمی باشند. یادگیری مبتنی بر کرنل، یک راه حل مناسب برای چنین مسائلی می باشد. اما مشکلاتی که این روش ها با آن درگیرند، نیاز به تنظیم مناسب پارامترهای به کار رفته در کرنل مربوطه و وابستگی مرتبه پیچیدگی مسئله با تعداد نمونه ها می باشد. در این پایان نامه، سعی شده است تا در ابتدا، مسئله انتخاب بهترین پارامتر کرنل (که در اینجا پارامتر عرض کرنل گوسی می باشد)، به روشی برخط و به منظور کاهش خطا، در شبکه عصبی حداقل میانگین مربعات (خطا) مبتنی بر کرنل ارائه و حل شود. سپس از معیاری کارا، درجهت ممانعت از رشد پیچیدگی منطبق بر داده ها، استفاده شده تا این روش مبتنی بر کرنل، به معنای واقعی به روشی کارا و برخط تبدیل شود. نتایج آزمایش ها روی مجموعه داده های واقعی و مصنوعی نشان از برتری روش پیشنهادی دارند.