فاکتورهای بسیاری بر عملکرد بازار سهام اثر می گذارند به گونه ای که نوسانات در بازار سهام دارای مدل های غیرخطی هستند. به همین دلیل بازار سهام یک سیستم پویای غیرخطی است و پیش بینی حرکت قیمت سهام یک وظیفه بسیار مشکل است. با این حال، یک رویکرد مدل سازی غیرخطی مناسب مانند سیستم های هوش مصنوعی می تواند ارتباطات غیرخطی پیچیده را کشف و عدم قطعیت و بی دقتی رایج در بازار سهام را اداره کند. این مطالعه بر استراتژی تجاری فنی شمعدان ژاپنی تمرکز دارد. تحلیل فنی شمعدانی یک روش زمان بندی کوتاه مدت است که سیگنال های خرید و فروش سهام را بر اساس روابط بین قیمت های باز، بسته، کمترین و بیشترین مشخص می کند. در این مطالعه، شبکه عصبی به عنوان یک تحلیل گر عمل می کند در حالی که دو رویکرد مبتنی بر داده های خام و مبتنی بر سیگنال های بازگشتی بازار سهام به ترتیب با 15 و 24 مشخصه که شامل الگوهای شمعدانی مهم هستند به عنوان ورودی شبکه عصبی به کار می روند و خروجی، روند قیمت سهام در آینده ای نزدیک در سه حالت صعودی، نزولی و بدون تغییر را نشان می دهد. در این تحقیق، از سه مدل استفاده شده است، در مدل اول، شبکه عصبی اتورگرسیو غیرخطی با ورودی های خارجی به عنوان یک شبکه عصبی جدید، در مدل دوم، ماشین بردار پشتیبان با الگوریتم رقابت استعماری جهت انتخاب پارامترهای ماشین بردار پشتیبان و در مدل سوم ماشین بردار پشتیبان با الگوریتم ژنتیک برای انتخاب ویژگی و بهینه سازی پارامترهای ماشین بردار پشتیبان برای حل این مسئله به کار رفته است. درصد صحت پیش بینی برای دوره های 1 تا 6 روزه با تعداد کل سیگنال های خرید و فروش در نتایج مدل پیش بینی حاصل می شود. نتایج نشان می دهد که مدل شبکه عصبی پویای نارکس پیش بینی بسیار مناسب تری داشته و نسبت به سایر روش های بکاررفته در این زمینه از توانایی تقریب قوی تری برخوردار بوده است.