در این مطالعه، ابتدا به بررسی یک شبکه عصبی تصویری برای حل مسائل برنامه ریزی درجه دوم محدب تباهیده با محدودیتهای خطی پرداخته و نشان می دهیم شبکه ارائه شده همگرای سراسری است. این مدل پایدار نمایی است و در یک مدت زمان متناهی به جواب بهینه همگرا می شود. در حالت کلی، برای حل مسائل برنامه ریزی غیرخطی محدب با محدودیتهای خطی و غیرخطی شبکه های عصبی جدیدی را ارائه می نماییم. در مقایسه با دیگر شبکه های موجود برای حل مسائل برنامه ریزی غیرخطی، شبکه های پیشنهاد شده قادرند برای حل انواع مسائل بهینه سازی مانند مسائل تباهیده، مسائل نقطه زینی، مسائل درجه دوم، مسائل برنامه ریزی کسری و صفر ویک بکار روند. این شبکه ها در حالت لیاپانوف پایدار هستند و به جواب بهینه همگرا می گردند. برای ارائه یک کاربرد مفید از حل مسائل بهینه سازی با استفاده از شبکه عصبی پیشنهاد شده، مسئله تشخیص محدوده ی رنگ را در تصاویر رنگی مورد بررسی قرار داده و مرز محدوده ی رنگ را در فضای اقلیدسی نشان می دهیم.