امروزه توسعه روزافزون شبکه های رایانه ای و کاربرد وسیع آن در زندگی بشر، لزوم تأمین امنیت این شبکه ها را بیش از پیش نمایان ساخته است. جهت تأمین امنیت از ابزار و تجهیزات مختلفی استفاده می شود که سیستم تشخیص نفوذ از جمله آنها به شمار می رود. سیستم های تشخیص نفوذ، اغلب از دو روش تشخیص سوء استفاده و تشخیص ناهنجاری به منظور تشخیص نفوذ استفاده می کنند. روش های تشخیص سوء استفاده، نرخ تشخیص بالایی دارند اما توانایی شناسایی حملات جدید را ندارند. در مقابل، روش های تشخیص ناهنجاری، توانایی شناسایی حملات جدید را دارند اما نرخ هشدار غلط بالایی دارند. تا کنون روش های مختلفی به منظور افزایش نرخ تشخیص و کاهش نرخ هشدار غلط در تشخیص ناهنجاری ها مورد استفاده و آزمایش قرار گرفته است؛ اما هیچ یک نتوانسته اند به موفقیت کامل دست یابند و تحقیقات در این زمینه همچنان ادامه دارد. در این پایان نامه، مدلی جدید به منظور تشخیص ناهنجاری های شبکه، مبتنی بر تکنیک های داده کاوی، طراحی، پیاده سازی و ارزیابی شده است. مدل ارائه شده در این پایان نامه شامل سه فاز می باشد. فاز اول شامل آماده سازی و پیش پردازش داده است و در این فاز تلاش شده است تا ویژگی های موثر و مهم در شناسایی حملات استخراج گردد. فاز دوم نیز به ترتیب شامل سه مرحله تعیین تعداد بهینه خوشه ها، خوشه بندی توسط الگوریتم k-means و ارزیابی و اعتبارسنجی خوشه های ایجاد شده می باشد. فاز سوم، ساخت مدل توسط سه الگوریتم طبقه بندی c5، شبکه عصبی mlp و رگرسیون لجستیک و در نهایت مقایسه آنها و انتخاب مدل بهینه را شامل می شود. نتایج حاصل از آزمایشات انجام شده در این پایان نامه نشان می دهد که مدل درخت تصمیم گیری c5 با دقت طبقه بندی 99.84%، نرخ تشخیص 99.83% و نرخ هشدار غلط 0.14% نسبت به سایر مدل های مورد مقایسه برتری دارد.