توسعه صنعت و فن آوری منجر به کاهش ابعاد قطعات شده و حساسیت و دقت بیشتر در سامانه های اندازه گیری را به همراه آورده است. نانومترولوژی یک ضرورت برای همه شاخه های نانوفن آوری به شمار می رود. در واقع روش های اندازه گیری برای مواد معمولی در بسیاری از موارد نمی تواند به سادگی در نانوساختارها استفاده شود و استفاده از سیستم های اندازه گیری جابه جایی با دقت بالا الزامی است. یکی از انواع سیستم های نانومترولوژی رایج که در صنعت برای اندازه گیری جابه جایی استفاده می شود، تداخل سنج لیزری است. تداخل سنج لیزری انواع مختلفی دارد که در این بین، تداخل سنج مایکلسون بیش از بقیه کاربرد دارد و به دو نوع عمده هموداین و هتروداین تقسیم می شود. نوع هتروداین به دو دسته دو مود و سه مود تقسیم بندی می شود که دقیق تر از هموداین است. با کاهش محدوده اندازه گیری، منابع خطای ناشی از محیط، قطعات نوری و غیره اهمیت می یابد. در این پایان نامه، تداخل سنج مایکلسون هتروداین دو مود و سه مود و منابع خطا در آن ها مرور می شود و خطای غیرخطی تناوبی با استفاده از مدل فرکانس-مسیر در تداخل سنج مسیر تفاضلی بررسی می شود و بزرگترین خطای غیرخطی، که ناشی از ترکیب فرکانسی است، با جزئیات بیشتر بررسی شده و خطا در تداخل سنج مایکلسون هتروداین دو مود و سه مود با انواع الگوریتم فیلتر تطبیقی (الگوریتم های کمترین میانگین مربعات، کمترین میانگین مربعات بهنجار شده، تصویر افاین و کمترین مربعات بازگشتی) مدل سازی و جبران سازی می شود و این الگوریتم های مدل سازی و جبران سازی خطا مورد ارزیابی قرار می گیرد. از میان الگوریتم های استفاده شده، الگوریتم کمترین مربعات بازگشتی دارای عملکرد بهتری در مراحل آموزش و آزمایش است و در انواع شبیه سازی های انجام شده (مدل سازی و جبران سازی)، مقدار میانگین مربع خطای کل آن کمتر از بقیه الگوریتم ها است. میانگین مربع خطای کل الگوریتم کمترین مربعات بازگشتی برای شبیه سازی تداخل سنج مایکلسون هتروداین در بخش مدل سازی دو مود 322/110- و در بخش جبران سازی دو مود 975/158- و در بخش مدل سازی سه مود 3450/127- است.