از روش های متداول روندیابی هیدرولوژیکی جریان در رودخانه، روش ماسکینگام است که با هزینه محاسباتی و زمان اندک، می تواند هیدروگراف سیل را در نقطه مدنظر از رودخانه مشخص نماید. در طول سال های اخیر تحقیقات بسیاری بر روی بهبود عملکرد این مدل صورت گرفته که منجر به توسعه انواع غیرخطی آن شده است. انتخاب مدل مناسب ماسکینگام و تخمین بهینه پارامترهای آن نقش تعیین کننده ای در عملکرد نهایی مدل دارد. در این پژوهش برای برآورد مقدار بهینه پارامترهای مدل تیپ پنج ماسکینگام (NL5) از روش برنامه ریزی غیرخطی (NLP) استفاده شد، و نتایج با الگوریتم های فرا ابتکاری گرگ خاکستری (GWO)، ژنتیک (GA) و ازدحام ذرات (PSO) مقایسه گردید. هدف از بهینه سازی حداقل نمودن مجموع مربعات خطا(SSR) در نظر گرفته شد. به منظور ازریابی بهتر عملکرد الگوریتم های بهینه سازی، از اطلاعات سه مطالعه موردی مطرح در تحقیقات قبلی شامل سیل ویلسون، سیل رودخانه وای و تحقیق Vatankhah, 2014 استفاده شده است. پس از تعیین پارامترهای بهینه مدل NL5 با استفاده از روش NLP، مقدار SSR برای سه مطالعه موردی مذکور به ترتیب 5.44، 30837.6 و 7356.7 m6/s2 تعیین شد .برای مقایسه الگوریتم های مختلف بهینه سازی از شاخص های مختلفی به منظور ارزیابی عملکرد استفاده شد که همگی عملکرد بسیار مطلوبی را در هر سه مطالعه موردی نشان دادند. به عنوان نمونه شاخص NSE در تمام حالات بیشتر از 0.99 بدست آمد، که نشان می دهد نتایج بهینه سازی بسیارمناسب است. در نهایت با توجه به نتایج شاخص های عملکردی، به ترتیب تکنیک های بهینه سازی NLP، GWO، PSO و GA بهترین تا ضعیف ترین عملکرد را داشتند.