بهینه سازی رویکردی است که با مقایسه راه حل‌های مختلف تا یافتن یک راه حل بهینه یا رضایت بخش، به صورت تکرار پذیر اجرا می‌شود. با ظهور رایانه‌ها، بهینه سازی به بخشی از فعالیت‌های طراحی به کمک رایانه تبدیل شده است. برای حل مشکلات واقعی، محققان ممکن است از الگوریتم‌هایی استفاده کنند که درمراحل محدود خاتمه می‌یابند، یا روش‌های تکرار شونده که به یک راه حل همگرا می‌شوند، یا روشهای ابتکاری که ممکن است راه حل‌های تقریبی برخی از مسائل را ارائه دهند. مسائل بهینه سازی در همه رشته‌های علوم مهندسی و کامپیوتر گرفته تا اقتصاد کاربرد دارند.