En un problema de optimización se tratará de encontrar una solución que represente el valor óptimo para una función objetivo. En el caso más sencillo se tendrá un único objetivo, que estará representado por una función del tipo, donde y . Tanto el dominio como la imagen de la función serán números reales (escalares), y el valor óptimo corresponderá a un mínimo o a un máximo. Ejemplo: Al minimizar la función, el valor óptimo es, y se da para, según puede verse en la figura 1.