Optimizaci´
on sin restricciones
Jes´us Get´an y Eva BojFacultat d’Economia i Empresa Universitat de Barcelona
Optimizaci´on sin restricciones
Problema general Presentaci´on del problema Caracterizaci´on de m´aximos y m´ınimos Problema general
Formulaci´on del problema
Caracterizaci´on del ´optimo
Presentaci´on del problema
Introducci´on
Soluci´on geom´etrica. Curvas de nivel Existencia de soluci´on
Caracterizaci´on de m´aximos y m´ınimos
Visi´on geom´etrica
Condici´on necesaria de primer orden
El problema general de optimizaci´on sin restricciones se puede enunciar as´ı:
Dada una funci´on
f :F ⊆Rn−→ R ~x7→z =f(~x)
,
encontrar los valores ~x ∈F, tales que maximizan o minimizan el
valor de la funci´on enF.
Optimizaci´on sin restricciones
Problema general
Presentaci´on del problema Caracterizaci´on de m´aximos y m´ınimos
Formulaci´on del problema
Caracterizaci´on del ´optimo
Proponemos la formulaci´on general de un programa matem´atico
mediante:
Opt f(~x),
sujeta a: ~x ∈F,
donde la palabraOptse interpretar´a como m´aximo o m´ınimo
funciones, el primer paso a realizar es caracterizarlos.
Definition
Sea la funci´on f :D ⊂Rn−→R dondeD es el domino de la
funci´on y un punto~xo ∈D.
Decimos que:
El punto~xo es un m´aximo local de f enD ⇔
Optimizaci´on sin restricciones
Problema general
Presentaci´on del problema Caracterizaci´on de m´aximos y m´ınimos
Formulaci´on del problema
Caracterizaci´on del ´optimo
Definition
El punto~xo es un m´ınimo local de f enD ⇔
∃δ >0 tal que,f(~x)≥f(~xo) para todo~x ∈D∩Bδ(~xo) .
El punto~xo es un m´ınimo global de f enD ⇔
f(~x)≥f(~xo) para todo~x∈D.
Observamos que un punto es m´aximo global cuando su imagen es
mayor que la de cualquier otro punto del dominio; en cambio, un
punto es m´aximo local cuando su imagen es mayor que la imagen
de cualquier punto que se halle en un cierto entorno suyo, aunque, fuera de este entorno pueden existir puntos con mayor imagen que
a) Cuando ~x 6=~xo y las desigualdades son estrictas, decimos que
los ´optimos son estrictos.
b) Todo ´optimo global (o absoluto) es tambi´en ´optimo local (o
Optimizaci´on sin restricciones
Problema general
Presentaci´on del problema Caracterizaci´on de m´aximos y m´ınimos
Formulaci´on del problema
Caracterizaci´on del ´optimo
Theorem
Sean f :D ⊂Rn−→R y~xo ∈D.
Si~xo es un m´aximo o m´ınimo global de f en D entonces,~xo es un m´aximo o m´ınimo local de f en D respectivamente.
Los preguntas b´asicas que nos podemos plantear para estudiar tras haber modelizado ciertas situaciones como programas
matem´aticos, son los siguientes:
I ¿Cu´ando podemos afirmar que un programa matem´atico tiene
soluci´on?, es decir, ¿cu´ando podemos asegurar la existencia de
´
optimos locales o globales?
Optimizaci´on sin restricciones Problema general
Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Introducci´on
Soluci´on geom´etrica. Curvas de nivel Existencia de soluci´on
Para resolver el segundo problema, de momento, consideraremos
un m´etodo geom´etrico consistente en dibujar el conjunto factible
del problema junto con las curvas de nivel de la funci´on y analizar
los valores que toma la funci´on sobre los puntos del conjunto
factible para determinar los valores m´aximo y m´ınimo. Este
m´etodo s´olo se puede llevar a cabo con funciones y conjuntos
factibles de una o dos variables y, a´un as´ı, el trazado de las curvas
de nivel de la funci´on sobre el conjunto factible puede ser
complicado. M´as adelante, y en el caso de funciones diferenciables,
En cuanto a la primera cuesti´on, la existencia y naturaleza de los ´
optimos depende fundamentalmente de las caracter´ısticas de la funci´on y del dominio.
Optimizaci´on sin restricciones Problema general
Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Introducci´on
Soluci´on geom´etrica. Curvas de nivel
Existencia de soluci´on
Dada la funci´on f :D ⊂Rn−→R,definimos la curva de nivel
parak ∈Rcomo el conjuntoCk de puntos del dominio donde
funci´on f tiene valor constante k,es decir,
Ck ={~x∈D |f(~x) =k}.
Geom´etricamente podemos localizar los ´optimos de un programa
matem´atico encontrando los puntos del conjunto factible por los
Optimizaci´on sin restricciones Problema general
Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Introducci´on
Soluci´on geom´etrica. Curvas de nivel
Existencia de soluci´on
Introducimos un teorema de existencia de soluci´on de un problema
de optimizaci´on que depende de las caracter´ısticas de la funci´on objetivo y del dominio. Observamos los siguientes ejemplos:
Example
Sea la funci´on f : [0,1)⊂R−→R
x 7−→f(x) =x2.
en [0,1) tiene un m´ınimo
Optimizaci´on sin restricciones Problema general
Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Introducci´on
Soluci´on geom´etrica. Curvas de nivel
Existencia de soluci´on
Example
La funci´on f : [0,1]⊂R−→R
x 7−→f(x) =x2.
en [0,1] tiene un m´ınimo
Example
La funci´on f : [0,2]⊂R−→R definida por
f(x) =
x2 si 0≤x <1, 1
2 si 1≤x ≤2,
Optimizaci´on sin restricciones Problema general
Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Introducci´on
Soluci´on geom´etrica. Curvas de nivel
Existencia de soluci´on
Estos ejemplos nos muestran que si el dominio no es compacto
(cerrado y acotado) o la funci´on objetivo no es continua en el
dominio, el programa matem´atico puede no tener soluci´on, el
teorema siguiente nos asegura que en caso contrario podemos afirmar la existencia de ´optimos globales.
Teorema de Weierstrass
Theorem
Sea D un subconjunto compacto de Rn y f :D⊂Rn −→R una funci´on continua en D . Entonces, f posee un m´aximo global y un m´ınimo global en D , es decir,
Optimizaci´on sin restricciones Problema general
Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Introducci´on
Soluci´on geom´etrica. Curvas de nivel
Existencia de soluci´on
El Teorema de Weierstrass nos asegura la existencia de ´optimos
globales bajo ciertas condiciones pero no afirma que el ´optimo sea
´
unico (la funci´on y = sinx en el intervalo [0,4π] tiene dos
El Teorema de Weierstrass tampoco dice que la continuidad de la
funci´on y la compacidad del dominio sean necesarias para la
existencia de ´optimos globales. La funci´on
f(x) = 4x x2+ 4 si − ∞ ≤x <0, 1 2 si x = 0, 4x x2+ 4 si 0<x ≤+∞.
Optimizaci´on sin restricciones Problema general Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Visi´on geom´etrica
Condici´on necesaria de primer orden Condiciones necesarias de segundo orden Condiciones suficientes de segundo orden
Dadaz =f(x1,x2) tal quef ∈ C2,en primer lugar
caracterizaremos los ´optimos en~xo ∈D ⊆Rn geom´etricamente, es
decir mediante el plano tangente a la funci´on en~xo. La ecuaci´on del plano tangente af en~xo es:
z =f(x1o,x2o) + ∂ ∂x1 f(x1o,x2o), ∂ ∂x2 f(x1o,x2o) x1−x o 1 x2−x2o
Si~xo ∈D ⊆Rn es un ´optimo def enD, entonces el plano
tangente es horizontal, es decir,
∂ ∂x1f(x o 1,x2o) = 0 y ∂∂x2f(x o 1,x2o) = 0, luegoz =f(xo 1,x2o).
Optimizaci´on sin restricciones Problema general Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Visi´on geom´etrica
Condici´on necesaria de primer orden Condiciones necesarias de segundo orden Condiciones suficientes de segundo orden
Generalizando lo anterior podemos enunciar el siguiente teorema
para la funci´onf :D⊂Rn→
R, diferenciable enD. Vamos a dar
condiciones necesarias o suficientes para que un punto del interior
del dominio D sea ´optimo local de la funci´on f .
Si D es abierto estas condiciones pueden aplicarse a todos los
Theorem
Sea f :D ⊂Rn→
Rdifenciable en D,con D abierto. Si~xo ∈ D es un ´optimo local de f en D, entonces∇f(~xo) =~0.
Optimizaci´on sin restricciones Problema general Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Visi´on geom´etrica
Condici´on necesaria de primer orden
Condiciones necesarias de segundo orden Condiciones suficientes de segundo orden
Dem: Sea~xo ∈ D es un m´aximo local, sus derivadas parciales son
∂ ∂xif(x o 1,x2o) = lim h→0 f(~xo+h~e i)−f(~xo)
h yi = 1...n. Entonces, para cada
i tenemos lim h→0+ f (~xo+h~ei)−f (~xo) h numerador <0 denominador >0 = <0, lim h→0− f(~xo+h~e i)−f(~xo) h numerador>0 denominador>0 =>0,
como el l´ımite existe, la ´unica posibilidad es que ea cero. Por
El rec´ıproco no es cierto, como demuestra el ejemplo,
f(x1,x2) =x1x2 en~xo = (0,0),
en el cual se anula el gradiente pero no es ´optimo es punto de silla.
Llamamospuntos cr´ıticosa los puntos en los que se anula el
Optimizaci´on sin restricciones Problema general Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Visi´on geom´etrica
Condici´on necesaria de primer orden
Condiciones necesarias de segundo orden
Condiciones suficientes de segundo orden
Theorem
Sea f :D ⊂Rn→
R,con f ∈ C2 y D abierto. Sea~xo ∈D tal que
∇f(~xo) =~0.Entonces,
el punto~xo ∈D es m´ınimo local de f en D⇒Hf(~xo) semidefinida positiva.
el punto~xo ∈D es m´aximo local de f en D⇒Hf(~xo)
El rec´ıproco no es cierto, como demuestra el ejemplo,
f(x1,x2) =x13+x22 en~xo = (0,0),
en el cual se anula el gradiente, la hessiana es semidefinida positiva pero no es m´ınimo, es punto de silla.
Optimizaci´on sin restricciones Problema general Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Visi´on geom´etrica
Condici´on necesaria de primer orden
Condiciones necesarias de segundo orden
Condiciones suficientes de segundo orden
Definition
Dado~xo ∈D conD abierto. El punto~xo es un punto de silla de
f en D ⇔ se cumplen las dos condiciones siguientes
(i)~xo es punto cr´ıtico,
Sea f ∈ C .Sea ~x ∈D con D conjunto abierto tal que
∇f(~xo) =~0.
Que Hf(~xo) sea definida positiva⇒~xo es m´ınimo local. Que Hf(~xo) sea definida negativa⇒~xo es m´aximo local. Que Hf(~xo) sea semidefinida positiva en todo un entorno de ~xo ⇒~xo es m´ınimo local.
Optimizaci´on sin restricciones Problema general Presentaci´on del problema
Caracterizaci´on de m´aximos y m´ınimos
Visi´on geom´etrica
Condici´on necesaria de primer orden Condiciones necesarias de segundo orden
Condiciones suficientes de segundo orden
El teorema rec´ıproco no es cierto, como muestran los siguientes ejemplos.
(i)f(x1,x2) =x14+x24 en~xo = (0,0), (ii)f(x1,x2) =x13+x22 en~xo = (0,0).
En (i) la hessiana es semidefinida positiva y en el punto la funci´on
alcanza su valor m´ınimo.
En (ii) la hessiana es semidefinida positiva y en el punto la funci´on