11. Optimización no lineal con restricciones

„

Principios y teoremas para la búsqueda de

óptimos globales

„

Modelos con restricciones de igualdad

„

Condiciones de Kuhn-Tucker

„

Algoritmos numéricos básicos

Principios y teoremas para la búsqueda

de óptimos globales.

„ Teorema de Weierstrass (condición suficiente de solución)

Sea el problema general de programación matemática: optimizar F(x) definida en D⊂Rn_{sujeto a x∈S,}

si X=D∩S es compacto (cerrado y acotado) y no vacío, y la función objetivo es continua, entonces dicha función posee un máximo y un mínimo global en X.

ƒ Teorema local-global

Si F es continua y X convexo entonces:

ƒ Si F es cóncava en X entonces todo máximo local es global

ƒ Si F es convexa en X entonces todo mínimo local es global Además si F es estricta, el óptimo es único

Modelos con restricciones de igualdad

„ Optimizar f(x₁,x₂,...,x_n) sujeto a g_i(x₁,...,x_n)=b_i, i=1,...,m (m<n) „ Pueden utilizarse dos técnicas:

„ Sustitución: se despejan variables en las restricciones y se sustituyen en la función objetivo. Este método puede dar lugar a errores si se consideran puntos en los que la función objetivo o las restricciones no están definidas

„ Método de Lagrange: se construye una función sin restricciones de modo que los óptimos de la función original se encuentran en los puntos críticos de la función de Lagrange

Multiplicadores de Lagrange.

„ Lagrangiano: incluye una nueva variable λ_i(multiplicador lagrangiano)

por cada restricción g_i:

„ Condición necesaria de optimización: encontrar los puntos críticos del

lagrangiano (x*, λ*)

(

)

(

)

_∑

(

(

)

)

= − − = m i i n i i n g x x b x x f x L 1 1 1, , , , ,

λ

_K

λ

_K

m

j

g

b

L

n

j

x

g

x

f

x

L

j j j m i j i i j j

,

,

1

,

0

,

,

1

,

0

1

K

K

=

=

−

=

∂

∂

=

=

∂

∂

−

∂

∂

=

∂

∂

_∑

=

λ

λ

Multiplicadores de Lagrange.

„ Teorema (Cond. Necesaria)

Si el rango del jacobiano de las restricciones en x* es m (cond. de regularidad) y x* es un óptimo local del problema, entonces existe un λ* tal que (x*, λ*) es punto crítico de la función de Lagrange.

ƒ Teorema (Cond. Suficiente)

Sea (x*, λ*) un punto crítico de la función de Lagrange. Entonces

ƒ Si F es cóncava en X y X es un conjunto convexo, entonces x* es máximo global del problema original

ƒ Si F es convexa en X y X es un conjunto convexo, entonces x* es mínimo global del problema original

Condición suficiente de optimización

„ Construimos la matriz y las matrices que resultan de quitarle a esa

matriz las últimas p filas y columnas p=0,1,...,n-m-1.

„ Para cada punto crítico obtenemos las matrices A₀,A₁,...,A_n-m-1:

„ Si el signo del determinante de A_pcoincide con (-1)mpara todo p, el punto crítico es un mínimo local estricto del problema

( )

(

)

(

)

              ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ =               ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂ = n m m n n g n n n x g x g x g x g x x J x L x x L x x L x L x L Hess L M M L K L M M L 1 1 1 1 1 2 2 1 2 1 2 2 1 2 , , , ,λ       H J J T g g 0

Búsqueda de mínimos

„ Si la función no es cóncava ni convexa, los puntos óptimos pueden estar en el

interior o en el contorno de la región factible.

„ Si la función es cóncava, los mínimos sólo pueden alcanzarse en el contorno

de la región factible si ésta es convexa y compacta.

„ Si la función es convexa, el mínimo puede estar en un punto interior o en el

contorno. Se puede utilizar el siguiente procedimiento aunque sin garantías de alcanzar la solución óptima:

„ Determinar el mínimo local sin restricciones:

„ si satisface las restricciones, éste es el mínimo global

„ En otro caso, consideramos una restricción y resolvemos el problema con el

método de sustitución o de Lagrange. Si el mínimo calculado de esta forma satisface las restricciones: óptimo global, si no, se añade una nueva restricción y se repite el proceso

Condiciones de Kuhn-Tucker.

„ Maximizar f(x₁,x₂,...,x_n) S.A. g₁(x₁,x₂,...,x_n) ≤b₁ g₂(x₁,x₂,...,x_n) ≤b₂ ... g_m(x₁,x₂,...,x_n) ≤b_m

ƒ Sólo son aplicables si las funciones g_isatisfacen la condición de regularidad:

ƒ Restricciones linealmente independientes: continuas y los gradientes en la solución óptima forman un sistema de vectores linealmente

Condiciones de Kuhn-Tucker.

„ Para un problema de maximización, si x*=(x*₁,...,x*_n) es una solución

óptima entonces x* debe satisfacer las resticciones del problema y además deben existir los multiplicadores λ1,λ2,...,λmtales que

( )

( )

( )

[

]

m

i

m

i

x

g

b

n

j

x

x

g

x

x

f

i i i i m i j i i j

,

,

2

,

1

,

0

,

,

2

,

1

,

0

*

,

,

2

,

1

,

0

*

*

1

K

K

K

=

≥

=

=

−

=

=

∂

∂

−

∂

∂

_∑

=

λ

λ

λ

Condiciones de Kuhn-Tucker.

„ Para un problema de minimización, si x*=(x*₁,...,x*_n) es una solución

óptima entonces x* debe satisfacer las resticciones del problema y además deben existir los multiplicadores λ1,λ2,...,λmtales que

( )

( )

( )

[

]

m

i

m

i

x

g

b

n

j

x

x

g

x

x

f

i i i i m i j i i j

,

,

2

,

1

,

0

,

,

2

,

1

,

0

*

,

,

2

,

1

,

0

*

*

1

K

K

K

=

≥

=

=

−

=

=

∂

∂

+

∂

∂

_∑

=

λ

λ

λ

Condiciones de Kuhn-Tucker.

„ Maximizar f(x₁,x₂,...,x_n)

S.A. g_i(x₁,x₂,...,x_n) ≤b_i, i=1,...,m x_j≥0, j=1,...,n

„ Si x*=(x*₁,...,x*_n) es una solución óptima del problema anterior entonces x*

debe satisfacer las restricciones del problema y además deben existir los multiplicadores λ1,λ2,...,λm, µ1,µ2, .µntales que

( )

( )

( )

[

]

( )

( )

n j m i n j x x x g x x f m i x g b n j x x g x x f j i m i j j i i j i i i m i j j i i j , , 2 , 1 , 0 , , 2 , 1 , 0 , , 2 , 1 , 0 * * * , , 2 , 1 , 0 * , , 2 , 1 , 0 * * 1 1 K K K K K = ≥ = ≥ = =     ∂ ∂     − ∂ ∂ = = − = = + ∂ ∂ − ∂ ∂

∑

∑

= = µ λ λ λ µ λ

Condiciones de Kuhn-Tucker.

„ Minimizar f(x₁,x₂,...,x_n) S.A. g_i(x₁,x₂,...,x_n) ≤b_i, i=1,...,m x_j≥0, j=1,...,n

„ Si x*=(x*₁,...,x*_n) es una solución óptima del problema anterior entonces x*

debe satisfacer las restricciones del problema y además deben existir los multiplicadores λ1,λ2,...,λm, µ1,µ2, .µntales que

( )

( )

( )

[

]

( )

( )

n j m i n j x x x g x x f m i x g b n j x x g x x f j i m i j j i i j i i i m i j j i i j , , 2 , 1 , 0 , , 2 , 1 , 0 , , 2 , 1 , 0 * * * , , 2 , 1 , 0 * , , 2 , 1 , 0 * * 1 1 K K K K K = ≥ = ≥ = =     ∂ ∂     + ∂ ∂ = = − = = − ∂ ∂ + ∂ ∂

∑

∑

= = µ λ λ λ µ λ

Condiciones suficientes

„

Si f es una función cóncava y g

_i

son funciones convexas,

los puntos que satisfacen las condiciones de Kuhn-Tucker

son soluciones óptimas del problema de maximización.

„

Si f es una función convexa y g

_i

son funciones convexas,

los puntos que satisfacen las condiciones de Kuhn-Tucker

son soluciones óptimas del problema de minimización.

Algoritmos numéricos básicos.

„

Métodos de penalización y barrera

„

Funciones de penalización: fuerzan la convergencia

hacia la región factible (algoritmo de punto exterior)

„

Funciones de barrera: fuerzan a permanecer dentro de

Método de penalización

„ Para aproximar la solución de un problema de optimización no lineal

del tipo:

Optimizar f(x₁,x₂,...,x_n) sujeto a g_i(x₁,...,x_n)=b_i, i=1,...,m se considera la solución del problema sin restricciones

Optimizar f(x)+P(p,x) donde

con p>0 si el problema es minimizar y p<0 si el problema es maximizar

„ Al obtener el valor óptimo de la función de penalización se cumplirá

que si |p| tiende a infinito entonces g_i(x) tiende a b_i.

( )

∑

(

( )

)

=

−

=

m i i i

x

b

g

p

x

p

P

1 2

,

Algoritmo de penalización

Para el problema de minimización

„ Elegir una secuencia por ejemplo 1,10,102, 103,.... „ Para cada p_kencontrar un mínimo local x_kde f(x)+P(p_k,x)

„ Terminar cuando P(p_k,x_k)/ p_ksea suficientemente pequeño

Método de las direcciones factibles.

„

Para resolver maximizar z=f(x) S.A. Ax

≤

b, x

≥

0:

„ Elegir x0solución factible.

„ Sea d0solución de maximizar z= ∇f(x0)·d S.A. Ad ≤b,

d ≥0

„ Elegir x1=x0+t₀(d0-x0) siendo t₀la solución de maximizar

f(x0_+t

0(d0-x0)), 0 ≤t0≤1

„ Continuar generando puntos x2,x3,... hasta que xky xk-1estén