Ampliación de Matemáticas – Ing. Técnica de Telecomunicación
4.
RESOLUCIÓN DE SISTEMAS DE ECUACIONES LINEALES Y NO
LINEALES. MÉTODOS ITERATIVOS.
4.1.- Introducción
Los métodos numéricos para resolución de sistemas de ecuaciones lineales se clasifican en dos grandes grupos: métodos directos y métodos iterativos. Los métodos directos son aquellos que proporcionan la solución exacta en el supuesto de que todas las operación es se pueden llevar a cabo sin errores de redondeo. Estos métodos no se pueden aplicar a problemas de grandes dimensiones. Por otra parte muchos de los grandes problemas que se plantean en la industria y en la técnica presentan unas matrices de coeficientes en las que los elementos distintos de cero son muy pocos. Tal es el caso, por ejemplo, de los problemas que surgen en el análisis y planificación de sistemas eléctricos de generación y transporte de energía, en problemas de contorno para ecuaciones en derivadas parciales, en el análisis de estructuras mecánicas mediante elementos finitos, etc. Para la resolución de este tipo de sistemas los métodos iterativos son mucho más interesantes ya que requieren un menor esfuerzo computacional.
Esta clase de métodos consiste en expresar el sistema de ecuaciones de una forma equivalente: A R S T A R S x b x x b x x c
Lo cual sugiere el siguiente esquema iterativo :
(k1) T ( )k
x x c
En el que a T se le denomina matriz de paso y a c vector corrector. El método iterativo será convergente si :
( )
lim k k
x x
Siendo x la solución exacta del sistema que se obtendría tras infinitas etapas de iteración. Los métodos iterativos requieren partir de una aproximación inicial de la solución del sistema x(0) y tienen también la ventaja frente a los directos de que se ven menos afectados por los errores de redondeo.
4.2.- Normas vectoriales
Cuando se construye una sucesión de vectores aproximación de la solución de un sistema lineal, para estudiar la convergencia interesa medir la distancia entre las dos últimas aproximaciones, y para medir esta distancia es necesario utilizar el concepto de norma de un vector.
Norma vectorial. Este concepto se presenta en Álgebra y ya es conocido. Se pueden definir distintas normas en un espacio vectorial de dimensión n. Las más utilizadas son:
1 1 2 2 1 1(norma euclídea)
max (norma del máximo)
n i i n i i i i n x x x x x x
Ampliación de Matemáticas – Ing. Técnica de Telecomunicación Esta última es la que más se utiliza al estudiar una sucesión de vectores. 4.3.- Métodos iterativos para sistemas lineales
2.3.1.- Métodos de iteración de Jacobi y de Gauss-Seidel
Ejemplo .
Consideremos el sistema de ecuaciones
4 7 4 8 21 2 5 15 x y z x y z x y z Estas ecuaciones se pueden escribir como
7 21 4 15 2
; ;
4 8 5
y z x z x y
x y z
lo que sugiere el siguiente proceso iterativo:
( ) ( ) ( ) ( ) ( ) ( ) ( 1) 7 ( 1) 21 4 ( 1) 15 2 ; ; 4 8 5 k k k k k k k y z k x z k x y x y z
Si empezamos con P(0)= (x(0),y(0),z(0)) = (1,2,2), entonces la iteración parece converger a la solución (2,4,3). En efecto, sustituyendo x(0)= 1, y(0)= 2 y z(0)= 2 en el miembro derecho de la relación obtenemos:
(1) 7 2 2 (1) 21 4 2 (1) 15 2 2
1.75 ; 3.375 ; 3.80
4 8 5
x y z
El nuevo punto P(1)= (1.75,3.375,3.00) está más cerca de (2,4,3) que P(0).
Este proceso se conoce como método de iteración de Jacobi y puede usarse para resolver algunos tipos de sistemas de ecuaciones lineales.
En la resolución numérica de ecuaciones en derivadas parciales suelen aparecer sistemas de ecuaciones lineales con incluso 100000 incógnitas; en estos sistemas la matriz de los coeficientes es dispersa, es decir, un alto porcentaje de los elementos de la matriz son iguales a cero. Si hay algún tipo de patrón en la distribución de los elementos distintos de cero (ejemplo: los sistemas tridiagonales), entonces un método iterativo puede resultar muy eficaz en la resolución de estos sistemas tan enormes.
Finalmente conviene señalar que en algunas ocasiones el método iterativo de Jacobi no funciona.
Algunas veces podemos acelerar la convergencia. Puesto que x(k+1) es, probablemente, mejor aproximación al límite que x(k), sería razonable usar x(k+1) en vez de x(k) a la hora de calcular y(k+1) y, de forma semejante, sería mejor usar x(k+1) e y(k+1) en el cálculo de z(k+1).
Ejemplo.
Ampliación de Matemáticas – Ing. Técnica de Telecomunicación ( ) ( ) ( 1) ( ) ( 1) ( 1) ( 1) 7 ( 1) 21 4 ( 1) 15 2 ; ; 4 8 5 k k k k k k k y z k x z k x y x y z
A este proceso iterativo se conoce como método de Gauss-Seidel. Sustituyendo y(0)= 2 y z(0)= 2 en la primera ecuación obtenemos:
(1) 7 2 2
1.75 4
x
Sustituyendo ahora x(1)= 1.75 y z(0)= 2 en la segunda obtenemos:
(1) 21 4(1.75) 2
3.75 8
y
Finalmente, sustituyendo x(1)= 1.75 e y(1)= 3.75 en la tercera:
(1) 15 2(1.75) 3.75
2.95 5
z
Del mismo modo para calcular x(2) se utilizarán y(1) y z(1); para calcular y(2) se usarán x(2) y z(1); para calcular z(2) se usarán x(2) e y(2); y así sucesivamente.
Vamos a considerar ahora los procesos iterativos de Jacobi y Gauss-Seidel con mayor generalidad. Supongamos que tenemos un sistema de n ecuaciones lineales
11 1 12 2 1 1 1 21 1 22 2 2 2 2 1 1 2 2 1 1 2 2 j j N N j j N N j j jj j jN N j N N Nj j NN N N a x a x a x a x b a x a x a x a x b a x a x a x a x b a x a x a x a x b
Sea Pk = (x1(k),x2(k),...,xj(k),...,xN(k)) el vector que aproxima la solución en la etapa k, de
manera que en la siguiente etapa se obtendrá Pk+1 = (x1(k+1),x2(k+1),...,xj(k+1),...,xN(k+1)). El
superíndice (k) de las coordenadas de Pk nos permite identificar la etapa a la que pertenece el vector de soluciones aproximadas. Las fórmulas de iteración usan la fila j-ésima para despejar
xj(k+1) como una combinación lineal de los valores previamente obtenidos:
Método iterativo de Jacobi:
( ) , ( ) ( ) ( ) ( ) 1 ,1 1 , 1 1 , 1 1 , ( 1) , , N k i i j j k k k k j j i i i i i i i i i i N N k i i i i i b a x b a x a x a x a x x a a
para i = 1,2,...,N.En el método iterativo de Jacobi se usan todos los valores aproximados de la etapa anterior en la obtención de los nuevos valores aproximados, mientras que en el método iterativo de Gauss-Seidel se emplean las últimas aproximaciones obtenidas conforme se van generando:
Ampliación de Matemáticas – Ing. Técnica de Telecomunicación Método iterativo de Gauss-Seidel:
( 1) ( 1) ( ) ( ) ,1 1 , 1 1 , 1 1 , ( 1) , 1 ( 1) ( ) , , 1 1 , ( 1, 2, ..., ) k k k k i i i i i i i i i N N k i i i i N k k i i j j i j j j j i i i b a x a x a x a x x a b a x a x i N a
2.3.2.- El metodo SOREl método SOR es parecido a los métodos de Jacobi y Gauss-Seidel, pero utiliza un factor de escala para reducir más rápidamente el error de la aproximación. La técnica SOR pertenece a una clase de métodos de relajación que calculan las aproximaciones x(k) mediante la siguiente expresión: 1 ( 1) ( ) ( 1) ( ) 1 1 (1 ) i n k k k k i i i ij j ij j j j i ii x x b a x a x a
Donde es el factor de escala.
Cuando = 1 tenemos el método de Gauss-Seidel. Cuando 0 < < 1 el procedimiento recibe el nombre de método de subrelajación y puede usarse para obtener la convergencia cuando Gauss-Seidel no converge.
Cuando 1 < el procedimiento recibe el nombre de método de sobrerrelajación , y se emplea para acelerar la convergencia en sistemas para los que el método de Gauss-Seidel converge.
4.4.- Convergencia de los métodos iterativos
Al utilizar un método iterativo para resolver un sistema de ecuaciones lineales conviene tener en cuenta los siguientes aspectos:
- El error de redondeo producido en cada iteración no tiene tanta importancia como en los métodos directos: importa más el error de truncamiento del propio método.
- Los métodos iterativos son apropiados para resolver sistemas grandes en los que la matriz de coeficientes es dispersa.
- No se pretende obtener la solución exacta (en teoría sería necesario realizar infinitas iteraciones) sino una solución aproximada.
- El criterio de parada es que la distancia absoluta o relativa entre los resultados obtenidos en las dos últimas iteraciones sea suficientemente pequeña. Para cuantificar esta distancia se utiliza la norma vectorial de su diferencia x(k1) x( )k
.
Con esta definición de la distancia entre dos vectores, el criterio de parada se puede representar en términos de:
( +1) ( ) ( +1) ( ) ( +1) el error absoluto: el error relativo: k k k k k x x x x x
Ampliación de Matemáticas – Ing. Técnica de Telecomunicación
Recordemos ahora un par de definiciones relativas a dos tipos de matrices, enunciadas en el capítulo anterior y que vuelven a aparecer en este capítulo, y la definición de radio espectral de una matriz, para pasar a continuación a enunciar un teorema general relativo a la convergencia de los métodos iterativos para la resolución de sistemas lineales.
Definición: Se dice que una matriz A de orden n es estrictamente diagonal dominante si:
1 ( 1, 2, ..., ) n kk kj j j k a a k n
Definición: Se dice que una matriz A de orden n es definida positiva si, siendo x un vector perteneciente a n: 0 A t x x x , y xt A x 0 si x= 0
Definición: Se define el radio espectral de una matriz A de orden n, y se representa como (A), al mayor de los valores propios de A en valor absoluto o módulo.
Teorema: Sea el sistema de ecuaciones :
A x b x T x c El esquema iterativo:
(k1) T ( )k
x x c
Es convergente si y solo si el radio espectral de la matriz de paso T es menor que 1. En este caso la sucesión x(k) converge a la solución exacta del sistema cualquiera que sea la aproximación inicial x(0)
Este teorema es válido para cualquier método iterativo para la resolución de un sistema de ecuaciones lineales. Sin embargo su aplicación puede resultar complicada ya que requiere el cálculo del radio espectral de la matriz de paso. La convergencia de los métodos de Jacobi y de Gauss-Seidel se puede asegurar si la matriz de coeficientes tiene ciertas propiedades.
Se puede demostrar que:
- Si en el sistema de ecuaciones lineales Ax = b la matriz A es estrictamente diagonal dominante, entonces para cualquier aproximación inicial los métodos de Jacobi y de Gauss-Seidel son convergentes cualesquiera que sean el vector de términos independientes y la aproximación inicial. Teniendo esto en cuenta, en muchas ocasiones, para obtener la convergencia bastará con reordenar el sistema colocando en la diagonal principal los coeficientes de mayor valor absoluto. - El método de Gauss-Seidel también converge cuando la matriz A es definida positiva. En general el método de Gauss-Seidel converge más rápidamente que el de Jacobi.
- Si A es una matriz definida positiva y 0 < < 2, entonces el método SOR converge para cualquier valor inicial x(0) .
A partir de las matrices de paso de los métodos de Jacobi, Gauss-Seidel y SOR se puede determinar en el caso de que la matriz A sea tridiagonal, además de definida positiva, la elección óptima del valor de .
Ampliación de Matemáticas – Ing. Técnica de Telecomunicación 4.5.- Métodos iterativos para sistemas no lineales. Conceptos previos.
Para resolver sistemas de ecuaciones no lineales es preciso trabajar con funciones de varias variables, y hay que usar las derivadas parciales y la matriz jacobiana.
Sea el sistema no lineal: 1
2 ( , ) 0 ( , ) 0 f x y f x y
Definición. (Matriz jacobiana). Sean f1(x,y) y f2(x,y) funciones de dos variables independientes x
e y. Entonces su matriz jacobiana J(x,y) es:
1 1 2 2 ( , ) f f x y J x y f f x y 2.5.1.- La diferencial
Cuando tenemos una función de varias variables, la diferencial es una magnitud que podemos usar para mostrar cómo afectan los cambios de las variables independientes a las variables dependientes. Consideremos las funciones:
u = f1(x,y,z), v = f2(x,y,z) y w = f3(x,y,z)
Supongamos que los valores de las funciones anteriores se conocen en el punto (x0,y0,z0) y
que queremos estimar sus valores en un punto cercano (x,y,z). Si denotamos por du, dv y dw los cambios diferenciales en las variables dependientes y por dx, dy y dz los cambios diferenciales en las variables independientes, entonces estos cambios se pueden expresar:
1 1 1 0 0 0 0 0 0 0 0 0 2 2 2 0 0 0 0 0 0 0 0 0 3 3 3 0 0 0 0 0 0 0 0 0 ( , , ) ( , , ) ( , , ) ( , , ) ( , , ) ( , , ) ( , , ) ( , , ) ( , , ) f f f du x y z dx x y z dy x y z dz x y z f f f dv x y z dx x y z dy x y z dz x y z f f f dw x y z dx x y z dy x y z dz x y z
Usando notación vectorial, puede escribirse de forma más compacta utilizando la matriz jacobiana. Si representamos du, dv y dw mediante la función vectorial dF y las diferenciales dx, dy y dz por dX, entonces: 0 0 0 0 0 0 ( , , ) ( , , ) du dx dF dv J x y z dy J x y z dX dw dz
4.6.- El método de Newton-Raphson para sistemas no lineales
Vamos a construir el método de Newton-Raphson en el caso bidimensional. Esta construcción se generaliza fácilmente a dimensiones mayores.
Consideremos el sistema: 1 2 ( , ) ( , ) u f x y v f x y
que puede interpretarse como una transformación del plano XOY en el plano UOV. Si estamos interesados en el comportamiento de esta transformación cerca del punto (x0,y0), cuya imagen es
Ampliación de Matemáticas – Ing. Técnica de Telecomunicación
usar la diferencial del sistema para escribir un sistema de aproximaciones incrementales lineales válidas cerca del punto (x0,y0) en cuestión:
1 1 0 0 0 0 0 0 0 2 2 0 0 0 0 0 0 0 ( , ) ( , ) ( , ) ( , ) f f u u x y x x x y y y x y f f v v x y x x x y y y x y El sistema anterior es una aproximación lineal local que nos da una idea del efecto que pequeños cambios en las variables independientes producen en las variables dependientes. Si usamos la matriz jacobiana J(x0,y0), esta relación se escribe de forma más cómoda como:
1 1 0 0 0 0 0 0 0 0 0 0 2 2 0 0 0 0 0 0 ( , ) ( , ) ( , ) ( , ) ( , ) f x y f x y u u x y x x J x y x x v v f x y f x y y y y y x y
Usaremos esta aproximación para desarrollar el método de Newton bidimensional. Consideremos el sistema de ecuaciones que resulta de igualar u y v a cero en:
1 2 0 ( , ) 0 ( , ) f x y f x y
Supongamos que (p,q) es una solución de este sistema, es decir, 0 f p q1( , ), y 2
0 f p q( , ). Si consideramos pequeños cambios de las funciones cerca de un punto inicial (p0,q0)
próximo a la solución (p,q): 0 0 0 0 ; ; u u u p x p v v v q y q entonces 0 1 1 0 0 1 0 0 0 2 2 0 0 2 0 0 ( , ) ( , ) 0 ( , ) ( , ) ( , ) 0 ( , ) u u f p q f p q f p q v v f p q f p q f p q
Expresando en forma matricial el sistema lineal cuyas incógnitas son p y q:
1 1 0 0 0 0 1 0 0 2 2 2 0 0 0 0 0 0 ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) f p q f p q f p q p x y f p q f p q q f p q x y
Si la matriz jacobiana J(p0,q0) es invertible, entonces podemos despejar
t
0 0 = t t P p q p q p q de manera que P J p q( 0, 0)1F p q( 0, 0)Esto nos proporciona la siguiente aproximación P1 a la solución P = [p q]:
1
1 0 0 ( 0, 0) ( 0, 0)
P P P P J p q F p q
Hagamos notar que la fórmula anterior es la generalización de la fórmula de iteración del método de Newton-Raphson para funciones de una variable que, como vimos, es:
1 0 ( 0) ( 0)
Ampliación de Matemáticas – Ing. Técnica de Telecomunicación 2.6.1.- Esquema del método de Newton-Raphson
Supongamos que hemos obtenido Pk. Paso 1. Evaluamos la función
1 2 ( , ) ( ) ( , ) k k k k k f p q F P f p q
Paso 2. Evaluamos la matriz jacobiana
1 1 2 2 ( , ) ( , ) ( ) ( , ) ( , ) k k k k k k k k k f p q f p q x y J P f f p q p q x y
Paso 3. Calculamos P resolviendo el sistema lineal:
( k) ( k)
J P p F P
Paso 4. Calculamos el siguiente punto:
1
k k
P P P
