CLASE_3_sistlineales.pdf

(1)

M ´etodos Num ´ericos

Miguel Angel Cano Lengua [email protected]

Universidad Wiener

Sistema de Ecuaciones Lineales:M ´etodos Directos

(2)

ur-logo

2 Sistema de Ecuaciones Lineales

3 _{M ´etodos Directos}

Sistemas Triangulares

M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento Matrices Tridiagonales Factorizaci ón LU

Descomposici ´on de Cholesky

(3)

Introducci ´on

Sistema de Ecuaciones Lineales M ´etodos Directos Referencias

Palabras claves

Sistemas Lineales

La necesidad de resolver sistemas lineales aparece en una gran cantidad de problemas cient´ıficos.

Existen estimativas que de cuatro problemas de

simulaci ´on en matem ´atica, tres se convierten en resolver sistemas lineales.

(4)

ur-logo

Palabras claves

Sistemas Lineales

Sistema Lineal

El problema de resolver un sistema de ecuaciones lineales consiste en encontrarx = (x1,x2, ...,xn)tal que

a11x1+a12x2+...+a1nxn =b1

a21x1+a22x2+...+a2nxn =b2

...

(5)

Introducci ´on

Sistema de Ecuaciones Lineales

M ´etodos Directos Referencias

Palabras claves

Sistemas Lineales

Expresi ´on Matricial

Definiendo A=    

a11 a12 ... a1n a21 a22 ... a2n

... ... ... ...

an1 an2 ... ann.



  

, b=

    b1 b2 ... bn    

(6)

ur-logo

Palabras claves

Sistemas Lineales

Expresi ´on Matricial

encontrar el vectorx ∈Rntal que:

(7)

Introducci ´on

Sistema de Ecuaciones Lineales

M ´etodos Directos Referencias

Palabras claves

Sistemas Lineales

Observa

Si admitimos queA∈_Rn×n_{es invertible, entonces la soluci ´on}

ser ´a

x∗ =A−1b.

Lamentablemente, tanto el saber si la matriz es invertible como tambi ´en obtener la inversa de una matriz, son trabajos

(8)

ur-logo

Palabras claves

Sistemas Lineales

Sistemas Triangulares

M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento

Matrices Tridiagonales

Factorizaci ´onLU

Refinamiento de la Soluci ´on

Condicionamiento de la matriz y estimativa del error

(9)

Introducci ´on Sistema de Ecuaciones Lineales

M ´etodos Directos

Referencias

Sistemas Triangulares

M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento Matrices Tridiagonales Factorizaci ón LU

Descomposici ´on de Cholesky

Sistemas Triangulares

Supongamos que tenemos un sistema donden=2.En este

caso:

a11x1 + a12x2 =b1 a22x2 =b2

dondea116=0 ya22 6=0,entonces:

x2= b2 a22

(10)

ur-logo

Palabras claves

Sistemas Lineales

Supongamos que tenemos un sistema donden=3.En este

caso:







a11x1 + a12x2 + a13x3=b1 a22x2 + a23x3=b2 a33x3=b3

dondea11,a22,a33 6=0 entonces:

x3= b3 a33

x2= 1

a22

(b2−a23x3)

(11)

Referencias

Palabras claves

Sistemas Lineales

En general, consideremos el sistema

          

a11x1 + a12x2 ... + a1,n−1xn−1 +a1nxn=b1

0 + a22x2 ... + a2,n−1xn−1 +a2nxn=b2

... ... ... ... ... ... ...

0 0 0 0 0 an−1,n−1xn−1 +an−1,nxn=bn−1

0 0 0 0 0 0 annxn =bn

(12)

ur-logo

Palabras claves

Sistemas Lineales

xn= bn

ann

xn−1=

1

an−1,n−1

bn−1−an−1,nxn

...

x2=

1

a22

b2−a2nxn−a2,n−1xn−1−...−a23x3

x1=

1

a11

b1−a1nxn−a1,n−1xn−1−...−a13x3−a12x2

(13)

Referencias

Palabras claves

Sistemas Lineales

Algoritmo Triangular

Dadosaij,j≥i,bi,1≤i,j ≤n.

Hacerxn= _ab_nnn suma=0

Parak =n−1:1 hacer

suma=b_k

Paraj =k +1:nhacer

suma=suma−akjxj

(14)

ur-logo

Palabras claves

Sistemas Lineales

Ejemplo

Sea el problema







3x1 + 2x2 + 2x3=5

2x2 + 2x3=6

1x3=3

La soluci ´on es:

(15)

Referencias

Palabras claves

Sistemas Lineales

Complejidad

Vemos directamente que el algoritmo envuelve:

1 _n_divisiones

2 _Adiciones:

n

P

j=1

j= n(n−1₂ )

3 _{Multiplicaciones:}

n

P

j=1

j= n(n−1₂ )

(16)

ur-logo

M ´etodo de eliminaci ´on Gausiana

Propiedad

Los m ´etodos directos utilizados para resolver el sistema

Ax =bno se altera si lo sometemos a una sucesi ´on de

operaciones del tipo:

1 Multiplicaci ´on de una ecuaci ´on por una constante no nula.

2 _{Suma del m ´ultiplo de una ecuaci ´on con otra.}

3 _{Cambio de orden de las ecuaciones}

(17)

Referencias

M ´etodo de eliminaci ´on Gausiana

Estrat ´egia de Pivotiamiento Matrices Tridiagonales Factorizaci ´on LU

Palabras claves

Sistemas Lineales

Considere el sistema:



  

  

(18)

ur-logo

Palabras claves

Sistemas Lineales

Eliminaci ´on de la primera columna:

Supongamos quea11 6=0.

Trabajando en la segunda fila

(a11 a12 a13 a14 b1)× −a_a21₁₁+

(a21 a22 a23 a24 b2)

(19)

Referencias

Palabras claves

Sistemas Lineales

Trabajando en la tercera fila

(a11 a12 a13 a14 b1)× −aa3111+

(a31 a32 a33 a34 b3)

(20)

ur-logo

Palabras claves

Sistemas Lineales

Trabajando en la cuarta fila

(a11 a12 a13 a14 b1)× −aa4111+

(a41 a42 a43 a44 b4)

(21)

Referencias

Palabras claves

Sistemas Lineales

Trabajando en lai−´esima fila,i=2,3,4.

(a11 a12 a13 a14 b1)× −aa11i1+

(ai1 ai2 ai3 ai4 bi)

(22)

ur-logo

Palabras claves

Sistemas Lineales

Este proceso podemos expresarlo como:

Parai=2 hasta 4,hacer

Paraj=2 hasta 4

a(_ij2)=aij −(_aa₁₁i1)a1j

Fin (Para)

b(_i2)=bi−(_aa₁₁i1)b1.

(23)

Referencias

Palabras claves

Sistemas Lineales

En general:

Parai=2 hastan,hacer

Paraj=2 hastan

a(_ij2)=aij −(_aa₁₁i1)a1j

Fin (Para)

b(_i2)=bi−(_aa₁₁i1)b1.

(24)

ur-logo

Palabras claves

Sistemas Lineales

La matriz queda



   

   

a11 a12 a13 a14 b1

0 a(₂₂2) a₂₃(2) a(₂₄2) b₂(2)

0 a(₃₂2) a₃₃(2) a(₃₄2) b₃(2)

(25)

Referencias

Palabras claves

Sistemas Lineales

Eliminaci ´on de la segunda columna: Supongamos quea(₂₂2)6=0.

Trabajando en la tercera fila

(0 a(₂₂2) a(₂₃2) a₂₄(2) b(₂2))× −a32

a(2)₂₂+

(0 a(₃₂2) a₃₃(2) a₃₄(2) b₃(2))

(26)

ur-logo

Palabras claves

Sistemas Lineales

Trabajando en la cuarta fila:

(0 a(₂₂2) a(₂₃2) a₂₄(2) b(₂2))× −a42

a(2)₂₂+

(0 a(₄₂2) a₄₃(2) a₄₄(2) b₄(2))

0 0 a(₄₃2)−(a (2) 42

a(2)₂₂)a

(2)

23 a

(2)

44 −( a(2)₄₂ a(2)₂₂)a

(2)

24 b

(2)

4 −( a(2)₄₂ a(2)₂₂)b

(2)

(27)

Referencias

Palabras claves

Sistemas Lineales

En general:

Parai=3 hastan,hacer

Paraj=3 hastan

a(_ij3)=a2_ij −(a (2)

i2

a(2)₂₂)a

(2)

2j

Fin (Para)

b(_i3)=b_i(2)−(a (2)

i2

a(2)₂₂)b

(2)

2 .

(28)

ur-logo

Palabras claves

Sistemas Lineales

El sistema queda como:



   

   

a11 a12 a13 a14 b1

0 a(₂₂2) a₂₃(2) a(₂₄2) b₂(2)

0 0 a(₃₃3) a₃₄(3) b₃(3)

(29)

Referencias

Palabras claves

Sistemas Lineales

En general, repitiendo el proceso obtendremos un sistema de la forma:             

a11x1 + a12x2 ... + a1,n−1xn−1 +a1nxn=b1

0 + a(₂₂2)x2 ... + a

(2)

2,n−1xn−1 +a2nxn=b

(2)

2

... ... ... ... ... ... ...

0 0 0 0 0 a(_n−1n−1_,_n−1) xn−1 +a(

n−1)

n−1,nxn=b

(n−1)

n−1

(30)

ur-logo

Palabras claves

Sistemas Lineales

Observaci ´on

En el proceso de eliminaci ´on, los elementos

a11,a(₂₂2),a₃₃(3), ...,a(_jjj)que aparecen en la diagonal son

llamados pivots.

(31)

Referencias

Algoritmo Eliminaci ´on Gaussiana

Dadosaij,bi,1≤i,j ≤n.

Parak =1:n−1 hacer

encontrari ≥k tal queaik 6=0

Siaii =0 para todoi≥k entoncesA−1no existe

Cambie la lineak con la lineai

Parai=k+1:nhacer

m=mik = _aa_kkik bi =bi−mbk

Paraj =k +1:nhacer

(32)

ur-logo

Complejidad de la eliminaci ´on de Gauss

Para cada valorj en el tercer bloque del algoritmo son

realizadas dos operaciones: una multiplicaci ´on y una adici ´on. As´ı en este lazo son necesarias:

n

X

j=k+1

(33)

Referencias

Complejidad de la eliminaci ´on de Gauss

En el segundo bloque (el bloque eni) adem ´as de las

operaciones contabilizadas anteriormente, para cadi

realizamos una divisi ón, una multiplicaci ón y una resta. As´ı el n úmero de operaciones ser á:

n

X

i=k+1

(34)

ur-logo

Complejidad de la eliminaci ´on de Gauss

M ´etodo de Gauss

Para obtener el n ´umero total de operaciones realizamos la

suma enk,correspondiente al bloque externo del

algoritmo:

n−1

X

k=1

3(n−k) +2(n−k)(n−k) =3

n−1

X

k=1

(n−k) +2

n−1

X

k=1

(35)

Referencias

Complejidad de la eliminaci ´on de Gauss

M ´etodo de Gauss

N ´umero de operaciones aritm ´eticas (cont.)

Obteniendo as´ı, la cantidad de operaciones

2 3n

3₊n2

2 −

7 6n.

Observe que en los c ´alculos anteriores usamos el resultado:

n−1

X

(36)

ur-logo

N ´umero de operaciones aritm ´eticas

M ´etodo de Gauss

Para obtener el n úmero total de operaciones en el m étodo de eliminaci ón gaussiana, necesitamos sumar el n úmero de operaciones neces árias para resolver el sistema triangular.

As´ı, la aplicaci ón del m étodo de eliminaci ón de Gauss, el n úmero de operaciones aritm éticas es:

2 3n

3₊n2

2 −

7 6n+n

2₌ 2

3n

3₊3

2n

2₋ 7

6n.

(37)

Referencias

Ejemplo

M ´etodo de Gauss







2x1 + 4x2 + 6x3=16

−1x2 + x3=1

2x1 + −x2 + 4x3=7

La soluci ´on es:

(38)

ur-logo

Estrat ´egia de Pivoteamiento

Considere el sistema:

0.004x1 + 15.73x2 = 15.77

0.423x1 − 24.72x2 = −20.49

(39)

Referencias

Sistemas Triangulares M ´etodo de eliminaci ´on Gausiana

Estrat ´egia de Pivotiamiento

Matrices Tridiagonales Factorizaci ´on LU

Estrat ´egia de Pivoteamiento

Obtenemos que:

m=105.8

0.004x1 + 15.73x2 = 15.77

−1689x2 = −1688

De esta manera la soluci ´on obtenida es:

x1=12.5;x2=0.9994.

Por otro lado, podemos verificar que la soluci ´on es:

(40)

ur-logo

Estrat ´egia de Pivoteamiento

Invirtiendo el orden de las filas en el sstema, tenemos

0.423x1 − 24.72x2 = −20.49

0.004x1 + 15.73x2 = 15.77

Trabajando de nuevo con cuatro d´ıgitos y eliminamosx1en la

segunda fila tenemos:m=0.956×10−2,tenemos

0.423x1 − 24.72x2 = −20.49

−15.96x2 = 15.96

De esta manera la soluci ´on obtenida es:

x1=10;x2=1

(41)

Referencias

Sistemas Triangulares M ´etodo de eliminaci ´on Gausiana

Estrat ´egia de Pivotiamiento

Matrices Tridiagonales Factorizaci ´on LU

Algoritmo Eliminaci ´on Gaussiana con pivoteamiento

w =|akk|

Paraj=k :nhacer

Si|a_jk|>w entoncesw =|a_jk|yr =j

Fin (Para)

Cambiar las f´ılask yr

Parai=k+1:nhacer

m=mik = _aa_kkik b_i =b_i−mb_k

(42)

ur-logo

Matriz de banda

Una matriz es dicha esparsa si la cantidad de ceros es superior al n ´umero de elementos no nulos.

(43)

Referencias

Sistemas Triangulares M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento

Matrices Tridiagonales

Factorizaci ´on LU

Matriz de banda

Definici ´on

(44)

ur-logo

Matriz Tridiagonal

Sip=q=1,la matriz de banda es llamada tridiagonal, i.e,

A= 

    

d1 c1 a2 d2 c2

... ... ...

an−1 dn−1 cn−1 an dn



(45)

Referencias

Sistemas Triangulares M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento

Matrices Tridiagonales

Matriz Tridiagonal

Para resolver un sistema lineal con una matriz tridiagonal, i. e,

A=      

d1 c1 a2 d2 c2

... ... ...

an−1 dn−1 cn−1 an dn

     

, b=

     b1 b2 .. . bn     

(46)

ur-logo

Algoritmo Sistema Tridiagonal

Dados vectoresa,b,c,d

dk+1=dk+1−(ak_d+1_k )ck bk+1=bk+1−(ak_d+1_k )bk xn= bn

dn

Parak =n−1:1 hacer

x_k = (b_k −c_kx_k₊₁)/d_k

(47)

Referencias

Sistemas Triangulares M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento Matrices Tridiagonales

Factorizaci ´on LU

Supongamos que

A=LU,

donde

Les una matriz triangular inferior con elementos de su

diagonal igual a 1,y

Ues una matriz triangular superior, entonces

(48)

ur-logo

Factorizaci ´on LU

el cual permite obtener dos sistemas:

Sistema 1: encontrary tal que:

Ly =b

Sistema 2: encontrarx tal que:

(49)

Referencias

Factorizaci ´on LU

ConocidasLyU,el sistema ser ´a resuelta en

2n2

operaciones aritm ´eticas (dos sistemas triangulares) lo que

representa una ganancia substancial comparado con 2/3n3

(50)

ur-logo

Ejercicio de Factorizaci ´on LU

Estudiar el problema de la existencia de las matricesLyU.

(51)

Referencias

Observaciones

1 _{Dada una matriz}_A_,_{los factores}_L_y_U _{son ´unicos si}

exigimos que todos los elementos de la diagonal deLson

iguales a 1.

2 _{Se pueden encontrar directamente los elementos de}_L_y_U

a partir de la definici ´on de producto de matrices,

obteniendose un sistema den2ecuaciones yn2

(52)

ur-logo

Ejemplo

Considere la matriz:

A= 



a11 a12 a13 a21 a22 a23 a31 a32 a33





(53)

Referencias

Ejemplo

Considere la matriz:

LU= 



1 0 0

m21 1 0

m31 m32 1



 



u11 u12 u13

0 u22 u23

0 0 u33



= 



a11 a12 a13 a21 a22 a23 a31 a32 a33



(54)

ur-logo

Ejemplo





u11 u12 u13

m21u11 m21u12+u22 m21u13+u23 m31u11 m31u12+m32u22 m31u13+m32u23+u33



=





a11 a12 a13 a21 a22 a23 a31 a32 a33



(55)

Referencias

Formulaci ´on

De esta manera, si llamamosmij los elementos deLy deuij los

elementos deU,obtenemos:

mii =1,∀i =1, ...,n

uij =aij − i−1

X

k=1

mikukj, parai ≤j

mij =



a_ij −

j−1

X

mikukj



(56)

ur-logo

Algoritmo Factorizaci ´on LU

Dado la matrizA= (aij)

Parai=1:nhacer

Paraj=i:n,hacer

uij =aij − i−1

P

k=1 mikukj

Fin (Para)

Paraj=i+1:n,hacer

mji =

aji − i−1

P

k=1 mjkuki

/uii

(57)

Referencias

Observaciones

1 _{Se puede mostrar que los coeficientes}_m

ij calculados en el

algoritmo de eliminaci ´on Gaussina forman la matrizL

(desde que no se realice ning ún cambio de fila) y que la matriz triangular superior del m étodo de eliminaci ón

Gaussiana es la propia matrizU.

2 _{En el caso de cambio de filas (pivoteamiento) en la}

eliminaci ´on gaussiana tambi ´en tendremos una

factorizaci ´on triangular pero conLU=A0,dondeA0es

(58)

ur-logo

Ejemplo

Sea la matriz:

A= 



1 +2 −1

2 +3 −2

1 −2 +1



, b= 



2 3 0





(59)

Referencias

Ejemplo

Calculando losmij yuij por el algoritmo presentado obtenemos:

L= 



1 0 0 2 1 0 1 4 1



; U= 



1 +2 −1

0 −1 0

0 0 2



(60)

ur-logo

Ejemplo

Resolveremos el problema usando los sistemas:

Sistema 1: encontrary tal que:

Ly =b

Sistema 2: encontrarx tal que:

(61)

Referencias

Ejemplo

Sistema1:

L= 



1 0 0 2 1 0 1 4 1

    y1 y2 y3  =   2 3 0   obtenemos:

(62)

ur-logo

Ejemplo

Sistema2: con estos valores calculamosx atrav ´es del sistema

Ux =y,i.e.,





1 2 −1

0 −1 0

0 0 2



 



x1 x2 x3



= 



2

−1 2





obtenemos:

(63)

Referencias

Sistemas Triangulares M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento Matrices Tridiagonales Factorizaci ón LU

En algunas aplicaciones, la matrizAes sim ´etrica (A=AT) y definida positiva (xTAx >0,∀x ∈Rn,x 6=0). En este caso, se

puede demostrar que la factorizaci ´on triangular es:

A=LDLT,

dondeLes una matriz triangular inferior (con 1 en la diagonal)

yDes una matriz diagonal. Esta es la descomposici ´on de

(64)

ur-logo

Algoritmo Factorizaci ´on de Cholesky

Dado la matrizA= (aij),sim ´etrica y definida positiva.

Paraj=1:n,hacer

dj =ajj −

P

dkljk

Parai=j+1:n,hacer

lij = aij− j−1

P

k=1 dklikljk

!

/dj

(65)

Referencias

Sistemas Triangulares M étodo de eliminaci ón Gausiana Estrat égia de Pivotiamiento Matrices Tridiagonales Factorizaci ón LU

Observaciones

(66)

ur-logo

Referencias

1 _{R. L. Burden y J. D. Faires. An ´alisis Num ´erico. Editorial}

Iberoamericana. M ´exico 1995.

2 _{A. Nieves Hurtado y F. C. Dom´ınguez S. M ´etodos}

Num ´ericos aplicados a la Ingenier´ıa. C´ıa Editorial Continental. M ´exico, 1996.

3 _{S. Chapra y R. Canale. M ´etodos Num ´ericos para}

Ingenieros, 5 Edici ´on, Mc Graw Hill, 2007.

4 _{David Kincaid y Ward Cheney. An ´alisis Num ´erico. Las}