Resolviendo sistemas de ecuaciones lineales: sistemas triangulares, matrices de Eliminación Gaussiana, Factorización LU y Factorización de Cholesky Ursula Iturrarán-Viveros

(1)

Resolviendo sistemas de ecuaciones lineales:

sistemas triangulares, matrices de Eliminación Gaussiana, Factorización LU y Factorización de

Cholesky

Ursula Iturrarán-Viveros

Facultad de Ciencias, U.N.A.M.

August 19, 2019

(2)

Contenido

1 Transformaciones

Matrices de permutación

2 Sistemas de ecuaciones lineales triangulares

3 Matrices elementales de eliminación

Propiedades de las matrices elementales de eliminación

4 Eliminación Gaussiana

5 Factorización LU Pivoteo

6 Formas cuadráticas

7 Matrices definidas positivas

8 Equivalencias

9 Factorización LDL^T

Ursula Iturrarán-Viveros (Facultad de Ciencias) Eliminación Gaussiana, LU, Cholesky August 19, 2019 2 / 75

(3)

Transformaciones

¿Qué tipo de transformaciones dejan a un sistema de ecuaciones sin cambio?

Queremos encontrar las transformaciones que dejan a un sistema lineal de ecuaciones sin cambio.

Premultiplicación

Podemos pre-multiplicar ambos lados de la ecuación (Ax = b) por una matriz no singular M sin afectar la solución. Veamos como la solución del sistema de ecuaciones

MAx = Mb (1)

esta dada por:

z = (MA)⁻¹Mb = A⁻¹M⁻¹= A⁻¹b = x (2)

(4)

Transformaciones Matrices de permutación

Matrices de permutación

Un ejemplo importante de este tipo de transformaciones son las matrices depermutación. Los renglones de la matriz A y las correspondientes entradas de b pueden re-ordenarse sin cambiar la solución x. Premultiplicando ambos lados de la ecuación por una matriz de permutaciónP (la matriz identidad con renglones y columnas permutadas).

Ejemplo





0 0 1 1 0 0 0 1 0







 v₁ v₂ v₃



=



 v₃ v₁ v₂



 (3)

Una matriz de permutación es siempre no singular y su inversa es su transpuesta, i.e. P⁻¹= P^T. Enonces el sistema reordenado se puede escribir: PAx = Pb y la solución x no cambia.

(5)

Postmultiplicando (multiplicando por la derecha)

Cuando multiplicamos el sistema de ecuaciones por la derecha

(post-multiplicamos) por una matriz de permutación (reordenamos las columnas en lugar de los renglones)la solución al sistema de

ecuaciones si cambia, pero solo porque los componentes de la solución estan permutados

Post-multiplicaicón por una matriz de permutación

Consideremos el sistema de ecuaciones postmultiplicado por una matriz de permutación APz = b esta dado por:

z = (AP)⁻¹b = P⁻¹A⁻¹b = P^TA⁻¹b = P^Tx (4) de aquí ique la solución al sistema original Ax = b esta dada por x = Pz

(6)

Ejemplo: Escalamiento diagonal

Matrices diagonales

Una matriz D es diagonal si dij= 0 para todos los i 6= j, por lo que las únicas entradas diferentes de cero son diipara i = 1, . . . n en la diagonal principal.

Premultiplicando ambos lados del sistema de ecuaciones lineal:

Ax = b (5)

por una matriz diagonal no singular D, a esto se le llamaescalamiento diagonal. En principio esto no cambia la solución, pero en la práctica puede afectar el proceso de solución numérica y la precisión.

(7)

Escalamiento diagonal por columnas

Escalamiento por columnas

Si post-multiplicamos el sistema lineal de ecuaciones por una matriz diagonal no singular D, estosi afecta la solución. La solución al sistema de ecuaciones escalado ADz = b esta dada por:

z = (AD)⁻¹b = D⁻¹A⁻¹b = D⁻¹x (6) de donde la solución al sistema original Ax = b esta dada por x = Dz.

(8)

Sistemas de ecuaciones lineales triangulares

Sistemas triangulares

¿Qué tipo de sistema lineal de ecuaciones es fácil de resolver?

Definción: Matrices triangulares

Un matriz L estraingular inferiorsi todas sus entradas por arriba de la diagonal principal son cero (i.e. si lij= 0 para i < j).

De forma similar una matriz U estraingular superiorsi todas sus entradas por abajo de la diagonal principal son cero (i.e. si uij= 0 para i > j).

En un sentido más general una matriz es triangular si mediante la permuatición de sus renglones y/o columnas es posible llevarla a una forma triangular.

(9)

Matrices diagonal dominantes

Definición: Matriz diagonal dominante

Una matriz cuadrada estrictamente diagonal-dominante es la siguiente:

aii

>

n

X

j=1

j6=i

aij

, j= 1, 2, . . . , n (7)

1 Nótese que dada una matriz estrictamente diagonal-dominante, su transpuesta no tiene por que serlo.

2 Una matriz estrictamente diagonal-dominante tiene inversa. Se puede aplicar eliminación Gaussiana sin necesidad de hacer intercambio de renglones, y los cálculos serán estables con respecto a los errores de redondeo.

(10)

Sustitución hacia adelante

2. Resolver la ecuación matricial:

Lx= b −→







l₁₁ 0 · · · 0 l₂₁ l₂₂ . .. ... ... ... . .. 0 l_n1 l_n2 · · · l_nn







·





 x₁ x₂ ... x_n







=





 b₁ b₂ ... b_n







Algoritmo

Paso 1. x₁= b1

l₁₁

Paso 2. x_k = 1 lkk



b_k−

k−1

X

j=1

x_jl_kj



 para k= 2, . . . , n

(11)

Algoritmo de sustitución hacia adelante

for j=1 to n {loop de las columnas}

if ljj=0 then stop {detenerse si es singular}

xj=bj/ljj {calcula componente}

for i=j+1 to n

bi=bi-lij xj {actualiza el lado derecho}

end end

(12)

Susticución hacia atras

1. Resolver la ecuación matricial:

Ux= b −→







u₁₁ u₁₂ · · · u_1n 0 u₂₂ · · · u_2n ... . .. . .. ... 0 · · · 0 u_nn







·





 x₁ x₂ ... x_n







=





 b₁ b₂ ... b_n







Algoritmo

Paso 1. x_n= bn

u_nn

Paso 2. x_k = 1 ukk



b_k−

n

X

j=k+1

x_ju_kj



 para k= n − 1, . . . , 1

(13)

Algoritmo de susticución hacia atras

for j=1 to n {loop de los renglones}

if ujj=0 then stop {detenerse si es singular}

xj=bj/ujj {calcula componente}

for i=j+1 to n

bi=bi-uij xj {actualiza el lado derecho}

end end

(14)

Matrices elementales de eliminación

Matrices de eliminación

Quermeos encontrar una transformación no singular que nos permita transformar un sistema lineal de ecuaciones dado en uno triangular.

Necesitamos una transformación que remplace con ceros algunas entradas de la matriz que no son ceros. Esto se puede lograr tomando la combinación lineal de renglones de la matriz.

Matriz de eliminación

Consideremos el vector de tamaño 2 como a = [a₁, a₂]^T entonces:

1 0

−a₂/a₁ 1

a₁ a₂

= a₁ 0

. (8)

(15)

Matrices elementales de eliminación

Matrices de eliminación

De manera más general dado un vector a de tamaño n podemos anular todas sus entradas debajo de la posición k-ésima mediante la siguiente transformación:

Matriz de eliminación: Caso general







1 . . . 0 0 . . . 0 ... . .. ... ... . .. ...

0 . . . 1 0 . . . 0 0 . . . −mk+1 1 . . . 0 ... . .. ... ... . .. ...

0 . . . −mn 0 . . . 1











 a₁ a₂ ... a_k a_k+1

... an







=





 a₁ a₂ ... a_k

0 ... 0







(9)

(16)

Matrices elementales de eliminación Propiedades de las matrices elementales de eliminación

Matriz de eliminación: Caso general

Los componentes mi = ai/ak, con i = k + 1, . . . , n se llaman multiplicadores. Los componentes akse llamanpivotes. Una matriz como la expresada en la ecuación anterior se llamamatriz elemental de eliminación, o también se le conoce comotransformación de Gauss.

(17)

Propiedades de las matrices de eliminación

Mkes una matriz triangular inferior con diagonal principal unitaria por lo que no debe ser singular

Mk = I − mke^T_k donde el vector mk = [0, . . . , 0, m_k+1, . . . , mn]^T y ekes la k-ésima columna de la matriz identidad

M⁻¹_k = I + mke^T_k. Esto significa que si denotamos M⁻¹_k por Lk, es el mismo que Mkexcepto que los signos de los multiplicadores esta invertidos

Si Mj, j > k es otra mariz de eliminación con vector de multiplicadores mjentonces

MkMj = I − mke^T_k − mje^T_j + mke^T_kmje^T_j = I − mke^T_k − mje^T_j esto porque e^T_kmj = 0 pues todas las entradas de e^T_k son cero excepto la k-ésima y j > k. Por lo que su producto es escencialmente la union.

(18)

Matrices de eliminación: Ejemplo

M₁a =





1 0 0

−2 1 0

1 0 1







 2 4

−2



=



 2 0 0



,

M₂a =





1 0 0

0 1 0

0 1/2 1







 2 4

−2



=



 2 4 0





(10)

Notemos que L₁ = M⁻¹₁ =





1 0 0

2 1 0

−1 0 1



, L₂ = M⁻¹₂ a =





1 0 0

0 1 0

0 −1/2 1



 (11) M₁M⁼₂





1 0 0

−2 1 0

1 0.5 1



, L₁L₂ =





1 0 0

2 1 0

−1 −1/2 1



 (12)

(19)

Eliminación Gaussiana

Método de eliminación Gaussiana

Usando matrices elementales de eliminación es simple reducir un sistema de ecuaciones general

Ax = b (13)

a una forma triangular superior.

Construimos M₁con el primer elemento en la diagonal a₁₁ como pivote y conseguimos que los elementos de la primera columna de la matriz original A se hagan ceros excepto por el primer elemento cuando pre-multiplicamos por M₁. Tenemos que pre-multiplicar también b por M₁. El nuevo sistema es el siguiente:

M₁Ax = M₁b (14)

como vimos anteriormente la solución al sistema original se mantiene sin cambios.

(20)

Método de eliminación Gaussiana

Usamos el siguiente elemento en la diagonal como pivote para poder construir M2que al pre-multiplicar por M1A hará ceros los elementos en la segunda columna de M₁A por debajo del

elemento de la diagonal a₂₂. El nuevo sistema es el siguiente:

M₂M₁Ax = M₂M₁b (15) Nótese que la primera columna de la matriz M₁A no se ve

afectada al pre-multiplicar por M₂.

Continuamos con este proceso para cada columna siguiente hasta que todas los elenmentos debajo de la diagonal hayan sido eliminados. Definimos la matriz M como:

M = M_n−1M_n−2. . . M₁ (16)

(21)

Método de eliminación Gaussiana

Entonces el sistema transformado que obtenemos finalmente es:

MAx = M_n−1M_n−2. . . M₁Ax = M_n−1M_n−2. . . M₁b = Mb (17) que es triangular superior y puede resolverse mediante sustitución hacia atrás para así obtener la solucón al sistema original. Este proceso se llamaeleminación Gaussianatambién se conoce como

Factorización LUodescomposición LUpues descompone la matriz A en un producto de dos matrices, una matriz triangular inferior L y triangular superior U.

(22)

Factorización LU

Eliminación Gaussiana y factorización LU

Recordemos que el producto LkLjresulta una matriz triangular inferior con diagonal unitaria si k < j por lo tanto:

L = M⁻¹ = (Mn−1Mn−2. . . M₁)⁻¹ = M⁻¹₁ . . . M⁻¹_n−1 = L₁. . . Ln−1. (18) L es una matriztriangular inferior con diagonal unitaria. Hemos visto que por diseño la matriz U = MA es triangular superior. Por lo tanto la matriz A se puede expresar como un producto de una matriz triangular inferior por una triangular superior:

A = LU (19)

Esta factorización del sistema de ecuaciones original Ax = b ayuda a escribirlo como:

LUx = b (20)

(23)

Factorización LU

Una vez que tenemos el sistema de ecuaciones en su forma LU para resolverlo:

Resolvemos primero el sistema triangular inferior

Ly = b (21)

mediante sustitución hacia adelante

Una vez que conocemos el vector y resolvemos el sistema triangular superior

Ux = y (22)

mediante sustitución hacia atrás. Nótese que la solución intermedia y es la misma que el vector transformado Mb.

La eleiminación Gaussiana y la factorización LU son dos formas de expresar el mismo proceso de solución.

(24)

Factorización LU

Factorización LU mediante eliminación Gaussiana

1 for k=1 to n-1

if akk=0 then stop for i=k+1 to n

mik=aik/akk end

for j=k+1 to n for i=k+1 to n

aij=aij-mik*akj end

end end

(25)

Factorización LU

Eliminación Gaussiana: Ejemplo

Ilustramos la eliminación Gaussiana para resolver el siguiente sistema de ecuaciones

x₁+ 2x₂+ 2x₃ = 3 4x₁+ 4x₂+ 2x₃ = 6 4x₁+ 6x₂+ 4x₃ = 10 o en notación matricial

Ax =





1 2 2 4 4 2 4 6 4







 x₁ x₂ x₃



=



 3 6 10



= b (23)

Para eliminar las entradas en la subdiagonal de la primera columna de A restamos cuatro veces el primer renglón de cada uno de los

renglones segundo y tercero:

(26)

Factorización LU

Eliminación Gaussiana: Ejemplo

M₁A =





1 0 0

−4 1 0

−4 0 1









1 2 2 4 4 2 4 6 4



=





1 2 2

0 −4 −6 0 −2 −4



 (24)

M₁b =





1 0 0

−4 1 0

−4 0 1







 3 6 10



=



 3

−6

−2



 (25)

Para eliminar las entradas por debajo de la diagonal de la segunda columna de M₁A debemos restar 0.5 veces el segundo renglón del tercero:

M₂M₁A =





1 0 0

0 1 0

0 −0.5 1









1 2 2

0 −4 −6 0 −2 −4



=





1 2 2

0 −4 −6

0 0 −1



 (26)

(27)

Factorización LU

Eliminación Gaussiana: Ejemplo

M₂M₁b =





1 0 0

0 1 0

0 −0.5 1







 3

−6

−2



=



 3

−6 1



 (27)

Hemos reducido el sistema original a un sistema equivalente triangular superior (recordar que MA = U)

Ux =





1 2 2

0 −4 −6

0 0 −1







 x₁ x₂ x₃



=



 3

−6 1



= Mb = y (28)

que se puede resolver con sustitución hacia atrás, obteniendo x = [−1, 3, 1]^T.

(28)

Factorización LU

Eliminación Gaussiana: Ejemplo

Paera escribir la factorización LU de forma explicita

L₁L₂ =





1 0 0 4 1 0 4 0 1









1 0 0

0 1 0

0 0.5 1



=





1 0 0

4 1 0

4 0.5 1



= L (29)

por lo que

A =





1 2 2 4 4 2 4 6 4



=





1 0 0

4 1 0

4 0.5 1









1 2 2

0 −4 6

0 0 −1



= LU (30)

(29)

Factorización LU

Teorema (Existencia y unicidad de la factorización LU)

i. Una matriz A de tamaño n × n, n > 1 tiene factorización LU si A^(k)es no singular,

∀k = 1, ..., n − 1.

ii. Si A tiene factorización LU y además A es no singular, entonces la factorización es única^a. aRecuerde que L es en este caso Triangular Inferior Unitaria.

Prueba (i.): Inducción sobre n.

(Para n=2), sea

A=

a b

c d

, a6= 0

observe que

A=

1 0

µ 1

α β

0 γ

donde µ =^c_a, α = a, β = b, γ = d −^bc_a todas bien definidas.

(HI). A ∈ M_n(R) , con A^(k)no singulares para 16 k < n, entonces A tiene factorización LU.

(Caso n + 1). Sea A ∈ M_n+1(R) con A^(k)no singular para 16 k < n + 1, debemos probar que A tiene también factorización LU. En efecto, primero consideremos la matriz A de la forma:

(30)

Factorización LU

Teorema (Existencia y unicidad de la factorización LU)

A=







A⁽ⁿ⁾ b

cT d







observe que por hipótesis A⁽ⁿ⁾tiene todos sus menores principales no singulares, entonces por HI existen U⁽ⁿ⁾triangular superior y L⁽ⁿ⁾ triangular inferior unitaria tal que, A⁽ⁿ⁾= L⁽ⁿ⁾U⁽ⁿ⁾, entonces para escribir A = LU basta tomar

L=





 L⁽ⁿ⁾ 0

µ^T 1







y U=





 U⁽ⁿ⁾ β

0^T γ







donde

µ^T= c^T(U⁽ⁿ⁾)⁻¹, β = (L⁽ⁿ⁾)⁻¹b, γ = d − µ^Tβ X

Prueba(ii.) Sea A no singular, supongamos que A = L₁U1= L₂U2, observe que L₁, U₁, L₂, U₂son no singulares, entonces

(L₂)⁻¹L₁= U₂(U₁)⁻¹, observe que (L₂)⁻¹L₁es (TIU), y además U₂(U₁)⁻¹es (TS), por lo que la unica opción es que ambos

productos sean la identidad. Entonces L₁= L₂y U₁= U₂.X

(31)

Factorización LU

Construcción del método

Se llama Matriz triangular inferior elemental de orden n y de tipo k a una matriz de la forma

Mk =







1 0 · · · · · · 0 0 . .. . .. . .. ... ... . .. 1 0 . .. 0

0 m_k+1,k 1 . .. ...

... ... . .. . .. 0 0 · · · m_n,k · · · 0 1







Observe que Mk= I + mke^T_k, donde mk= (0, ..., 0, mk+1,k, ..., mn,k)^T y e^T_k = (0, ..., 0, 1, 0, ..., 0).

(32)

Factorización LU

Construcción del método

Dados el vector A₁= [a₁₁, a₂₁, ..., a_n1]^T, y la matriz triangular inferior elemental

M₁=







1 0 0 · · · 0

−^a21

a11 1 0

... 0

..

. 0 1

... .. . ..

. .. .

...

... 0

−^an1

a11 0 · · · 0 1







entonces: M₁A₁= [a₁₁, 0, ..., 0]^T Esta proposición es fundamental para nuestros intereses, pues gracias a ella dada una matriz

A∈ Mn(R), podemos encontrar un conjunto de n − 1 matrices triangular inferior elemantales {M₁, M₂, ..., M_n−1} tales que,

Mn−1Mn−2· · · M₂M₁A= U

.

(33)

Factorización LU

Ejemplo. Veamos el ejemplo para el caso n = 4, sea A ∈ M₄(R).

Paso 1.

M₁A=







a₁₁ a₁₂ a₁₃ a₁₄

0 a⁽¹⁾₂₂ a⁽¹⁾₂₃ a⁽¹⁾₂₄

0 a⁽¹⁾₃₂ a⁽¹⁾₃₃ a⁽¹⁾₃₄

0 a⁽¹⁾₄₂ a⁽¹⁾₄₃ a⁽¹⁾₄₄







= A⁽¹⁾

Paso 2.

M₂A⁽¹⁾=







a₁₁ a₁₂ a₁₃ a₁₄

0 a⁽¹⁾₂₂ a⁽¹⁾₂₃ a⁽¹⁾₂₄

0 0 a⁽²⁾₃₃ a⁽²⁾₃₄

0 0 a⁽²⁾₄₃ a⁽²⁾₄₄







= A⁽²⁾

Paso 3.

M₃A⁽²⁾=







a₁₁ a₁₂ a₁₃ a₁₄

0 a⁽¹⁾₂₂ a⁽¹⁾₂₃ a⁽¹⁾₂₄

0 0 a⁽²⁾₃₃ a⁽²⁾₃₄

0 0 0 a⁽³⁾₄₄







= A⁽³⁾

(34)

Factorización LU

Proceso General

Paso 1. (Eliminar las entradas de la primer columna de A, bajo la diagonal ) Multiplique los valores de la primer fila de A por los números

m_i1= −a_i1

a₁₁, i= 2, 3, ..., n

y sumar respectivamente con los elemento de la i-ésima fila de A, y así obtener la matriz A⁽¹⁾

A⁽¹⁾=







a₁₁ a₁₂ · · · a_1n 0 a⁽¹⁾₂₂ · · · a⁽¹⁾_2n ..

. .. .

... .. . 0 a⁽¹⁾_n2 · · · a⁽¹⁾nn







= M₁A

Paso 2. (Eliminar las entradas de la segunda columna de A, bajo la diagonal ) Multiplique los valores de la primer fila de A por los números

m_i2= −a⁽¹⁾_i2 a⁽¹⁾₂₂

, i= 3, ..., n

y sumar respectivamente con los elemento de la i-ésima fila de A, y así obtener la matriz A⁽²⁾

M₂A⁽¹⁾=







a₁₁ a₁₂ a₁₃ · · · a_1n 0 a⁽¹⁾₂₂ a⁽¹⁾₂₃ · · · a⁽¹⁾_2n 0 0 a⁽²⁾₃₃ · · · a⁽²⁾nn

.. .

... .. . 0 0 a⁽²⁾_n3 · · · a⁽²⁾_3n







= A⁽²⁾

(35)

Factorización LU

Proceso General

Paso n-1. en donde obtendremos:

Mn−1A⁽ⁿ⁻²⁾=







a₁₁ a₁₂ · · · · · · · · · a_1n

0 a⁽¹⁾₂₂ · · · · · · · · · a⁽¹⁾_2n

0 0 a⁽²⁾₃₃ · · · · · · a⁽²⁾_3n

0

.. .

... .. .

0 0 0 · · · 0 a⁽ⁿ⁻¹⁾nn







= A⁽ⁿ⁻¹⁾

Observe que en el proceso descrito anteriormente, la matriz A⁽ⁿ⁻¹⁾es una matriz triangular superior, además cada matriz Mkes triangular inferior unitario, por lo que podemos definir

L⁻¹= n−1 Y k=1

M_n−k= M_n−1M_n−2· · · M₂M₁

la cual es una matriz (TIU) y por ende “no singular”, y por ende invertible, con inversa (TIU).

(36)

Factorización LU

Proceso General

Observe también que si denotamos A⁽ⁿ⁻¹⁾= U podemos escribir:

U= L⁻¹A

⇒ (L⁻¹)⁻¹U= A

y tomando L = (L⁻¹)⁻¹, estaremos generando la factorización

A= LU donde

U= A⁽ⁿ⁻¹⁾ y L= (M_n−1M_n−2· · · M2M1)⁻¹

(37)

Factorización LU

Proceso General

Dada una Matriz triangular inferior elemental M_i, su inversa se puede escribir como M_i⁻¹= I − m_ie^T_i

donde e^T_i = (0, ..., 0, 1, 0, ..., 0) y m^T_i = (0, ..., 0, mi+1,i, ..., mn,i) Por lo cual, es fácil seguir que,

L= M⁻¹₁ M⁻¹₂ · · · M_n−1⁻¹ =







1 0 0 · · · 0

−m₂₁ 1 · · · 0

−m₃₁ −m₃₂ 1 . .. 0 ... ... . .. . .. ...

−m_n1 −m_n2 · · · −mn,n−1 1







(38)

Factorización LU Pivoteo

Ejemplo de pivoteo y singularidades

Consideremos la matriz

A = 0 1 1 0

(31) que es no singular, pero no tiene factorización LU a menos que

intercambiemos los renglones. Mientras que la matriz singular:

A = 1 1 1 1

= 1 0 1 1

1 1 0 0

= LU (32)

la matriz triangular superior U es singular y a pesar de que se puede completar la factorización LU fallará la sustitución hacia atrás.En principio cualquier valor diferente de cero puede ser un pivote para calcular los multiplicadores, pero por la precisión aritmética finita la elección debe hacerse con cuidado para minimizar el error.

(39)

Pivoteo parcial

Los multiplicadores no deben de exceder de 1 en magnitud si en cada columna elegimos la entrada en magnitud más grande en o debajo de la diagonal principal como pivote.Esto se conoce como pivoteo parcial. Usando precisión finita debemos de evitar pivotes cero, pero también pivotes muy pequeños. Consideremos

A =

1 1 1

(33) con un número positivo, pero menos que el epsilon de la máquina

_machsi no intercambiamos los renglones entonces el pivote es y el multiplicador de la matriz de eliminación es −1/quedando esta matriz como:

M =

1 0

−1/ 1

(34) de donde

(40)

Pivoteo parcial

L =

1 0

1/ 1

y U =

1

0 1 − 1/

=

1

0 −1/

(35) si < _mach⇒ 1/ es muy grande, por lo que 1 − 1/ esta dominado por −1/. Pero entonces

LU =

1 0

1/ 1

1 0 −1/

=

1 1 0

6= A (36) Usando un pivote pequeño y un multiplicador correspondiente grande ha causado una pérdida de información que no puede recuperarse. Si en cambio intercambiamos los renglones de A tenemos que la matriz de eliminación es

M =

1 0

− 1

(37)

(41)

Pivoteo parcial

L = 1 0

1

y U = 1 1

0 1 −

= 1 1 0 1

(38) Tenemos que

LU = 1 0

1

1 1 0 1

= 1 1

1

(39) que es un resultado correcto después de una permutación (intercambio de renglones).

(42)

Pivoteo parcial

En general los pivotes más grandes producirán multiplicadores más pequeños y por lo tanto, errores más pequeños. En particularla entrada más grande en o por debajo de la diagonal es usada como pivote. Cada matriz de eliminación Mk es precedida por una matriz de permutación P_kque intercambia renglones para tener las entradas en magnitud más grandes en o debajo de la diagonal en la columna k en la posición de pivote. Seguiremos teniendo que

MA = U (40)

donde U es triangular superior, pero ahora

M = M_n−1P_n−1· · · M₁P₁ (41) M es triangular, pero en el sentido general. En este caso la

descomposición LU no significa tri. inferior × tri. superior como antes, pero es igualmente útil.

(43)

Factorización LU mediante eliminación Gaussiana y pivoteo parcial

1 for k=1 to n-1

Encontrar el índice p tal que

|a_pk| > |a_ik| para k ≤ i ≤ n if p 6= k then

intercambiar renglones k y p if a_kk= 0 then

continuar con el siguiente k for i=k+1 to n

mik= aik/akk

end

for j=k+1 to n for i=k+1 to n

aij= aij− mikakj

end end end

(44)

Factorización LU mediante eliminación Gaussiana y pivoteo parcial

Notemos que la matriz de permutación

P = P_n−1· · · P₁ (42)

permuta los renglones de A en el orden determinado por el pivoteo paprcial. Entonces obtenemos la factorización

PA = LU (43)

donde L es triangular inferior. Para resolver Ax = b, primero resolvemos el sistema triangular inferior Ly = Pb mediante

sustitución hacia adelante y después resolvemos el sistema triangular superior Ux = y mediante sustitución hacia atrás.

(45)

Eliminación Gaussiana con pivoteo parcial

Ax =





1 2 4 4 4 2 4 6 4







 x₁ x₂ x₃



=



 3 6 10



= b (44)

La entrada más grande en la primera columna es 4, intercambiamos los primeros dos renglones usando la matriz de permutación P

P₁=





0 1 0 1 0 0 0 0 1



 (45)

obteniendo el sistema permutado

P₁Ax =





4 4 2 1 2 2 4 6 4







 x₁ x₂ x₃



=



 6 3 10



= P₁b (46)

(46)

Eliminación Gaussiana con pivoteo parcial:

Ejemplo

Para eliminar las entradas debajo de la diagonal en la primera columna, usamos la matriz de eliminación

M₁ =





1 0 0

−0.25 1 0

−1 0 1



 (47)

obteniendo el sistema transformado

M₁P₁Ax =





4 4 2

0 1 1.5

0 2 2







 x₁ x₂ x₃



=



 6 1.5

4



= M₁P₁b (48)

(47)

Eliminación Gaussiana con pivoteo parcial:

Ejemplo

La entrada más grande en la segunda columna en o debajo de la diagonal es 2, por lo que intercambiamos los últimos dos renglones usando la matriz de permutación

P₂=





1 0 0 0 0 1 0 1 0



 (49)

obteniendo el sistema permutado

P₂M₁P₁Ax =





4 4 2 0 2 2 0 1 1.5







 x1

x₂ x3



=



 6 4 1.5



= P₂M₁P₁b (50) Para eliminar las entradas debajo de la diagonal de la segunda columna usamos la matriz de eliminación:

(48)

Eliminación Gaussiana con pivoteo parcial:

Ejemplo

Para eliminar las entradas debajo de la diagonal en la primera columna, usamos la matriz de eliminación

M₂=





1 0 0

0 1 0

0 −0.5 1



 (51)

obteniendo el sistema transformado

M₂P₂M₁P₁Ax =





4 4 2

0 2 2

0 0 0.5







 x₁ x₂ x₃



=



 6 4

−0.5



= M₂P₂M₁P₁b (52)

(49)

Eliminación Gaussiana con pivoteo parcial:

Ejemplo

Hemos transformado el sistema original en un sistema triangular que puede resolverse mediante sustitución hacia atrás para obtener la solución x = [−1, 3, −1]^T. Para escribir la factorización LU explicitamente tenemos

L = M⁻¹ = (M₂P₂M₁P₁)⁻¹= P^T₁L₁P^T₂L₂ (53) esto es

(50)

Eliminación Gaussiana con pivoteo parcial

P^T₁L1P^T₂L2=





0 1 0 1 0 0 0 0 1









1 0 0

0.25 1 0

1 0 1









1 0 0 0 0 1 0 1 0









1 0 0

0 1 0

0 0.5 1





=





0.25 0.5 1

1 0 0

1 1 0



 (54)

de donde

A =





1 2 2 4 4 2 4 6 4



=





0.25 0.5 1

1 0 0

1 1 0









4 4 2 0 2 2 0 0 0.5



= LU (55)

donde L no es triangula inferior, pero si es triangular en un sentido general, pues es una permutación de una triangular inferior.

(51)

Eliminación Gaussiana con pivoteo parcial:

Ejemplo

Alternativamente podemos tomar

P = P₂P₁ =





1 0 0 0 0 1 0 1 0









0 1 0 1 0 0 0 0 1



=





0 1 0 0 0 1 1 0 0



 (56)

y

L =





1 0 0

1 1 0

0.25 0.5 0



 (57)

por lo tanto

(52)

Eliminación Gaussiana con pivoteo parcial:

Ejemplo

PA =





0 1 0 0 0 1 1 0 0









1 2 2 4 4 2 4 6 4





=





1 0 0

1 1 0

0.25 0.5 1









4 4 2

0 2 2

0 0 0.5



= LU (58)

donde ahora L es triangular inferior, pero A esta permutada.

(53)

Pivoteo completo

El pivoteo parcial se llama así pues solamente se busca entre los elementos de una columna para buscar el pivote de esa columna. La técnica depivoteo completoconsiste en buscar la entrada más grande en una submatriz, de donde se hace la permutación conveniente para usar esa entrada como pivote. Esto requiere de intercambio tanto de renglones como de columnas. Esto deja una factorización de la forma:

PAQ = LU (59)

donde L es triangular inferior, U es triangular superior y P y Q son matrices de permutación que reordenan los renglones y las columnas de A respectivamente. Ahora para resolver el sistema de ecuaciones

Ax = b (60)

(54)

Pivoteo completo

Primero resolvemos el sistema triangular inferior

Ly = Pb (61)

mediante sustición hacia adelante y después resolvemos el sistema

Uz = y (62)

mediante sustitución hacia atrás y finalmente permutamos los

componentes de la solución x = Qz.Aunque la estabilidad numérica del pivoteo completo es teóricamente mejor, requiere de mucho más esfuerzo computacional.