Apuntes de
C ´
ALCULO NUM´
ERICO II
Curso 2008/2009
´Indice general
1. Elementos de ´Algebra lineal. Normas. 5
1.1. Normas . . . 5
1.2. Normas matriciales . . . 7
1.3. Normas consistentes . . . 9
1.4. Teorema de Schur . . . 11
1.5. El Teorema de Courant-Fisher . . . 15
1.6. Matrices definidas positivas . . . 17
1.7. Normas subordinadas . . . 19
2. M´etodos Iterativos de resoluci´on de Sistemas Lineales 25 2.1. Introducci´on . . . 25
2.2. Generalidades sobre la convergencia de los M´etodos Iterativos . . . 27
2.3. M´etodos de Jacobi, Gauss-Seidel y relajaci´on por puntos. . . 29
2.4. M´etodos Iterativos por bloques . . . 35
2.5. Resultados de convergencia para M´etodos Iterativos . . . 36
3. Condicionamiento 43 3.1. Condicionamiento de sistemas lineales . . . 43
3.1.1. Condicionamiento respecto del segundo miembro . . . 44
3.1.2. Condicionamiento respecto de la matriz . . . 45
3.2. N´umero de condici´on de una matriz . . . 47
3.3. N´umero de condici´on y error de redondeo o truncamiento en un sistema lineal . . . 49
3.4. Precondicionamiento . . . 50
3.5. Condicionamiento de un problema de autovalores . . . 52
4. M´etodos de Descenso para la resoluci´on de Sistemas Lineales 55 4.1. M´etodos de Descenso . . . 55
4.1.1. Interpretacion geom´etrica de los m´etodos de descenso . . . 58
4.1.2. Condicion suficiente de convergencia . . . 58
4.1.3. Metodo del gradiente: . . . 59
4.1.4. Metodo de gradiente conjugado . . . 60
5. Localizaci´on y aproximaci´on de autovalores y autovectores 65 5.1. Introducci´on . . . 65
5.2. Localizaci´on de autovalores . . . 66
5.3. M´etodo de la Potencia . . . 68
5.4. M´etodo de Givens . . . 71
6. Resoluci´on de Sistemas de Ecuaciones no Lineales 77 6.1. Introducci´on . . . 77
6.2. M´etodo de Aproximaciones Sucesivas . . . 78
Tema 1
Elementos de ´
Algebra lineal.
Normas.
1.1.
Normas
Sea V un espacio vectorial sobre un cuerpoK de escalares (K=R o C)
Definici´on 1.1 Una norma sobre V (norma vectorial) es una aplicaci´on k · k:V →R+
que verifica
1. kvk ≥0, ∀v ∈V y kvk= 0⇔v =θ
2. kαvk=|α|kvk, ∀α∈K, ∀v ∈V
3. ku+vk ≤ kuk+kvk, ∀u, v ∈V (desigualdad triangular) Al par (V,k · k) se le llama espacio normado.
Propiedades que se deducen de esta definici´on son: 1. ku−vk ≤ kuk+kvk, ∀u, v ∈V
2. | kuk − kvk | ≤ ku±vk, ∀u, v ∈V
SiV es normado, se puede convertir en espacio m´etrico para la distancia d(u, v) =ku−vk, ∀u, v ∈V
La base de entornos de la topolog´ıa es
{B(a, δ), a∈V, δ ∈R+} donde B(a, δ) ={x∈V : kx−ak< δ}
Es tambi´en inmediato probar que la aplicaci´onk · k : (V,k · k)→(R+,| · |) es continua. 5
Definici´on 1.2 Dos normas son equivalentes sobreV si inducen el mismo espacio topol´ogi-co.
Son resultados importantes y conocidos
Teorema 1.1 k · k1 y k · k2 son equivalentes sobre V si y solo si existen dos constantes
C1, C2 >0 tales que
C1kvk1 ≤ kvk2 ≤C2kvk1, ∀v ∈V
Teorema 1.2 Si V es de dimensi´on finita, todas las normas que se pueden definir sobre
V son equivalentes.
SiV tiene dimensi´on n, dada una base de V se puede identificar V con KN mediante
sus componentes en dicha base: v = (v1, ..., vn)t
Ejemplos 1.1 Ejemplos de normas vectoriales son 1. kvk1 = n X i=1 |vi| 2. kvk2 = Ã n X i=1 |vi|2 !1/2 (norma eucl´ıdea) 3. kvkp = Ã n X i=1 |vi|p !1/p para p≥1 (p-norma) 4. kvk∞ = m´ax
1≤i≤n|vi| (norma del m´aximo, norma uniforme) (pl´ım→∞kvkp = kvk∞)
EnV pueden definirse productos escalares a trav´es de K. Los usuales son: 1. Si K=R, el producto escalar eucl´ıdeo viene dado por
(·,·) :V ×V →R, (u, v) =u·v =vtu=utv = n
X
i=1 uivi
2. Si K=C, el producto escalar herm´ıtico viene dado por
(·,·) :V ×V →C, (u, v) =u·v =v∗u=u∗v =
n
X
i=1 uivi
donde ui es el conjugado de ui, ut es el vector traspuesto de u y u∗ es el vector
Tema 1: Elementos de ´Algebra lineal. Normas. 7 Seg´un esto, la norma inducida por el producto escalar es la norma eucl´ıdea. Estos pro-ductos escalares son los que se utilizar´an para hablar de bases ortogonales u ortonormales a lo largo del curso. En la base ortonormal, por ejemplo, se verificar´a
(ui, uj) = 0, i6=j; kuik2 = 1, i, j = 1, ..., n
Definici´on 1.3 Sea (V,k · k) un espacio normado. Se dice que {vk} ⊂ V converge a
v ∈ V, y se denota vk → v o l´ımk→+∞vk = v si l´ımk→+∞kvk −vk = 0. v se llama el l´ımite de {vk} ⊂V.
Si la dimensi´on deV es finita, la equivalencia de las normas implica que la convergencia de una sucesi´on es independiente de la norma elegida. Si se considera cualquiera de las normas del ejemplo anterior, se ve que la convergencia de una sucesi´on equivale a la convergencia por componentes
uk →u en Kn⇐⇒uik →ui en K, 1≤i≤n
1.2.
Normas matriciales
Sea Mel anillo de las matrices de orden n sobre K.
Definici´on 1.4 Una norma matricial es una aplicaci´on k · k:M → R+ que verifica:
1. kAk ≥0, ∀A∈ M ykAk= 0 ⇔A=θ
2. kαAk=|α|kAk, ∀α ∈K, ∀A∈ M
3. kA+Bk ≤ kAk+kBk, ∀A, B ∈ M
4. kABk ≤ kAk kBk, ∀A, B ∈ M
N´otese que una matriz deM puede considerarse como un vector de n2 componentes en K, pero la propiedad d) diferencia las normas matriciales de las vectoriales.
Ejemplos 1.2 Sea A= (aij)1≤i,j≤n ∈ M.
1. Son ejemplos de normas matriciales las siguientes:
kAk1 =
n
X
i,j=1
kAk2 = Ã n X i,j=1 |aij|2 !1/2
=kAkES (norma de Erhard Schmidt)
kAkp = Ã n X i,j=1 |aij|p !1/p , p∈[1,2] (p-norma matricial) 2. No es norma matricial la siguiente kAk= m´ax
1≤i,j≤n|aij|.
Antes de ver las primeras propiedades de las normas matriciales, recordamos los si-guientes conceptos previos:
Definici´on 1.5 Se dice que λ∈R o C es una autovalor o valor propio de A si
∃v ∈V, v 6=θ : Av=λv
En tal caso, v es un autovector o vector propio asociado a λ.
Puesto que
Av=λv⇔(λI−A)v =θ⇔ |λI −A|= 0
resulta que los autovalores deAson las ra´ıces del polinomio caracter´ısticopA(λ) =|λI−A|.
Son por tanto n n´umeros reales o complejos distintos como m´aximo; si la matriz es real, los autovalores complejos aparecen por parejas conjugadas.
Definici´on 1.6 Se llama espectro de A y se denota sp(A) al conjunto de los autovalores de A.
Definici´on 1.7 Se llama radio espectral de A a ρ(A) = m´ax{|λi(A)|, i= 1, ..., n}.
Proposici´on 1.1 Son propiedades de las normas matriciales las siguientes 1. kAkk ≤ kAkk, ∀A ∈ M, ∀k N
2. kIk ≥1
3. Si kAk<1, entonces Ak →θ
4. ρ(A)≤ kAk, para cualquier norma matricial. Demostraci´on:
1. Es consecuencia inmediata de la propiedad d) de las normas matriciales. 2. Sigue de la anterior haciendo A=I y k = 2.
Tema 1: Elementos de ´Algebra lineal. Normas. 9 3. Hay que probar que l´ım
k→+∞kA
k−θk= 0. Pero
kAkk ≤ kAkk →0, por ser kAk<1
4. Seaλ ∈sp(A) y v un autovector asociado. Entonces
A(v|θ|...|θ) =λ(v|θ|...|θ)⇒ kA(v|θ|...|θ)k=kλ(v|θ|...|θ)k ⇒ |λ| k(v|θ|...|θ)k ≤ kAk k(v|θ|...|θ)k
y k(v|θ|...|θ)k > 0 porque esta matriz es no nula. De modo que |λ| ≤ kAk. Como esto vale para cualquier λ∈sp(A), sigue la propiedad. ¦ Hay que hacer notar que puede darse la desigualdad estricta. As´ı, por ejemplo, si A=
0 1
0 0
, entonces,ρ(A) = 0 <kAk para cualquier norma matricial.
1.3.
Normas consistentes
Definici´on 1.8 Se dice que una norma matricial es consistente con una norma vectorial si
kAvk ≤ kAk kvk, ∀A∈ M, ∀v ∈V
Proposici´on 1.2 Dada una norma matricial cualquiera, siempre existe una norma vec-torial con la que es consistente.
Demostraci´on: Sea k · k una norma matricial y v ∈V un vector cualquiera. Definimos kvk=k(v|θ|...|θ)k
Evidentemente se trata de una norma vectorial, y adem´as
kAvk=k(Av|θ|...|θ)k=kA(v|θ|...|θ)k ≤ kAk k(v|θ|...|θ)k=kAk kvk
c.q.d. ¦
Ejemplo 1.1 Puede comprobarse que si se aplica la proposici´on anterior a la p-norma matricial, p∈[1,2], resulta la p-norma vectorial.
Teorema 1.3 (Inversi´on de matrices de la forma I±B).
Sea k · k una norma matricial y B ∈ M tal que kBk<1. Entonces, I±B es invertible y
kIk
kIk+kBk ≤ k(I±B)
−1k ≤ kIk
1− kBk (3.1)
Demostraci´on: Haremos la demostraci´on para I+B; es an´aloga paraI−B. Supongamos que ∃u6=θ tal que (I+B)u=θ. Entonces, se tiene
(I+B)u=θ⇒ −u=Bu⇒ −1∈sp (B) =⇒1≤ρ(B)≤ kBk que es contradictorio con la hip´otesis.
Adem´as, de la igualdad (I+B)−1(I+B) =I se deducen a)
(I+B)−1 =I−(I+B)−1B ⇒ k(I+B)−1k ≤ kIk+k(I+B)−1k kBk ⇒ k(I±B)−1k ≤ kIk
1− kBk b)
kIk ≤ k(I+B)−1k k(I+B)k ≤ k(I+B)−1k(kIk+kBk)⇒ kIk
kIk+kBk ≤ k(I ±B)
−1k
c.q.d. ¦
Corolario 1.1 Sean A ∈ M invertible y B ∈ M tales que kBk kA−1k < 1. Entonces, A+B es invertible y
k(A+B)−1k ≤ kIk kA
−1k 1− kA−1k kBk
Demostraci´on: Tenemos que kA−1Bk ≤ kA−1k kBk < 1. Por su parte, A+B = A(I + A−1B) es invertible porque A lo es por hip´otesis y I+A−1B lo es por el Teorema 1.3. Por el mismo,
k(A+B)−1k=k(I+A−1B)−1A−1k ≤ k(I +A−1B)−1k kA−1k ≤ kIk kA−1k
1− kA−1Bk ≤
kIk kA−1k 1− kA−1k kBk
Tema 1: Elementos de ´Algebra lineal. Normas. 11
1.4.
Teorema de Schur
Recordamos algunas definiciones
Definici´on 1.9 Sea A = (aij)1≤i,j≤n∈ M. Se llaman matriz traspuesta de A a At= (a
ji) matriz adjunta de A a A∗ =At = (a
ji)
Definici´on 1.10 Sea A ∈ M. Se dice que
A es sim´etrica si A es real y A=At. A es herm´ıtica si A=A∗. A es ortogonal si A es real y AAt =AtA=I. A es unitaria siA∗A=AA∗ =I. A es normal si A∗A =AA∗. Nota:
SiAes unitaria, sus columnas constituyen una base ortonormal deKny rec´ıproca- mente.
Definici´on 1.11 Una matrizA∈ Mse dice triangularizable si es semejante a una matriz triangular, es decir, si existenB ∈ M regular yT ∈ M triangular tales queT =B−1AB. Teorema 1.4 (Schur). Dada A ∈ Mn, existen U ∈ Mn unitaria y T ∈ Mn triangular tales que U∗AU = T. Es decir, toda matriz es semejante a una matriz triangular con
matriz de paso unitaria.
Notas:
1. Los elementos de la diagonal de T son los autovalores de A. En efecto, A y T son semejantes y tienen el mismo polinomio caracter´ıstico y las matrices triangulares tienen por autovalores los elementos de su diagonal.
2. A consecuencia de la nota anterior, cabe que una matriz real tenga todos sus au-tovalores complejos y por tanto que la descomposici´on A = UT U∗ sea de matrices
3. Se hace la demostraci´on obteniendo unaT triangular superior. Si se quisiera obtener una triangular inferior basta aplicar el Teorema aA∗. En efecto, si existeU unitaria
tal queU∗A∗U =T, se deduce tomando adjuntos queU∗AU =T∗ yT∗es triangular
inferior.
4. Las matrices U y T no son ´unicas. Consid´erese, por ejemplo, el caso A =I
Demostraci´on: Se hace por inducci´on sobre n, la dimensi´on de la matriz. Si n = 1, el resultado es trivial. Supong´amoslo cierto para n−1.
Sea λ ∈sp(A) y v un autovector asociado normalizado. Mediante un proceso de ortonor-malizaci´on de Gram-Schmidt de una base que lo contenga, obtenemos una base ortonormal {v, v2, ..., vn}. Denotemos V = (v|v2|...|vn) que es una matriz unitaria. Entonces
AV =A(v|v2|...|vn) = (λv|Av2|...|Avn)
Si expresamos cada vector Avj en la base que tenemos, se obtienen
Avj =α
jv+b2jv2+...+bnjvn, j = 2, ..., n
de modo que se puede escribir
AV = (λv|Av2|...|Avn) = (v|v2|...|vn) λ α2 . . . αn 0 ... 0 B
Por inducci´on puede probarse que los autovalores de B son los de A menos el que se ha considerado ya, λ.
Por la hip´otesis de inducci´on para B, sabemos que existen Wn−1 ∈ Mn−1 unitaria y Tn−1 ∈ Mn−1 triangular superior tales que BWn−1 =Wn−1Tn−1. Definimos
W ∈ Mn, W = 1 0 . . . 0 0 ... 0 Wn−1
Esta matriz es unitaria, pues, en efecto
W∗W = 1 0 . . . 0 0 ... 0 W∗ n−1 1 0 . . . 0 0 ... 0 Wn−1 = 1 0 . . . 0 0 ... 0 In−1 =In
Tema 1: Elementos de ´Algebra lineal. Normas. 13 Entonces, vamos a probar que U =V W es la matriz unitaria que necesitamos
AV W =V λ α2 . . . αn 0 ... 0 B 1 0 . . . 0 0 ... 0 Wn−1 = =V λ β2 . . . βn 0 ... 0 BWn−1 =V λ β2 . . . βn 0 ... 0 Wn−1Tn−1 = =V 1 0 . . . 0 0 ... 0 Wn−1 λ β2 . . . βn 0 ... 0 Tn−1 =V W T
siendoT triangular superior. Basta llamar ahoraU =V W, U ∈ Mn que es unitaria por
ser el producto de dos matrices unitarias y comprobar que se verifica AU =UT. ¦ Corolario 1.2 Sea A ∈ M. Entonces, A es normal si y solo si existe U ∈ M unitaria tal que U∗AU =D, siendo D diagonal. Es decir, las matrices normales son las matrices
diagonalizables con matriz de paso unitaria.
Demostraci´on: Supongamos que A es normal y sean U unitaria y T triangular superior tales que U∗AU =T. Entonces,
T es normal porque T T∗ =U∗AUU∗A∗U =U∗A∗AU =U∗A∗UU∗AU =T∗T T es diagonal, porque (T∗T) 11 =|t11|2 (T T∗) 11 = n X k=1 |t1k|2 ⇒t1k= 0, k = 2, ..., n
y en general (T∗T) ii=|tii|2 (T T∗)ii= n X k=i |tik|2 ⇒tik = 0, k =i+ 1, ..., n, i= 1, ..., n−1
lo que prueba que T es diagonal.
Rec´ıprocamente, sean U unitaria yDdiagonal tales queU∗AU =D. Entonces,U∗A∗U =
D∗ y DD∗ =U∗AUU∗A∗U =U∗AA∗U = diag (|λ i|2) D∗D=U∗A∗UU∗AU =U∗A∗AU = diag (|λ i|2) ⇒ U∗AA∗U =U∗A∗AU ⇒AA∗ =A∗A c.q.d. ¦ Nota:
La matriz de paso est´a constituida por los autovectores de A. De modo que dada una matriz normal existe siempre una base ortonormal de autovectores asociados.
Corolario 1.3 Se verifica
1. Los autovalores de las matrices herm´ıticas y sim´etricas son reales 2. det (A) =
n
Y
i=1
λi(A), ∀A∈ M
3. λi(Ak) = (λi(A))k, i= 1, ..., n, k ∈N. En particular, ρ(Ak) = ρ(A)k. Demostraci´on:
1. SiA es herm´ıtica (o sim´etrica si es real), entonces es normal y por el Corolario 1.2, existe U unitaria tal que U∗AU =D= diag (λ
i(A)). Pero
D∗ =U∗A∗U =U∗AU =D de modo que Des herm´ıtica (o sim´etrica) y
λi(A) =λi(A)⇒λi(A)∈R, i= 1, ..., n
Tema 1: Elementos de ´Algebra lineal. Normas. 15 3. Por el Teorema de Schur Ak = UTkU∗. Basta ahora tener en cuenta que Tk es
tambi´en una matriz triangular cuya diagonal tiene por elementos los de la diagonal de T elevados a k.
¦ De forma similar, para matrices sim´etricas el razonamiento se puede hacer enR. Como en el Corolario 1.2 se deduce que
Corolario 1.4 Si A ∈ Mn(R), entonces A es sim´etrica si y solo si existe una matriz real ortogonal O y una matriz diagonal D tales que OtAO = D. Es decir, las matrices sim´etricas son las matrices reales diagonalizables con matriz de paso ortogonal.
1.5.
El Teorema de Courant-Fisher
Definici´on 1.12 Sea A ∈ Mn(C). Se llama cociente de Rayleigh de A a la aplicaci´on
RA:Cn\ {θ} →C, RA(v) =
v∗Av
v∗v , v6=θ
Proposici´on 1.3 1. El cociente de Rayleigh de una matriz herm´ıtica toma s´olo valores reales.
2. Se verifica que
RA(αv) =RA(v), ∀α∈C\ {θ}, ∀v ∈Cn\ {θ} Demostraci´on:
1. Se tiene siempre que
v∗Av=vtAv = (A∗v)tv = ((A∗v)tv)t =v∗A∗v
y en consecuencia, es siempre cierto que RA(v) = RA∗(v). Si A es herm´ıtica RA(v) =RA(v)⇒RA(v)∈R, ∀v 6=θ 2. Dados α∈C\ {θ} y v ∈V \ {θ} RA(αv) = (αv)∗A(αv) (αv)∗(αv) = |α|2v∗Av |α|2v∗v =RA(v) c.q.d. ¦
Se recuerda que toda matriz herm´ıtica es diagonalizable con autovalores reales y para la que siempre es posible encontrar una base ortonormal de autovectores asociados.
Teorema 1.5 (Courant-Fisher). Sea A∈ Mn(C) herm´ıtica de autovalores λ1 ≤...≤λn y {p1, ..., pn} una base ortonormal de autovectores asociados. Para k = 1, ...n, denotamos
Vk = {subespacios de Cn de dimension k} y Vk =hp1, ...pki y V0 =V0 ={θ}. Entonces,
se verifica 1. λk =RA(pk), k = 1, ..., n 2. λk = m´ax v∈Vk\{θ} RA(v). En particular, λn = m´ax v∈V\{θ}RA(v). 3. λk = m´ın v⊥Vk−1 v6=θ RA(v). En particular, λ1 = m´ın v∈V\{θ}RA(v) 4. λk = m´ın W∈Vk m´ax v∈W\{θ}RA(v) 5. λk = m´ax W∈Vk−1 m´ın v⊥W v6=θ RA(v) 6. {RA(v) : v ∈V \ {θ}}= [λ1, λn]
Demostraci´on: No justificamos los apartados 4) y 5). (Ver libro P. G. Ciarlet [2]). 1. RA(pk) = (pk)∗Apk (pk)∗pk = (pk)∗λ kpk (pk)∗pk =λk
Adem´as, si vk es un autovector cualquiera asociado a λ
k, tambi´en se tiene que
RA(vk) = λk. 2. Seav ∈Vk\ {θ}. Entonces,v =α1p1+...+αkpk y RA(v) = (α1p1+...+αkpk)∗A(α1p1+...+αkpk) (α1p1+...+αkpk)∗(α1p1+...+αkpk) = k X i=1 λi|αi|2 k X i=1 |αi|2 ≤λk
Por tanto RA(v)≤λk, ∀v ∈Vk\ {θ}lo que junto con la propiedad a) implica que
λk = m´ax v∈Vk\{θ} RA(v). 3. Seav ∈V⊥ k−1 \ {θ}. Entonces, v =αkpk+...+αnpn y RA(v) = (αkpk+...+αnpn)∗A(αkpk+...+αnpn) (αkpk+...+αnpn)∗(αkpk+...+αnpn) = n X i=k λi|αi|2 n X i=k |αi|2 ≥λk
Tema 1: Elementos de ´Algebra lineal. Normas. 17 Por tanto RA(v) ≥ λk, ∀v ∈ Vk⊥−1 \ {θ} lo que junto con la propiedad a) implica que λk = m´ın
v∈V⊥ k−1\{θ}
RA(v).
4. Es evidente que RA(V \ {θ}) ⊂ [λ1, λn]. Veamos la inclusi´on contraria. Sea ∂B1 =
{z ∈ V : |z| = 1}. Tomando α= 1
kvk en la Proposici´on 1.3 b), se obtiene que RA(V \ {θ}) = RA(∂B1). Se considera entonces la aplicaci´on v ∈∂B1 7→RA(v)∈R
que es continua. Como∂B1es conexo, tambi´en lo esRA(∂B1). Por tanto,RA(V\{θ})
es un intervalo (que son los conexos de R) que contiene a λ1 = RA(p1) y a λn =
RA(pn). De modo que [λ1, λn]⊂RA(V \ {θ}).
¦ Corolario 1.5 Si A ∈ Mn(C) es herm´ıtica, entonces
λ1v∗v ≤v∗Av≤λnv∗v ∀v ∈Cn.
Demostraci´on: Inmediata. ¦
1.6.
Matrices definidas positivas
Sea A∈ M una matriz herm´ıtica.Definici´on 1.13 Se dice que A es semidefinida positiva (resp. definida positiva) si
v∗Av≥0 (resp v∗Av >0), ∀v ∈Cn\ {θ}
An´alogamente se definen las matrices semidefinidas negativas y definidas negativas
Lema 1.1 Se verifica
1. Si A es definida positiva, entonces A es regular.
2. Si A ∈ M cualquiera, entonces A∗A y AA∗ son herm´ıticas y semidefinidas
po-sitivas.
3. AA∗ y A∗A son definidas positivas si y solo si A es regular.
Demostraci´on:
1. Si A es singular, ∃v 6= θ : Av = θ. Entonces, para ese vector v∗Av = 0, en
2. Es trivial que AA∗ y A∗A son herm´ıticas. Adem´as ∀v ∈Cn\ {θ}, v∗(AA∗)v = (A∗v)∗(A∗v) =kA∗vk2 2 ≥0 v∗(A∗A)v = (Av)∗(Av) = kAvk2
2 ≥0 3. De la expresi´on anterior ∀v ∈Cn\{θ}, v∗(AA∗)v =kA∗vk2 2 >0⇐⇒Av6=θ, ∀v ∈Cn\{θ} ⇐⇒Aes regular An´alogamente el otro. ¦ Teorema 1.6 (Caracterizaci´on de las matrices definidas positivas). SeaA∈ Mherm´ıtica. Entonces,
1. A es definida positiva si y solo si λi(A)>0, i = 1, ..., n 2. A es semidefinida positiva si y solo si λi(A)≥0, i= 1, ..., n
(Hay un resultado an´alogo para matrices definidas y semidefinidas negativas). Demostraci´on: Sigue de que
∀v ∈Cn\ {θ}, v∗Av=R
A(v)(v∗v)
siendo el segundo de los factores siempre positivo y el rango del primero de ellos igual a
[λ1, λn]. ¦
Nota:
Si A es definida o semidefinida positivas, entonces ρ(A) =λn(A).
Corolario 1.6 Se verifica que 1. λi(A∗A)≥0, i= 1, ..., n
2. λi(A∗A)>0, i= 1, ...n si y solo si A es regular.
Tema 1: Elementos de ´Algebra lineal. Normas. 19
1.7.
Normas subordinadas
Definici´on 1.14 Dada una norma vectorial k · k sobre Cn, se llama norma matricial subordinada a la norma vectorial a la aplicaci´on
k · k:M(C)→R+, kAk= sup
v∈Cn\{θ} kAvk
kvk
Proposici´on 1.4 La anterior aplicaci´on es efectivamente una norma matricial. Adem´as, el supremo se alcanza y pueden darse las siguientes definiciones equivalentes
kAk= m´ax v∈Cn kvk≤1 kAvk= m´ax v∈Cn kvk=1 kAvk= ´ınf{M > 0 : kAvk ≤Mkvk, ∀v ∈Cn}
Demostraci´on: En problemas. ¦Notas:
1. Para toda norma matricial subordinada, kIk= 1.
2. Existen, por tanto, normas matriciales que no son subordinadas a ninguna norma vectorial. Por ejemplo, k · kES no es subordinada porque kIkES =
√
n 6= 1, sin≥2. 3. Es claro que kAvk ≤ kAk · kvk, ∀v ∈ Cn. Por tanto, la norma subordinada es
consistente con la norma matricial dada.
Teorema 1.7 Sea A∈ Mn(C).
1. La norma matricial subordinada a la norma vectorial k · k1 se llama norma columna
y viene dada por
kAkC = sup v∈Cn\{θ} kAvk1 kvk1 = m´axj n X i=1 |aij|
2. La norma matricial subordinada a la norma vectorial k · k∞ se llama norma fila y
viene dada por
kAkF = sup v∈Cn\{θ} kAvk∞ kvk∞ = m´axi n X j=1 |aij|
3. La norma matricial subordinada a la norma vectorialk · k2 se llama norma espectral
y viene dada por
kAkS = sup v∈Cn\{θ} kAvk2 kvk2 = p ρ(A∗A)
Demostraci´on: Los apartados 1) y 2) se demuestran en problemas.
Ya que A∗A es herm´ıtica y semidefinida positiva, tiene sus autovalores ≥0, de modo
que pueden ordenarse en la forma 0≤λ1(A∗A)≤ · · · ≤λn(A∗A). Entonces
kAk2S = sup v∈Cn\{θ} kAvk22 kvk22 =v∈supCn\{θ} v∗A∗Av v∗v = sup v∈Cn\{θ}RA ∗A(v) =λn(A∗A) = ρ(A∗A)
por el Teorema de Courant-Fisher. ¦
Proposici´on 1.5 Si A es normal, entonces kAkS =ρ(A). Demostraci´on: Por el Corolario 1.2, existe U unitaria tal que
U∗AU = diag (λ i(A)) U∗A∗U = diag (λ i(A)) ⇒U∗A∗AU = diag (|λi(A)|2)⇒ λi(A∗A) =|λi(A)|2, i= 1, ..., n
Por tanto, ρ(A∗A) =ρ(A)2. ¦
Proposici´on 1.6 La norma espectral es invariante por transformaciones unitarias, es decir, dada A∈ M(C),
kAkS =kAUkS =kUAkS =kU∗AUkS, ∀U, unitaria Demostraci´on: Basta probar que
ρ(A∗A) = ρ(U∗A∗AU) =ρ(A∗U∗UA)
Es evidente la igualdad entre el primer y tercer t´ermino. La primera igualdad sigue de que el espectro de una matriz es invariante por semejanzas. ¦ Veamos ahora que se puede aproximar superiormente el radio espectral de una matriz dada mediante normas matriciales de la matriz convenientemente elegidas. Para ello es necesario previamente el siguiente
Lema 1.2 Denotemos k · k una norma vectorial en Cn y la norma matricial subordinada en Mn(C) y sea H ∈ Mn(C) una matriz regular. Consideremos la aplicaci´on
k · kH :Cn→R+, kvkH =kH−1vk Entonces
Tema 1: Elementos de ´Algebra lineal. Normas. 21
2. La norma matricial subordinada a ella viene dada por
k · kH :Mn(C)→R+, kBkH = sup v6=θ kBvkH kvkH =kH−1BHk Demostraci´on: En problemas ¦
El anterior resultado se lee como sigue en un caso particular: seaH una matriz regular; la aplicaci´on
k · kH : Cn −→R+, kvkH =kH−1vk∞
es una norma vectorial y su norma matricial subordinada es la aplicaci´on k · kH : Mn(C)−→R+, kBkH =kH−1BHkF
Teorema 1.8 Dada A∈ M(C), y ε > 0, existe una norma matricial subordinada, k · k, tal que kAk ≤ρ(A) +ε.
Demostraci´on: Supongamos dadas A ∈ M(C), y ε > 0. Por el Teorema de Schur, existe U unitaria tal que U−1AU =T, siendo
T = λ1 t12 . . . t1n 0 λ2 . . . t2n · · . . . · 0 0 . . . λn siendo λi =λi(A)
Se introduce la matriz Dδ = diag (1, δ, δ2, ..., δn−1) donde δ 6= 0 es un par´ametro que se
fijar´a posteriormente. Se tiene que Dδ es regular y se verifica que
(UDδ)−1A(UDδ) =D−δ1T Dδ= λ1 δt12 δ2t13 . . . δn−1t1n 0 λ2 δt23 . . . δn−2t2n · · · . . . · 0 0 0 . . . δtn−1,n 0 0 0 . . . λn
Si se aplica el Lema 1.2 a la norma vectorialk · k∞ y a su correspondiente norma matricial
subordinada (la norma fila), resulta que la aplicaci´on
k · k:M(C)→R+, kBk=k(UDδ)−1B(UDδ)kF
es una norma matricial subordinada a una norma vectorial. En esta norma kAk= m´ax
1≤i≤n{|λi|+|δti,i+1|+· · ·+|δ n−it
m´ax
1≤i≤n|λi|+ m´ax1≤i≤n−1{|δti,i+1|+· · ·+|δ
n−it
in|} ≤ρ(A) +ε
escogiendo δ >0 para que el segundo sumando sea ≤ε. ¦ El siguiente resultado da condiciones necesarias y suficientes para que la sucesi´on for-mada por las potencias sucesivas de una matriz converja a la matriz nula. Es un resultado fundamental para la convergencia de los m´etodos iterativos de resoluci´on de sistemas lineales.
Teorema 1.9 Sea B ∈ M. Son equivalentes las siguientes afirmaciones 1. l´ımk→+∞Bk=θ
2. l´ımk→+∞Bkv =θ, ∀v ∈Kn
3. ρ(B)<1
4. existe una norma matricial subordinada tal que kBk<1
Demostraci´on:
1)⇒2) Seak·kuna norma matricial consistente con la norma vectorial dada enKn. Entonces
∀v ∈Kn, kBkvk ≤ kBkk kvk →0
por la hip´otesis 1).
2)⇒3) Supongamos que ρ(B)≥1. Entonces, existen λ ∈sp(B), |λ| ≥ 1 y v 6=θ tales que Bv =λv. Pero
B2v =λBv =λ2v ⇒...⇒Bkv =λkv
que no converger´ıa a θ contra la hip´otesis por ser |λ| ≥1.
3)⇒4) Seg´un el Teorema 1.8, para cada ε >0 existe una norma matricial subordinada tal que kBk ≤ρ(B) +ε. Entonces, basta elegir ε tal que ρ(B) +ε <1.
4)⇒1) Se vi´o en la Proposici´on 1.1.
¦ Teorema 1.10 (Lema de Neumann) Sea B ∈ M(K) y supongamos que ρ(B) <1. En-tonces I −B es regular y (I−B)−1 =
∞
X
n=0
Bn convergiendo la serie. Rec´ıprocamente, si esta serie converge, entonces ρ(B)<1.
Tema 1: Elementos de ´Algebra lineal. Normas. 23
Demostraci´on: En efecto, si ρ(B) < 1, por el Teorema 1.3 es conocido que I −B es invertible, y por el Teorema 1.9 se sabe tambi´en que l´ımn→∞Bn = θ. Por otra parte, es
f´acil de comprobar que I−Bk+1 = (I −B)
k
X
n=0
Bn; tomando l´ımites con k → ∞, resulta
I = (I−B) ∞ X n=0 Bn⇒(I−B)−1 = ∞ X n=0 Bn
Rec´ıprocamente, si la serie converge, necesariamente l´ımn→∞Bn=θ y por el Teorema
1.9, ρ(B)<1. ¦
Por ´ultimo indicamos un resultado ´util para el estudio de la convergencia de los m´eto-dos iterativos de resoluci´on de sistemas lineales.
Teorema 1.11 Sea B ∈ M yk · k una norma matricial cualquiera. Entonces
l´ım
k→+∞kB
kk1/k =ρ(B)
Demostraci´on: Por el Corolario 1.3 se tiene que ρ(B) = ρ(Bk)1/k. Y por la Proposici´on
1.1, ρ(Bk)≤ kBkk. De modo que ρ(B)≤ kBkk1/k. En consecuencia, para probar la tesis
bastar´a justificar que
para cualquier ε >0 fijo, ∃k0 : ∀k > k0 se tiene kBkk1/k < ρ(B) +ε o equivalentemente, que para k > k0 se tiene que
kBkk
(ρ(B) +ε)k <1
En efecto, dado ε > 0, consideremos la matriz Bε=
1
ρ(B) +εB que est´a bien definida (aunque pudiera ser ρ(B) = 0). Ya que λi(Bε) =
1 ρ(B) +ελi(B), ser´a ρ(Bε)<1 y por el Teorema 1.9, l´ım k→+∞B k ε = l´ımk→+∞ 1 (ρ(B) +ε)kB k =θ De modo que ∃k0 : ∀k > k0, kBkk (ρ(B) +ε)k <1 cqd. ¦
Tema 2
M´
etodos Iterativos de resoluci´
on de
Sistemas Lineales
2.1.
Introducci´
on
Los m´etodos directos de resoluci´on de los sistemas lineales se ejecutan a trav´es de un n´umero finito de pasos y generar´ıan una soluci´on exacta si no fuera por los errores de redondeo. Por el contrario, un m´etodo indirecto da lugar a una sucesi´on de vectores que idealmente converge a la soluci´on. El c´alculo se detiene cuando se encuentra una soluci´on aproximada con cierto grado de precisi´on fijado de antemano.
Los m´etodos indirectos suelen ser iterativos, es decir, para obtener la sucesi´on de aproximaciones de la soluci´on se utiliza repetidamente un proceso sencillo. Los m´etodos iterativos son apropiados para sistemas lineales grandes y con frecuencia muy eficientes en el caso de matrices huecas. Esta suele ser la situaci´on en la resoluci´on num´erica de las ecuaciones en derivadas parciales.
Comenzamos dando un ejemplo para entender los procedimientos que veremos a con-tinuaci´on.
Ejemplo: Sea el sistema
7 −6 −8 9 x1 x2 = 3 −4 cuya soluci´on es x1 = 1 5 = 0,2 yx2 =− 4
15 =−0,266. Inicialmente se eligen x01 y x02 como valores iniciales. La k-´esima iteraci´on podr´ıa venir dada por
xk1 = 1 7(6x k−1 2 + 3) xk 2 = 1 9(8x k−1 1 −4) 25
Este procedimiento se conoce como el m´etodo de Jacobi. Algunos valores que se ob-tienen son k xk 1 xk2 0 0,000000 0,000000 10 0,148651 −0,198201 20 0,186516 −0,249088 30 0,196615 −0,262154 40 0,199131 −0,265508 50 0,199777 −0,266369
Podemos modificar el m´etodo de modo que se considere en cada iteraci´on el valor m´as reciente de xk
1 para la segunda ecuaci´on. Este m´etodo, que se llama de Gauss-Seidel, se
escribir´ıa as´ı xk1 = 1 7(6x k−1 2 + 3) xk 2 = 1 9(8x k 1−4) Algunos valores obtenidos por este procedimiento son
k xk 1 xk2 0 0,000000 0,000000 10 0,219773 −0,249088 20 0,201304 −0,265308 30 0,200086 −0,266590 40 0,200006 −0,266662 50 0,200000 −0,266666
Observamos que ambos m´etodos convergen al mismo l´ımite, pero que el segundo lo hace m´as r´apidamente. En contraste con los m´etodos directos, la precisi´on que se obtiene en la soluci´on depende del momento en que se detenga el proceso.
En general, dado un sistema lineal Au=b, utilizar un m´etodo iterativo consiste en ir obteniendo t´erminos de una sucesi´on {uk} que sean soluci´on de
u0 ∈Kn arbitrario uk+1 =Buk+c, k ≥0
para cierta matriz B y cierto vector c. Hemos de estudiar si el m´etodo converge, es decir, si l´ım
Tema 3: M´etodos Iterativos 27
2.2.
Generalidades sobre la convergencia de los
M´
etodos Iterativos
Consideremos el sistema lineal(SL) Au=b, A invertible
Supongamos que somos capaces de encontrar una matriz B y un vector c tales que I−B sea invertible y tal que la ´unica soluci´on del sistema lineal
u=Bu+c
sea la de (SL). Entonces se puede definir el m´etodo iterativo
u0 ∈Kn arbitrario uk+1 =Buk+c, k ≥0
a) Convergencia del m´etodo:
Si denotamos ek =uk−u, el m´etodo converge (globalmente) si y solo si l´ım
k→∞ek = 0
(para cada u0 ∈Kn).
Teorema 2.1 Las siguientes proposiciones son equivalentes: a) El m´etodo iterativo es convergente.
b) ρ(B)<1
c) kBk<1, para alguna norma matricial subordinada. Demostraci´on: Se tiene
ek =uk−u=Buk−1+c−(Bu+c) = B(uk−1−u) =Bek−1 y, por tanto
ek=Bek−1 =B2ek−2 =...=Bke0
El m´etodo iterativo ser´a directo si ∃K ∈N tal que BK =θ. Ser´a convergente si
l´ım
k→∞B
kv =θ, ∀v ∈Kn
b) Velocidad de convergencia:
Entre todos los m´etodos iterativos aplicables a (SL), nos preguntamos cu´al es el que tiene mayor velocidad de convergencia. Veremos dos casos
i) Supongamos B normal y k · k2. En estas condiciones
kekk2 =kBke0k2 ≤ kBkks· ke0k2 =ρ(Bk)ke0k2 =ρ(B)kke0k2
La primera desigualdad es ´optima por la definici´on de la norma espectral. La siguiente igualdad sigue de serB normal (Proposici´on 1.5). La ´ultima igualdad, del Corolario 1.3.
Por tanto, en el caso de matrices normales, el m´etodo es m´as r´apido en el sentido de la norma espectral cuanto m´as peque˜no sea ρ(B).
ii) Caso general: B cualquiera y cualquier norma vectorial.
Veremos que la conclusi´on es la misma en el sentido que, asint´oticamente,kekk
se comporta en el peor de los casos como ρ(B)k.
Teorema 2.2 Sea k · k una norma vectorial cualquiera. Sea u la soluci´on del sistema u=Bu+c. Se considera el m´etodo iterativo
u0 ∈Kn arbitrario uk+1 =Buk+c, k≥0 Entonces i) l´ım k→∞{ku0sup−uk=1kuk−uk 1/k}=ρ(B)
ii) Si el m´etodo es convergente, se verifica la siguiente estimaci´on
kuk−uk ≤
kBkk
1− kBkku1−u0k
para la norma matricial subordinada tal quekBk<1 y la norma vectorial de la que aqu´ella es subordinada.
Demostraci´on: i) Sea k · k la norma matricial subordinada. Entonces sup ku0−uk=1 kuk−uk= sup ke0k=1 kekk= sup ke0k=1 kBke 0k= m´ax ke0k=1 kBke 0k=kBkk Por tanto sup ke0k=1 kekk1/k =kBkk1/k →ρ(B)
Tema 3: M´etodos Iterativos 29 seg´un Teorema 1.11.
ii) Sabemos que existe una norma matricial subordinada a una norma vectorial para la que kBk<1. Tomando ambas
uk−uk−1 =B(uk−1−uk−2) = ...=Bk−1(u1−u0) Por tanto
kuk−uk−1k ≤ kBk−1k · ku1−u0k ≤ kBkk−1· ku1−u0k Entonces, sim > k, se tendr´a
kum−ukk ≤ kum−um−1k+...+kuk+1−ukk ≤(kBkm−1+...+kBkk)ku1−u0k
De modo que para todom > k se tiene kum−ukk ≤
kBkk
1− kBkku1−u0k y tomando l´ımites con m→ ∞ sigue el resultado.
• A consecuencia del apartado i) del Teorema anterior sigue
dado ε >0, ∃l: ∀k ≥l, se verifica kekk ≤(ρ(B) +ε)k, ∀e0 tal que ke0k= 1
El m´etodo aumenta su velocidad de convergencia cuanto menor sea ρ(B).
2.3.
M´
etodos de Jacobi, Gauss-Seidel y relajaci´
on
por puntos.
Estos m´etodos son casos particulares del m´etodo iterativo siguiente. Sea
(SL) Au=b, A regular
Supongamos que podemos escribir A = M −N siendo M “f´acil de invertir”, en el sentido de que el sistema lineal de matriz M sea f´acil de resolver. En la pr´actica,M va a ser casi diagonal o triangular. Entonces
Au=b⇐⇒Mu=Nu+b⇐⇒u= (M−1N)u+M−1b siendo, por tanto,
Se asocia el m´etodo iterativo siguiente u0, dado uk+1 = (M−1N)uk+M−1b, k≥0
que ser´a convergente si y solo si ρ(M−1N)<1. En la pr´actica, resolveremos los sistemas lineales sucesivos en la forma
Muk+1 =Nuk+b, k ≥0
Para resolver el m´etodo iterativo, hay que invertir la parteM de la matrizA. Intuiti-vamente parece que cuanto m´as se parezca M a A, mejor ser´a el m´etodo, pero m´as dif´ıcil ser´a de calcular. En el caso l´ımite, M =A, N =θ y la primera iteraci´on da la soluci´on exacta u1 =A−1b.
En el caso de los m´etodos de Jacobi y Gauss-Seidel la descomposici´on A = M −N es disjunta en el sentido de que mij = aij o mij = 0. En el m´etodo de relajaci´on, la
descomposici´on es no disjunta.
Supondremos en lo que sigue la hip´otesis
(H) aii 6= 0, i= 1, ..., n.
Haremos la siguiente descomposici´on por puntos de A
A= a11 a12 . . . a1n a21 a22 . . . a2n . . . . . . an1 an2 . . . ann =D−E−F siendo D= a11 0 . . . 0 0 a22 . . . 0 . . . . . . 0 0 . . . ann E = 0 0 . . . 0 −a21 0 . . . 0 . . . . . . −an1 −an2 . . . 0 , F = 0 −a12 . . . −a1n 0 0 . . . −a2n . . . . . . 0 0 . . . 0
Tema 3: M´etodos Iterativos 31 A) Metodo de Jacobi por puntos
Se define tomando M =D, N =E+F. El m´etodo es u0, arbitrario uk+1 =D−1(E+F)uk+D−1b, ∀k≥0
Se llamar´a matriz de Jacobi a
J =D−1(E+F) =I−D−1A El m´etodo converger´a si y solo si ρ(J)<1.
El c´alculo efectivo se lleva a cabo del modo siguiente
uk+1 1 uk2+1 . uk+1 n =− 1/a11 0 . . . 0 0 1/a22 . . . 0 . . . . . . 0 . . . . 1/ann · · 0 a12 . . . a1n a21 0 . . . a2n . . . . . . an1 an2 . . . 0 uk 1 uk 2 . uk n − b1 b2 . bn As´ı pues, uk+1 i = 1 aii [bi−(ai1uk1 +. . .+ai,i−1uki−1+ai,i+1uki+1+. . .+ainukn)], 1≤i≤n Observaciones:
1) Para calcular uki+1 se utilizan n−1 componentes del vector uk = (uki). Por
tanto, uk ha de guardarse en la memoria durante el c´alculo de uk+1. Se usan 2n registros de memoria en cada iteraci´on,n para uk y n para uk+1.
2) Los pasos a seguir para el c´alculo de uk+1
i son los siguientes:
1.s = n X j=1 aijukj 2.s =s−aiiuki −bi, i= 1, ..., n 3.uk+1 i =− s aii
Parece razonable pensar que el m´etodo se mejorar´a si se va “actualizando”el c´alculo de uk+1 con las componentes de este vector ya obtenidas. Es decir, para obtener uk+1
i se pueden utilizar las ukj+1, j < i ya calculadas. As´ı se usar´an adem´as solo n
lugares de memoria puesto que los uk+1
i van reemplazando a los valores de uki. Este
m´etodo se conoce con el nombre de B) Metodo de Gauss−Seidel por puntos
Se define tomando M = D−E, N = F. La matriz D−E es invertible por la hip´otesis (H). El m´etodo es u0, arbitrario uk+1 = (D−E)−1F uk+ (D−E)−1b, ∀k≥0
Se llamar´a matriz de Gauss-Seidel a
L1 = (D−E)−1F El m´etodo converger´a si y solo si ρ(L1)<1.
El c´alculo efectivo se lleva a cabo del modo siguiente.
(D−E)uk+1 =F uk+b=⇒Duk+1 =Euk+1+F uk+b =⇒ uk+1 =D−1(Euk+1+F uk+b) uk+1 1 uk+1 2 . uk+1 n =− 1/a11 0 . . . 0 0 1/a22 . . . 0 . . . . . . 0 . . . . 1/ann · · 0 0 . . . 0 a21 0 . . . 0 . . . . . . an1 an2 . . . 0 uk1+1 uk+1 2 . uk+1 n + 0 a12 . . . a1n 0 0 . . . a2n . . . . . . 0 0 . . . 0 uk 1 uk 2 . uk n − b1 b2 . bn . As´ı pues, uki+1 = 1 aii [bi− X j<i aijukj+1− X j>i aijukj], 1≤i≤n.
Tema 3: M´etodos Iterativos 33 Observaci´on:
En este m´etodo, adem´as de necesitar menos memoria, se “invierte”m´as parte de la matriz A que en el de Jacobi, por lo que es razonable pensar que ser´a m´as r´apido. Pero hay ejemplos en que el m´etodo de Jacobi converge y el de Gauss-Seidel no. C) Metodo de relajacion por puntos
Consideremos la siguiente descomposici´on de D D= 1 ωD+ µ 1− 1 ω ¶ D, ω ∈R\ {0} De esta forma A= 1 ωD−E− µ 1−ω ω ¶ D−F y se pueden tomar M = 1 ωD−E, N = µ 1−ω ω ¶ D+F
de modo que se ha pasado parte de la diagonal D a la matriz N. La matriz M es invertible por la hip´otesis (H).
El m´etodo iterativo obtenido es
u0, arbitrario uk+1 = ¡1 ωD−E ¢−1£¡1−ω ω D+F ¢ uk+b ¤ , ∀k≥0 Se llamar´a matriz de relajaci´on a
Lω = µ 1 ωD−E ¶−1µ 1−ω ω D+F ¶ = (D−ωE)−1[(1−ω)D+ωF] El m´etodo converger´a si y solo si ρ(Lω)<1.
El c´alculo efectivo que se lleva a cabo es el siguiente:
µ 1 ωD−E ¶ uk+1 = µ 1−ω ω D+F ¶ uk+b (D−ωE)uk+1 = ((1−ω)D+ωF)uk+ωb Duk+1 =Duk+ω[Euk+1−(D−F)uk+b] uk+1 =uk+ωD−1(Euk+1−(D−F)uk+b)
uk1+1 uk+1 2 . uk+1 n = uk 1 uk 2 . uk n −w 1/a11 0 . . . 0 0 1/a22 . . . 0 . . . . . . 0 . . . . 1/ann · · 0 0 . . . 0 a21 0 . . . 0 . . . . . . an1 an2 . . . 0 uk+1 1 uk2+1 . uk+1 n + a11 a12 . . . a1n 0 a22 . . . a2n . . . . . . 0 0 . . . ann uk 1 uk 2 . uk n − b1 b2 . bn . As´ı pues, uk1+1 =uk1− ω a11 [a11uk1 +a12uk2 +. . .+a1nukn−b1] y una vez hallados ukj+1 para j < i, se determina
uk+1 i =uki − ω aii [ai1uki+1+. . .+ai,i−1uki−+11 +aiiuki +ai,i+1uki+1+. . .+ainukn−bi] Observaciones:
1) El m´etodo de relajaci´on para ω = 1 coincide con el de Gauss-Seidel. De ah´ı la notaci´on usada para la matriz de Gauss-Seidel.
2) Aunque en principio el par´ametro ω podr´ıa ser un n´umero real no nulo, se probar´a (Teorema 3.5) que para que el m´etodo converja es necesario que ω ∈ (0,2). El m´etodo se llamar´a de sobrerrelajaci´on siω∈(1,2) y de subrrelajaci´on siω ∈(0,1).
3) Se ver´a queρ(Lω) es una funci´on continua deω. Entonces, el estudio del m´etodo
consiste en
a) Determinar un intervalo I ⊂R\ {0}, tal que ∀ω ∈I, ρ(Lω)<1
b) Determinar ω0 ∈I tal que
ρ(Lω0)≈´ınf
ω∈Iρ(Lω)
4) Para ciertos valores del par´ametro de relajaci´on se obtiene una convergencia m´as r´apida que paraω= 1 y por tanto un tiempo de c´alculo menor que para el m´etodo de Gauss-Seidel. El n´umero de operaciones es similar en ambos m´eto-dos. No obstante, hay que tener en cuenta el tiempo utilizado en la estimaci´on preliminar del par´ametro ω0 para comparar la eficacia de ambos m´etodos.
Tema 3: M´etodos Iterativos 35
2.4.
M´
etodos Iterativos por bloques
Supongamos la matriz A descompuesta por bloques de forma que los bloques diago-nales sean cuadrados y escribamos
A=DB−EB−FB
DB formada por los bloques diagonales
−EB formada por los bloques subdiagonales
−FB formada por los bloques superdiagonales
Se recuerda el siguiente resultado
Proposici´on 2.1 Si A es una matriz triangular por bloques, entonces se verifica que det (A) =
N
Y
i=1
det (Aii). En particular, si A es diagonal por bloques se tiene que A es invertible si y solo si Aii es invertible para cada i.
Demostraci´on: En problemas. Se establece la hip´otesis
(HB) Las matrices Aii son invertibles para cadai
La Proposici´on anterior asegura queDB,DB−EByDB−ωEBson invertibles. Entonces
se pueden definir los m´etodos de Jacobi, Gauss-Seidel y relajaci´on por bloques de modo an´alogo al descrito por puntos:
a) M´etodo de Jacobi por bloques
uk+1 =D−B1(EB+FB)uk+DB−1b, JB =D−B1(EB+FB)
b) M´etodo de Gauss-Seidel por bloques
uk+1 = (DB−EB)−1FBuk+ (DB−EB)−1b, LB,1 = (DB−EB)−1FB
c) M´etodo de relajaci´on por bloques uk+1 = µ 1 ωDB−EB ¶−1µ 1−ω ω DB+FB ¶ uk+ µ 1 ωDB−EB ¶−1 b LB,ω = µ 1 ωDB−EB ¶−1µ 1−ω ω DB+FB ¶
Observaci´on:
Parece que los m´etodos por bloques deben converger m´as r´apidamente que los m´etodos por puntos porque invierten m´as parte de la matriz A. No obstante, en cada iteraci´on es necesario resolver N sistemas lineales cuyas matrices son Aii. Por tanto, se utilizar´an
m´etodos por bloques si la aceleraci´on de la convergencia compensa el tiempo de resoluci´on de los sistemas lineales en cada iteraci´on.
2.5.
Resultados de convergencia para M´
etodos
Iterativos
Para fijar ideas, consideremosK=C (es an´alogo siK=R).
Supongamos que los m´etodos iterativos est´an bien planteados. En el caso de los tres m´etodos descritos en las preguntas anteriores significa que se verifican las hip´otesis (H) o (HB) seg´un sean por puntos o por bloques.
Supondremos queA es una matriz herm´ıtica y definida positiva. En tal caso, es cono-cido el siguiente resultado:
Lema 2.1 Sea la matriz A definida positiva. Entonces a) aii >0 para i= 1, ...n.
b) En cualquier descomposici´on por bloques de A que tenga los bloques diagonales cuadrados, ´estos son tambi´en matrices definidas positivas.
Por tanto para una matriz definida positiva, se verifica la hip´otesis (H). Por otra parte, como una matriz definida positiva es no singular, se verifica tambi´en la hip´otesis (HB).
La primera condici´on suficiente de convergencia de car´acter general es
Teorema 2.3 (Householder). Sea A una matriz herm´ıtica y definida positiva y sea A = M−N, con M regular. Si la matrizM∗+N es definida positiva, entoncesρ(M−1N)<1.
Demostraci´on: Comenzamos verificando que M∗+N es siempre herm´ıtica; en efecto
(M∗ +N)∗ =M+N∗ =A+N+N∗ = (A∗+N∗) +N =M∗+N
Basta demostrar que kM−1Nk < 1 para alguna norma matricial (Proposici´on 1.1). Consideraremos la norma matricial subordinada a cierta norma vectorial. En concreto, la aplicaci´on
k · kA : Cn −→R+, kvkA= (v∗Av)1/2
es una norma vectorial por ser A definida positiva (Ver problemas). La norma matricial subordinada, verifica
kM−1Nk= m´ax
kvkA=1
Tema 3: M´etodos Iterativos 37 para alg´un v0 ∈Cn que verifica kv0kA = 1. Pero
M−1N =M−1(M −A) = I−M−1A de modo que
M−1Nv0 =v0−w0, siendo w0 =M−1Av0 6=θ por ser M−1A regular y v
0 6=θ. Entonces kM−1Nv
0k2A =kv0−w0k2A = (v∗0−w∗0)A(v0−w0) = =v∗
0Av0−v∗0Aw0−w∗0Av0+w0∗Aw0 = 1−(v0∗Aw0+w0∗Av0− kw0k2A)
Escribiendo esta expresi´on solo en funci´on dew0, se obtiene v0 =A−1Mw0 =⇒v0∗ =w0∗M∗(A−1)∗ =w∗0M∗A−1, la ´ultima igualdad, por ser A herm´ıtica. De modo que
v∗ 0Aw0 =w0∗M∗A−1Aw0 =w0∗M∗w0 w∗ 0Av0 =w0∗AA−1Mw0 =w∗0Mw0 =⇒ kM−1Nv 0k2A = 1−w∗0(M∗+M−A)w0 = 1−w∗0(M∗+N)w0 <1
por ser M∗+N definida positiva y w0 6=θ. ¦
Aplicamos este Teorema para dar una condici´on suficiente de convergencia para el m´etodo de relajaci´on.
Teorema 2.4 (Criterio de Ostrowski-Reich). Si A es herm´ıtica y definida positiva, en-tonces el m´etodo de relajaci´on por puntos o por bloques converge si 0 < ω < 2. En particular, el m´etodo de Gauss-Seidel es convergente.
Demostraci´on: Como se indic´o en el Lema anterior, los m´etodos de relajaci´on por puntos o por bloques est´an bien definidos, pues por ser Adefinida positiva se verifican las hip´otesis (H) y (HB). Se tiene entonces que
A=M −N = µ 1 ωDB−EB ¶ − µ 1−ω ω DB+FB ¶ −→ M∗ +N = µ 1 ωD ∗ B−EB∗ ¶ + µ 1−ω ω DB+FB ¶ = 1 ωDB+ 1−ω ω DB = 2−ω ω DB
