Una desigualdad importante, conocida con el nombre de desigualdad de Cauchy-Schwarz establece que en cualquier espacio producto interno(X , h,i) se cumple que
|hx,yi| ≤ kxk k yk para todo x,y ∈ X.
1.6.
Conjuntos de primera y segunda categoría
¿Cuán grande, en un sentido que debemos precisar, es el conjunto de los puntos de discontinuidad de una función a valores reales definida sobre un espacio métrico? Pensemos, por un momento, sobre la fun- ción característica de los números racionales. Medir el tamaño de estos conjuntos nos conduce a la noción, definida por Baire, conocida como conjunto de primera categoría. La pequeñez de estos conjuntos quedará evidenciada al demostrarse, hecho conocido como el Teorema de Categoría de Baire, que ningún espacio métrico completo puede ser cubierto con uniones numerables de conjuntos de primera categoría.
Definición 1.6.1. Sean(X ,τ) un espacio topológico Hausdorff y E un subconjunto de X . Diremos que E es nunca denso en X si int E=∅. Si ocurre que int E6= ∅, entonces se dice que E es denso en alguna parte de X .
El término conjunto raro se usa, con cierta frecuencia, como un sinónimo de conjunto nunca-denso. Observe que un conjunto nunca-denso no puede ser entorno de ninguno de sus puntos, es decir, E ⊆ X es
nunca-denso en X si cada subconjunto abierto no vacío U de X contiene un conjunto abierto no vacío V tal que V∩ E = ∅. En efecto, suponga que existe un subconjunto abierto no vacío U de X con la propiedad de
que cualquier subconjunto abierto no vacío de U intersecta a E. Esto, por supuesto, significa que E contiene a U lo que es imposible por ser E nunca-denso. Por otro lado, decir que E no es nunca-denso significa que E
contiene a algún abierto no vacío U⊆ X, es decir, E es denso en alguna parte de X, o de modo equivalente, E es denso en algún abierto no vacío U de X . Notemos también que E es nunca-denso en X si, y sólo si, E
es nunca-denso en X y que cualquier subconjunto de un conjunto nunca-denso sigue siendo nunca-denso. La frontera de cualquier conjunto cerrado E⊆ X es nunca-denso en X. En efecto, suponga que U es un abierto no vacío incluido en Fr(E) = E \ int(E). Entonces U ⊆ E, de donde se sigue que U está contenido en el interior de E lo cual es imposible.
Lema 1.6.1. Sea(X ,τ) un espacio topológico de Hausdorff y suponga que D = {D1, . . . , Dn} es una colec-
ción finita de subconjuntos no vacíos de X tal que D1∪ ... ∪ Dnes denso en X . Entonces existe algún k en
{1,2,... ,n} tal que Dk es denso en alguna parte de X .
Prueba. Sin perder generalidad, podemos asumir y, así lo haremos, que la colección finita D= {D1, . . . , Dn}
cuya unión es densa en X es minimal en el siguiente sentido: si removemos algún Di de dicha colección,
la unión de lo que queda no es denso en X . Supongamos entonces que hemos removido, por ejemplo, a Dn
de la colección minimal D. Como D1∪ ... ∪ Dn−1= D1∪ ... ∪ Dn−16= X, resulta que en alguna parte de X
habita algún conjunto abierto no vacío, digamos U , que no intersecta a esa clausura. Por supuesto, teniendo en cuenta que D1∪ ... ∪ Dnes denso en X , es decir, D1∪ ... ∪ Dn−1∪ Dn= X , el conjunto abierto U debe
estar contenido en Dn, lo cual significa que int Dn6= ∅ y, por lo tanto, el conjunto Dnes denso en alguna
parte de X .
La siguiente simple observación permitirá deducir algunas de las formas equivalentes que posee la noción de conjunto nunca-denso.
Teorema 1.6.1. Para cualquier subconjunto B de un espacio topológico de Hausdorff(X ,τ) se cumple que
Xr int(B) = X r B. (1.6.1)
En particular, int(B ) =∅ si, y sólo si, X r B es denso en X.
Prueba. En efecto, como int(B ) ⊆ B, entonces X r B ⊆ X r int (B) y ya que X r int (B) es cerrado en X,
se concluye que Xr B ⊆ X r int(B). Por otro lado, supongamos que x ∈ X pero x /∈ X r B. Entonces existe una bola abierta U(x, r) en X con centro x y radio r > 0 tal que U (x, r) ∩ (X r B) = ∅. Esto significa que
x∈ U(x,r) ⊆ B, lo cual quiere decir que x ∈ int (B) y, en consecuencia, x /∈ X r int (B). Esto nos dice que
Xr int(B) ⊆ X r B y termina la prueba.
Observemos que, como consecuencia del teorema anterior, tenemos la siguiente caracterización de los conjuntos nunca-densos.
Teorema 1.6.2. Sea(X ,τ) un espacio topológico Hausdorff y sea B un subconjunto de X . Son equivalentes
las siguientes condiciones:
(a ) B es nunca-denso en X . (b ) Xr B es denso en X.
Prueba. Esto es consecuencia inmediata de (1.6.1).
Conviene, en este punto, reforzar el resultado anterior con algunas observaciones importantes.
Comentario Adicional 1.6.1 (1) En relación al apartado (b) del Teorema 1.6.2, debemos hacer notar que si un subconjunto de X , digamos A, es denso en X , entonces no es necesariamente cierto que su complemento, Xr A, es un subconjunto nunca-denso de X. En efecto, basta tomar X = R y
A=Q para probar nuestra aseveración. Sin embargo, tenemos que
Si A es denso y, además, abierto en X , entonces Xr A es nunca-denso en X.
Prueba. Supongamos que A es abierto y denso en X . Por el Teorema 1.6.2, basta probar que
Xr (X r A) es denso en X. Por ser A abierto tenemos que X r A = X r A y así, de la igualdad Xr (X r A) = X r (X r A) = A
se obtiene el resultado gracias a la densidad de A en X .
(2) Observemos que la intersección de dos conjuntos densos en un espacio topológico Hausdorff (X ,τ) no es necesariamente denso. Basta considerar, por ejemplo, A1=Q y A2=I = R r Q
como subconjuntos deR, para darnos cuenta de ello. Sin embargo, si además de densos nuestros conjuntos son abiertos, entonces su intersección es densa. De hecho tenemos:
Si G1, G2, . . . , Gn es una colección finita de subconjuntos no vacíos, abiertos y densos en X ,
entoncesTni=1Gies, además de abierto, denso en X .
Prueba. La prueba es suficiente hacerla para dos conjuntos. Supongamos entonces que G1y G2
son abiertos y densos en X . Sea U un abierto no vacío de X . Como G1es abierto y denso en X ,
resulta que U∩ G1 es un abierto no vacío. Ahora bien, puesto que G2 es denso en X , entonces
(U ∩ G1) ∩ G2= U ∩ (G1∩ G2) 6= ∅. Esto prueba que G1∩ G2es denso y, por supuesto, abierto
Sec. 1.6 Conjuntos de primera y segunda categoría 35
Es interesante observar que si(X ,τ) es un espacio topológico de Hausdorff, entonces la colección
τad formada por el conjunto vacío más todos los subconjuntos τ−abiertos y τ−densos de X constituye una nueva topología para X la que, por supuesto, es más pequeña queτ. En efecto, claramente el conjunto vacío y X están en τad. Similarmente, la unión de cualquier colección de elementos de τad sigue viviendo en τad y, finalmente, por (2), la intersección de cualquier colección finita de elementos deτadse queda dentro deτad.
Uno de los resultados importantes en análisis y cuyo estudio es el objetivo principal de estas no- tas, es el Teorema de Categoría de Baire, el cual establece que en ciertos espacios topológicos la intersección de cualquier colección numerable de subconjuntos abiertos densos de dicho espacio también es densa.
(3) Toda unión finita de conjuntos nunca-densos es nunca-denso. En efecto, si A1, . . . , An es una
colección finita de conjuntos nunca-densos en X , entonces por el Teorema 1.6.2, Xr Akes denso
(y abierto) en X para k= 1, . . . , n. Por el resultado anterior se sigue que
n \ k=1
(Xr Ak)
es denso en X y, en consecuencia, como
n \ k=1 (Xr Ak) = Xr n [ k=1 Ak= Xr n [ k=1 Ak
se concluye, usando de nuevo el Teorema 1.6.2, queSnk=1Akes nunca-denso en X .
(4) Si bien es cierto que la unión finita de conjuntos nunca-densos es nunca-denso, ella no se preser- va por uniones numerables, es decir, si An
∞
n=1 es una sucesión infinita de subconjuntos nunca-
densos de X , entonces no es necesariamente cierto que su unión,S∞n=1An, sea nunca-denso en
X . Basta considerar aR con la métrica usual como nuestro espacio ambiente y elegir una enu-
meración cualquiera de los racionales, digamos(rn)∞n=1. Cada conjunto An= {rn} es nunca-denso
enR, pero su unión es Q el cual es denso en R. Así, int S∞n=1An
= int Q= int(R) = R. Aunque la noción de conjunto nunca-denso se transmite por inclusión, dicho concepto sigue siendo muy restrictivo debido esencialmente a su incapacidad para preservarse por uniones numerables. Sin embargo, la definición de conjunto de primera categoría subsana esa deficiencia. En el Capítulo 2 de su tesis, Baire introduce los conceptos de primera y segunda categoría, mientras que Denjoy es el responsable del término conjunto residual o genérico.
Definición 1.6.2. Sean(X ,τ) un espacio topológico de Hausdorff y M un subconjunto de X . Diremos que
a) M es de primera categoría en X si existe una sucesión An
∞
n=1 de subconjuntos de X , cada uno de los
cuales es nunca-denso en X tal que M=S∞n=1An.
b) M es de segunda categoría en X si no es de primera categoría en X .
Cuando X es de segunda categoría, entonces frecuentemente se dice que X es un espacio de segunda
categoría en sí mismo. Observe que otro modo equivalente de formular la noción de espacio de segunda
Observación (ESC). Un espacio topológico de Hausdorff(X ,τ) es de segunda categoría si, y sólo si,
cualquier intersección numerable de subconjuntos abiertos densos en X es no vacía.
A los conjuntos de primera categoría también se les conoce con el nombre de conjuntos magros o disemi-
nados y a los conjuntos de segunda categoría como conjuntos no magros o co-magros.
Conviene destacar que estas nociones de categoría son relativas, es decir, dependen del espacio ambiente. Por ejemplo,R, visto como subconjunto de C, es cerrado con interior vacío, por lo que resulta ser de primera categoría en C, pero como veremos más adelante, R es de segunda categoría en sí mismo. Es claro que los conjuntos de primera categoría se conservan por uniones numerables. Si estos conjuntos, los de primera categoría, vivieran, por ejemplo, en un espacio métrico completo, esa condición nos indicaría que ellos son conjuntos topológicamente pequeños en el siguiente sentido: ninguno ellos y, más aun, ni siquiera alguna unión numerable de tales conjuntos, logran cubrir la totalidad de los puntos del espacio métrico completo. Esto es, en esencia, lo que probó Baire y que hoy en día se conoce como el Teorema de Categoría de Baire. Por otro lado, un conjunto de segunda categoría es, desde el punto de vista topológico y por ser opuesto a los conjuntos de primera categoría, un conjunto grande, tal vez demasiado grande. Una noción intermedia más adecuada, conocida como residualidad, será formulada un poco más abajo.
Antes de continuar recordaremos algunos conceptos y resultados conocidos que serán fundamentales en nuestro estudio. Sea (X ,τ) un espacio topológico de Hausdorff y sea F un subconjunto no vacío de X . Decimos que F es un Fσsi existe una sucesión(Fn)∞n=1de subconjuntos cerrados en X tal que
F=
∞
[ n=1
Fn.
El complemento de un conjunto Fσse llama un conjunto Gδ; es decir, un conjunto G es un Gδsi existe una sucesión(Gn)∞n=1de subconjuntos abiertos en X tal que
G=
∞
\ n=1
Gn.
Un conjunto que simultáneamente se puede representar tanto como un Fσ así como un Gδ será llamado
ambiguo.
Ejemplo 1.6.1. (1) Q es un Fσ, mientras que el conjunto de los números irracionales R r Q, es un Gδ- denso.
¿EsQ un conjunto ambiguo? Más adelante veremos, como consecuencia del Teorema de Categoría de Baire, que aQ le está negada la posibilidad de poder expresarse como un Gδ.
(2) Si (X , d) es un espacio métrico y F ⊆ X es cerrado, entonces F es un Gδ. En particular, F es ambiguo.
Prueba. Para cada n∈ N, sea
Gn= [ x∈F
U(x, 1/n)
donde, como siempre, U(x, 1/n) es la bola abierta con centro x y radio 1/n. Como cada Gnes abierto y
teniendo en cuenta que F ⊆ Gnpara todo n, resulta que F⊆T∞n=1Gn.
Para demostrar la otra inclusión, tomemos y∈T∞n=1Gn. Entonces y∈ Gnpara todo n∈ N. Fijado un n,
existe un x∈ F tal que y ∈ U(x,1/n) lo cual dice que y ∈ F y como F es cerrado, entonces y ∈ F = F.
Sec. 1.6 Conjuntos de primera y segunda categoría 37
(3) Cualquier conjunto abierto G en un espacio métrico (X , d) es un Fσ. En particular, G es ambiguo pues trivialmente es un Gδ.
Existen varias formas equivalentes de definir lo que es un espacio de Baire. La siguiente es una de la más útiles y convenientes que existen. El término espacio de Baire fue introducido por N. Bourbaki [67] para describir aquellos espacios topológicos en los cuales cualquier conjunto abierto no vacío es de segunda categoría.
Definición 1.6.3. Un espacio topológico de Hausdorff (X ,τ) se llama espacio de Baire si, para cualquier
sucesión(Gn)∞n=1de subconjuntos abiertos densos de X , su intersección,
T∞
n=1Gn, es denso en X .
Lo primero que debemos destacar es que, por la Observación (ESC), todo espacio de Baire es de segunda
categoría. Sin embargo, existen espacios de segunda categoría que no son espacios de Baire (véase la obser-
vación(1) del Comentario Adicional 1.7.3, página 42). Por otro lado, existen ciertas categorías de espacios topológicos en donde ambas nociones coinciden. Por ejemplo, todo espacio homogéneo de segunda catego- ría es un espacio de Baire (véase, por ejemplo, [208], Prop. 1.27). Recordemos que un espacio topológico de Hausdorff(X ,τ) se dice que es homogéneo si para cualquier par x, y de puntos distintos de X , existe un homeomorfismoϕ: X → X tal queϕ(x) = y.
Otra de las definiciones importantes que usaremos con mucha frecuencia en estas notas es la siguiente:
Definición 1.6.4. Sea(X ,τ) un espacio topológico de Hausdorff. Un subconjunto M de X se llama residual
en X si Xr M es de primera categoría en X.
Una primera observación respecto a los conjuntos residuales es la siguiente: M es un subconjunto residual
de X si, y sólo si, M contiene la intersección de una familia numerable, digamos(Gn)∞n=1, de subconjuntos
abiertos densos en X . En efecto, supongamos que M es residual en X . Entonces existe una sucesión(An)∞n=1
de subconjuntos nunca-densos de X tal que X\ M =S∞n=1An. Por el Teorema 1.6.2, cada conjunto abierto
Gn= X \ Anes denso en X y, en consecuencia, M= X \ ∞ [ n=1 An= ∞ \ n=1 (X \ An) ⊇ ∞ \ n=1 X\ An = ∞ \ n=1 Gn.
La otra implicación se deja como ejercicio al lector. Cuando(X ,τ) es un espacio de Baire, se puede afirmar algo más contundente: todo subconjunto residual de X es denso en X , en particular, no vacío. Eso forma parte del contenido del próximo teorema.
Históricamente, los espacios métricos completos fueron los primeros espacios (como generalizaciones de la recta realR) en donde se demostró que ellos satisfacen las condiciones equivalentes dadas en el próximo resultado.
Teorema 1.6.3 (Categoría de Baire). Sea(X ,τ) un espacio topológico de Hausdorff. Las siguientes condi-
ciones son equivalentes:
(a) X es un espacio de Baire.
(b) Cada conjunto de primera categoría en X tiene interior vacío.
(c) Cada subconjunto abierto no vacío G de X es de segunda categoría en X .
(d) Todo subconjunto residual de X es denso en X ; es decir, si E es de primera categoría en X , entonces
Prueba.(b) ⇒ (a). Sea (Gn) una sucesión de subconjuntos abiertos densos de X . Entonces, por la obser-
vación (1) del Comentario Adicional 1.6.1, página 34, cada Xr Gn es un subconjunto nunca-denso de X .
Por(b),S∞n=1(Xr Gn) = XrT∞n=1Gntiene interior vacío y así, gracias a (1.6.1),
Xr Xr ∞ \ n=1 Gn ! = ∞ \ n=1 Gn es denso en X .
(a) ⇒ (c). Sea G un subconjunto no vacío y abierto de X y supongamos que G es de primera categoría en X. Entonces existe una sucesión(En) de subconjuntos nunca-densos de X tal que G =S∞n=1En⊆S∞n=1En. De
aquí se sigue que
∞
\ n=1
(Xr En) ⊆ X r G. (1.6.2)
Por otro lado, como cada Enes nunca-denso en X , entonces por el Teorema 1.6.2 resulta que cada subconjunto
Xr En es abierto y denso en X y, así, de (a) obtenemos queT∞n=1(Xr En) es denso en X . En particular,
por (1.6.2), Xr G es denso en X. Pero siendo X r G cerrado y denso en X, tenemos que X r G = X y, por consiguiente, G=∅. Esta contradicción establece que G es de segunda categoría en X.
(c) ⇒ (d). Sea E un subconjunto que es de primera categoría en X. Entonces int (E ) también es de primera categoría en X . Por(c), int (E ) =∅ y por (1.6.1) concluimos que X r E es denso en X.
(d) ⇒ (b). Sea E un subconjunto de primera categoría en X. Por (d) tenemos que X r E es denso en X y
gracias a (1.6.1), se concluye que int(E ) =∅.