Hilbert Space

Stein의 Measure Theory를 정리한 내용입니다.

우선 Hilbert Space를 정의하기에 앞서 $ L^2 ( \mathbb{R}^d )$에 대해 복습을 하겠습니다. $L^2(\mathbb{R}^d)$에서의 norm은 다음과 같이 정의됩니다:

$$||f||_{L^2(\mathbb{R}^d)} = \left( \int_{\mathbb{R}^d} |f(x)|^2  \right)^{1/2}.$$

또한, inner product를 다음과 같이 정의합니다:

$$(f,g)=\int_{\mathbb{R}^d} f(x)\overline{g(x)}dx$$

이제 $L^2(\mathbb{R}^d)$의 몇가지 성질들에 대해 알아보겠습니다:

Proposition 1.1 The space $L^2(\mathbb{R}^d)$는 다음과 같은 성질들을 가집니다:
(i) $L^2(\mathbb{R}^d)$는 vector space입니다.
(ii) $f,g\in L^2(\mathbb{R}^d)$이면 $f(x)\overline{g(x)}$는 integrable 합니다. 또한 Cauchy-Schwarz가 성립합니다: $(f,g)\leq ||f|| ||g|||$.
(iii) $g\in L^2(\mathbb{R}^d)$에 대해 $f\mapsto (f,g)$는 linear 합니다. 또한, $(f,g)=\overline{(g,f)}$입니다.
(iv) Triangle inequaltiy가 성립합니다 : $||f+g||\leq ||f||+||g||$.

 

 

Theorem 1.2 The space $ L^2 ( \mathbb{R}^d )$ is complete.

Proof of sketch

우선 Cauchy Sequence $\{f_k\}_{k\in\mathbb{N}}$을 생각합니다. 그러면 Cauchy Sequence의 정의에 따라 다음을 만족하는 subsequnece $\{ f_{n_k} \}$가 존재합니다 "
$$||f_{n_k}-f_{n_{k+1}}||\leq 2^{-k}.$$
이제 다음 급수의 합을 정의합니다:
$$f(x) := f_{n_1}(x) + \sum^{\infty}_{k=1} ( f_{n_{k+1} } (x) - f_{n_k} (x) ).$$
또한 dominated convergence theorem을 마지막에 사용할 것이므로 다음과 같은 $g$를 정의합니다:
$$g(x)= |f_{n_1}(x)|+\sum^{\infty}_{k=1} |f_{n_{k+1}}(x)-f_{n_k}(x) | .$$
이제 부분합을 생각해보도록 하겠습니다.
$$S_K(g)= |f_{n_1}(x)|+\sum^{K}_{k=1} | f_{n_{k+1} } (x) - f_{n_k} (x) |$$
으로 정의한다면, MCT에 의해 $S_k(g)\nearrow g$이고 $g\in L^2(\mathbb{R}^d)$라는 것을 쉽게 확인할 수 있습니다. 또한 $|f| \leq g$이므로 $f\in L^2(\mathbb{R}^d)$입니다.

이제 다음 부분합을 생각해보겠습니다:
$$S_K(f)=f_{n_1}(x)+\sum^K_{k=1} f_{n_{k+1}}(x)-f_{n_k}(x).$$
따사러 $f_{n_k}\to f$ almost everywhere라는것을 알 수 있습니다. 마찬가지로 dominated convergence theorem에 의해 $L^2(\mathbb{R}^d)$ sense에서 수렴한다는 것 역시 알 수 있습니다. 따라서 
$$||f_n-f|| \leq || f_n -f_{n_k}||+||f_{n_k}-f||\leq \epsilon$$
이 성립하므로 Cauchy sequence는 수렴합니다. 따라서 $L^2(\mathbb{R}^d)$는 complete합니다.

 

 

이제 $L^2(\mathbb{R}^d)$가 separable하다는 것을 보이겠습니다. 해당 증명에서는 step function ( rectangle의 characteristic function들의 합)이 이용된다:

Theorem 1.3 The space $L^2(\mathbb{R}^d)$ is separable in the sense that there exists a countable collection $\{f_k\}$ of elements in $L^2(\mathbb{R}^d)$ such that linear combinationss are dense in $L^2(\mathbb{R}^d)$.

Proof
Rectangle, $r \chi_R(x)$들의 집합을 생각해보자. 이러한 rectangle들의 finite linear combination이 $L^2(\mathbb{R}^d)$에서 dense하다는 것을 보일 수 있다.
이제 다음과 같은 함수를 생각한다: 
$$g_n(x)=f(x) \quad \text{if}\; |f(x)| \leq n, \quad 0 \; \text{if else}$$
그러면 $g_n\to f$임을 알 수 있고, dominated convergence theorem에 의해 다음을 만족하는 $N(\epsilon)$이 존재한다:
$$||f-g_N||_2 \leq \epsilon^2/4$$
또한 $\int|g-\varphi|<\epsilon^2$인 step function $\varphi$를 찾을 수 있습니다.

 

 

 

---

이제 Hilbert Space에 대해 알아보도록 하겠습니다.

Hilbert Space

우선, Hilbert Space, $\mathcal{H}$의 definiton은 다음과 같습니다.

(i) $\mathcal{H}$는 vector space 입니다.
(ii) $\mathcal{H}$에 inner product가 정의됩니다:
    (ii-a) $f\to (f,g)$는 $f$에 대해 선형입니다.
    (ii-b) $(f,g)=\overline{(g,f)}$
    (ii-c) $(f,f)\geq 0$ 
(iii) $||f||=0$ iff $f=0$
(iv) Cauchy-Schwarz와 triangle inequalitie가 성립합니다.
$$ (f,g) \leq ||f|| ||g || \quad ||f+g || \leq ||f|| + ||g||$$
(v) $\mathcal{H}$는 complete in the metric $ ||f-g||$입니다.
(vi) $\mathcal{H}$는 separable합니다.

 

 

---

Example 2. A simple example is the finite-dimensional complex Euclidean space : 
$$\mathbb{C}^N:= \{  (a_1,\cdots, a_N) : a_k \in \mathbb{C} \}$$

 

Orthogonality

$f,g\in\mathcal{H}$에 대해 orthogonal 혹은 perpendicular하다는 것을 다음과 같이 정의합니다:

$$(f,g)=0$$

Hilbert space의 Pythagoreon이 성립하는 것을 알 수 있습니다:

Proposition 2.1 If $f\perp g$, then $||f+g||^2=||f||^2+||g||^2$이다.

 

Hilbert space의 subset $\{e_1,e_2,\dots\}$에 대해, $(e_i,e_i)=1$ 이고 $(e_i,e_j)=0$이면 orthonormal하다고 정의합니다.

$\mathcal{H}$의 orthonormal subset $ \{ e_1,e_2,\dots \}$의 finite linear combination이 dense in $\mathcal{H}$라면, 이를 orthnormal basis ( $\mathcal{H}$를 span)라고 합니다.

Proposition 2.2

If $\{ e_k \}_{k=1}^{\infty}$ is orthonormal and $f=\sum a_k e_k \in \mathcal{H}$ where the sum is finite, then 

$$||f||^2 = \sum |a_k|^2 . $$

 

우선, $\{ e_k\}$가 $\mathcal{H}$의 orthnormal basis가 되는 동치 조건들과 관련된 Theorem을 소개합니다.

Theorem 2.3 

The following properties of an orthonormal set $\{ e_k \}^{\infty}_{k=1}$ are equivalent.

(i) Finite linear combinations of elements in $\{ e_k \}$ are dense in $ \mathcal{H}$.

(ii) If $ f\in \mathcal{H}$ and $ (f,e_j) =0$ for all $j$, then $f=0$.

(iv) If $a_k = ( f, e_k)$ , then $ ||f||^2 = \sum^{\infty}_{k=1} |a_k|^2$

 

Proof

먼저 (i)를 가정하고 (ii)를 보인다. $e_k$의 linear combination이 dense하기 때문에, $||f-g_n||\to0$인 $g_n$이 존재하고 (ii)의 조건에 의해 $(g_n,f)=0$이므로 

$$(f,f)=(f,f-g_n)\leq  ||f|| || f-g_n|| \to 0.$$

이제 (ii)를 가정하고 (iii)을 보이겠다. $f\in\mathcal{H}$ 그리고 $S_N(f)=\sum^N_{k=1} a_k e_k $ where $a_k=(f,e_k)$ 그러면 $S_N(f)\to f$ as $N\to\infty$ 이다. $a_k$의 정의에 따라 $f-S_N(f) \perp S_N(f)$ 이다. 따라서

$$||f||^2 = ||f-S_N(f)||^2+||S_N(f)||^2 = ||f-S_N(f)||^2+\sum^N_{j=1} |a_j|^2.$$

따라서 $\{ S_N(f) \}_{N=1}^{\infty}$는 Cauchy Sequence이고 $\mathcal{H}$는 complete하므로 $S_N\to g$인 $g$가 존재합니다. 이 때 다음을 알 수 있다:

$$(f-g,e_j)=0,\quad \forall j \in \mathbb{N}.$$

따라서 (ii)에 의해 $f=g$이다.

Theorem 2.4 Any Hilbert space has an orthonormal basis.