유한차원 힐베르트공간에서 선형연산자 \(T\)의 스펙트럼 \(\sigma (T)\)는 중복도가 유한인 유한 개의 고윳값으로 이루어져 있다. 무한차원 힐베르트공간에서 정의된 선형연산자의 스펙트럼은 그 형태가 매우 다를 수 있다. 그러나 컴팩트연산자의 스펙트럼은 유한차원에서 정의된 선형연산자와 스펙트럼과 유사한 성질을 가진다. 즉 무한차원 힐베르트공간에서 정의된 컴팩트연산자 \(T\)의 스펙트럼 \(\sigma (T)\)는 중복도가 유한인 가산 개의 \(0\)이 아닌 고윳값과, 고윳값이 아닐 수도 있고 중복도가 유한이 아닐 수도 있는 점 \(0\)으로 구성된다.
이 글에서 별다른 언급이 없으면, \(H\)는 복소힐베르트공간을 나타내고 \(T\)는 \(K(H)\)의 원소인 것으로 약속한다.
정의 1. (점 스펙트럼과 레졸벤트 집합)
\(K\)가 힐베르트 공간이고 \(S \in B(K)\)라고 하자. 다음과 같은 집합을 정의하자. \[\begin{aligned} \sigma_p(S) &= \{\lambda \,\vert\, \lambda \text{ is an eigenvalue of } S.\},\\[6pt] \rho(S) &= \mathbb{C} \setminus \sigma(S). \end{aligned}\] 이때 집합 \(\sigma_p(S)\)를 \(S\)의 점 스펙트럼(point spectrum)이라고 부르고, \(\rho(S)\)를 \(S\)의 레졸벤트 집합(resolvent set)이라고 부른다.
\(T\)가 선형연산자일 때 \(\lambda = 0\)과 \(T\)의 스펙트럼의 관계를 살펴보자.
정리 2. (스펙트럼과 0)
\(H\)가 무한차원이면 \(0 \in \sigma(T)\)이다. \(H\)가 가분이면 \(0 \in \sigma_p(T)\) 또는 \(0 \in \sigma(T) \setminus \sigma_p(T)\)가 모두 가능하다. \(H\)가 가분이 아니면 \(0 \in \sigma_p(T)\)이다.
증명
\(0 \in \rho(T)\)라면, \(T\)는 가역이 된다. 그러나 \(H\)가 무한차원이므로 이는 모순이다. 따라서 \(0 \in \sigma(T)\)임을 알 수 있다.
\(H\)가 가분이 아닌 경우를 살펴보자. \(H\)가 가분이 아니므로 \(\overline{\operatorname{Im} T} \ne H\)이며, \(\operatorname{Ker} T \neq \overline{\operatorname{Im} T}^\perp \neq \left\{ 0 \right\}\)이다. 그러므로 \(e\neq 0\)이 존재하여 \(Te =0\)이다. 즉 \(e\)는 \(T\)의 고유벡터이며, 이 벡터에 대응되는 고윳값은 \(0\)이다.
한편 \(B(\ell ^2 )\)의 두 원소 \(S,\) \(T\)를 \[\begin{aligned} Sx &= \left( 0 ,\, \frac{x_1}{1} ,\, \frac{x_2}{2} ,\, \frac{x_3}{3} ,\, \ldots \right) ,\\[6pt] Tx &= \left( \frac{x_2}{1} ,\, \frac{x_3}{2} ,\, \frac{x_4}{3} ,\, \ldots \right) \end{aligned}\] 이라고 정의하면, \(\sigma (S) = \left\{ 0 \right\} ,\) \(\sigma_p (S) = \varnothing \)이고 \(\sigma (T) = \sigma_p (T) = \left\{ 0 \right\}\)이다. (특히 \(\operatorname{Im }S\)는 \(\ell^2\)에서 조밀하지 않지만, \(\operatorname{Im} T\)는 \(\ell^2\)에서 조밀하다.)
다음으로 몇 개의 정리를 통해 \(\lambda \neq 0\)인 경우를 살펴보자.
정리 3. (고유공간의 차원)
\(\lambda \neq 0\)이면 \(\operatorname{Ker}(T - \lambda I)\)는 유한차원을 가진다.
증명
\(M = \operatorname{Ker}(T - \lambda I)\)의 차원이 무한이라고 가정하자. 연속인 연산자의 핵은 닫힌 집합이므로, 공간 \(M\)은 무한차원 힐베르트공간이고, \(M\)에는 정규직교수열 \(\{e_n\}\)이 존재한다. \(e_n \in \operatorname{Ker}(T - \lambda I)\)이므로 각 \(n \in \mathbb{N}\)에 대해 \(Te_n = \lambda e_n\)이다. \(\lambda \neq 0\)이므로 수열 \(\{\lambda e_n\}\)은 수렴하는 부분수열을 가질 수 없다. 왜냐하면 \(\{e_n\}\)이 정규직교이기 때문이다. 이것은 \(T\)가 컴팩트연산자라는 사실에 모순이다.
정리 4. (비영 스펙트럼 값에 대한 닫힌치역)
\(\lambda \neq 0\)이면 \(\operatorname{Im}(T - \lambda I)\)는 닫혀 있다.
증명
\(\{y_n\}\)이 \(\operatorname{Im}(T - \lambda I)\)에서의 수열이고 \[\lim_{n \to \infty} y_n = y\] 라고 가정하자. 그러면 각 \(n\)에 대해 \(y_n = (T - \lambda I)x_n\)인 \(x_n\)이 존재한다. 핵 \(\operatorname{Ker}(T - \lambda I)\)가 닫힌집합이므로, \(x_n\)은 \(x_n = u_n + v_n\) 형태의 직교분해를 가진다. 여기서 \(u_n \in \operatorname{Ker}(T - \lambda I)\)이고 \(v_n \in \operatorname{Ker}(T - \lambda I)^{\perp}\)이다.
수열 \(\{v_n\}\)이 유계임을 보이자. \(\{v_n\}\)이 유계가 아니라고 가정하자. (필요하다면 부분수열을 취함으로써) 모든 \(n\)에 대해 \(v_n \neq 0\)이고 \(\lim_{n\to\infty} \|v_n\| = \infty\)라고 가정하여도 일반성을 잃지 않는다. \(w_n = v_n / \|v_n\|\)이라고 두면, \(n = 1, \,2,\, \ldots\)에 대하여 \(w_n \in \operatorname{Ker}(T - \lambda I)^{\perp}\)이고 \(\|w_n\| = 1\)이며 \((T - \lambda I)w_n = y_n / \|v_n\| \to 0\)이다. 왜냐하면 \(\{y_n\}\)이 유계이기 때문이다. 또한, \(T\)가 컴팩트연산자이므로 \(\{Tw_n\}\)이 수렴한다고 가정할 수 있다. (필요하다면 부분수열을 취함으로써 그와 같은 가정을 할 수 있다.) 이러한 결과를 결합하면 수열 \(\{w_n\}\)이 수렴함을 알 수 있다. (\(\lambda \neq 0\)이기 때문이다.) \(w = \lim_{n\to\infty} w_n\)이라 하면 \(\|w\| = 1\)이고 \[(T - \lambda I)w = \lim_{n\to\infty} (T - \lambda I)w_n = 0\] 이다. 따라서 \(w \in \operatorname{Ker}(T - \lambda I)\)이다. 그러나 \(w_n \in \operatorname{Ker}(T - \lambda I)^{\perp}\)이므로 \[\|w - w_n\|^2 = \langle w - w_n,\,w - w_n \rangle = 1 + 1 = 2\] 이다. 이것은 \(w_n \to w\)라는 사실에 모순이다. 따라서 수열 \(\{v_n\}\)은 유계이다.
\(T\)가 컴팩트성연산자이므로 \(\{Tv_n\}\)이 수렴한다고 가정할 수 있다. 그러면 \(n\in\mathbb{N}\)에 대하여 \[v_n = \lambda^{-1}(Tv_n - (T - \lambda I)v_n) = \lambda^{-1}(Tv_n - y_n)\] 이며, 수열 \(\{v_n\}\)은 수렴한다. 그 극한을 \(v\)라 하자. 그러면 \[y = \lim_{n\to\infty} y_n = \lim_{n\to\infty} (T - \lambda I)v_n = (T - \lambda I)v\] 이고, \(y \in \operatorname{Im}(T - \lambda I)\)이다. 그러므로 \(\operatorname{Im}(T - \lambda I)\)는 닫힌집합이다.
\(T^*\) 또한 컴팩트연산자이므로, 정리 3과 4는 \(T^*\)에도 적용된다. 특히 \(\lambda \neq 0\)일 때 \(\operatorname{Im}(T^* - \overline{\lambda}I)\)는 닫혀 있다. 따라서 다음과 같은 결과를 얻는다.
따름정리 5. (핵과 치역 사이의 관계)
\(\lambda \neq 0\)이면 다음이 성립한다. \[\begin{gathered} \operatorname{Im}(T - \lambda I) = \operatorname{Ker}(T^* - \overline{\lambda}I)^{\perp},\\[6pt] \operatorname{Im}(T^* - \overline{\lambda}I) = \operatorname{Ker}(T - \lambda I)^{\perp}. \end{gathered}\]
이제 \(\sigma(T)\)와 \(\sigma(T^*)\)에서 \(0\)이 아닌 부분의 구조를 논할 수 있다. 다음 결과들은 \(T^*\)에도 마찬가지로 적용된다.
정리 6. (\(0\)이 아닌 고윳값의 분포)
임의의 실수 \(t > 0\)에 대하여, \(|\lambda| \geq t\)인 \(T\)의 서로 다른 고윳값 \(\lambda\)의 집합은 유한집합이다.
증명
결론을 부정하여, 어떤 \(t_0 > 0\)이 존재하여 \(|\lambda_n| \geq t_0\)인 서로 다른 고윳값의 수열 \(\{\lambda_n\}\)이 존재한다고 가정하자. 그리고 이 고윳값들에 대응되는 고유벡터의 수열을 \(\{e_n\}\)이라고 하자. 이제 특별한 단위벡터수열 \(\{y_n\}\)을 귀납적으로 구성하자. \(y_1 = e_1\)이라 하자. 다음으로 정수 \(k \geq 1\)이 주어졌다고 하고, \(y_1 ,\) \(y_2 ,\) \(\ldots ,\) \(y_k\)가 정의되어 있다고 하자. 집합 \(\{e_1,\) \(e_2 ,\) \(\ldots,\) \(e_k\}\)가 일차독립이므로, 집합 \[M_k = \operatorname{Sp} \{e_1,\,\ldots,\,e_k\}\]는 \(k\)-차원인 부분공간이다. 따라서 이 집합은 닫힌 집합이다. \(e \in M_k\)는 \[e = \alpha_1 e_1 + \ldots + \alpha_k e_k\] 형태로 쓸 수 있고, \[(T - \lambda_k I)e = \alpha_1(\lambda_1 - \lambda_k)e_1 + \ldots + \alpha_{k-1}(\lambda_{k-1} - \lambda_k)e_{k-1}\] 이므로, \(e \in M_k\)이면 \((T - \lambda_k I)e \in M_{k-1}\)이다. 마찬가지로 \(e \in M_k\)이면 \(Te \in M_k\)이다.
다음으로 \(M_k\)는 \(M_{k+1}\)의 닫힌 부분공간이고 \(M_{k+1}\)과 같지 않으므로, \(M_{k+1}\)에서 \(M_k\)의 직교여공간은 \(M_{k+1}\)의 비자명 부분벡터공간이다. 따라서 \(M_{k+1}\)에 속하는 단위벡터 \(y_{k+1}\)이 존재하여 모든 \(e \in M_k\)에 대해 \(\langle y_{k+1},\,e \rangle = 0\)이고 \(\|y_{k+1} - e\| \geq 1\)이다. 이 과정을 귀납적으로 반복하여 수열 \(\{y_n\}\)을 구성한다.
수열 \(\{y_n\}\)의 구성 과정에 의하여, 정수 \(m,\) \(n\)에 대해 \(n > m\)이면, \[\|Ty_n - Ty_m\| = |\lambda_n| \|y_n - \lambda_n^{-1}[-(T - \lambda_n)y_n + Ty_m]\| \geq |\lambda_n| \geq t_0\] 이다. 왜냐하면, 앞의 결과에 의해 \(-(T - \lambda_n)y_n + Ty_m \in M_{n-1}\)이기 때문이다. 이것은 수열 \(\{Ty_n\}\)이 수렴하는 부분수열을 가질 수 없음을 보여준다. 이것은 \(T\)가 컴팩트연산자라는 사실에 모순이다.
정리 6에서, \(r = 1,\,2,\, \ldots\)일 때 \(|\lambda| \geq r^{-1}\)인 고윳값 \(\lambda\)의 유한집합의 합집합을 취하면 다음 결과를 얻는다.
따름정리 7. (점 스펙트럼의 가산성)
집합 \(\sigma_p(T)\)는 기껏해야 유한집합이거나 가산무한집합이다. \(\{λ_n\}\)이 \(T\)의 서로 다른 고윳값의 수열이면 \[\lim_{n\to\infty} \lambda_n = 0\]이다.
무한차원 공간에서 고윳값을 갖지 않는 컴팩트연산자 \(T\)가 존재할 수 있다. 그런 경우, 정리 2와 아래의 정리 9에 의해 \(\sigma(T) = \{0\}\)이다.
이제 컴팩트연산자 \(T\)에 대하여 \(\sigma(T)\)의 원소 중 \(0\)이 아닌 것이 모두 고윳값임을 보일 것이다. \(T^*\) 또한 컴팩트연산자이므로 \(\lambda \neq 0\)가 \(T\)의 고윳값이면 \(\overline{\lambda}\)는 \(T^*\)의 고윳값이다. 또한 이러한 고윳값들이 동일하고 유한한 중복도를 가짐을 보일 것이다. 증명은 다음과 같은 두 단계로 진행된다.
- 유한 랭크를 가진 연산자를 고려하고 문제를 유한차원인 경우로 줄인다.
- 일반적인 컴팩트연산자를 고려하고 문제를 유한 랭크인 경우로 줄인다.
보조정리 8. (유한 랭크를 가진 연산자의 성질)
\(T\)가 유한 랭크를 가지고 \(\lambda \neq 0\)이면, 다음 중 하나가 성립한다.
- \(\lambda \in \rho(T)\)이고 \(\overline{\lambda} \in \rho(T^*)\)이다.
- \(\lambda \in \sigma_p(T)\)이고 \(\overline{\lambda} \in \sigma_p(T^*)\)이다.
또한 \(n(T - \lambda I) = n(T^* - \overline{\lambda} I) < \infty\)이다.
증명
\(M = \operatorname{Im} T\)이고 \(N = \operatorname{Ker} T^* = M^{\perp}\)라고 하자. \(M\)은 유한차원이므로 닫혀 있고, 따라서 임의의 \(x \in H\)는 \(x = u + v\) 형태의 직교 분해를 가진다. 여기서 \(u \in M, \) \(v \in N\)이다. 이와 같은 분해를 사용하면, 임의의 \(x \in H\)를 \(M \times N\)의 유일한 원소의 쌍 \((u,\, v)\)와 동일시할 수 있다. 또한, \[(T - \lambda I)(u + v) = Tu - \lambda u + Tv - \lambda v\] 이므로 \[Tu - \lambda u \in M,\,\, Tv \in M,\,\, -\lambda v \in N\] 이며, 연산자 \((T - \lambda I)\)의 작용을 다음과 같이 행렬 형태로 표현할 수 있다. \[(T - \lambda I)\begin{pmatrix} u \\ v \end{pmatrix} = \begin{pmatrix} (T - \lambda I)|_M & T|_N \\ 0 & -\lambda I|_N \end{pmatrix} \begin{pmatrix} u \\ v \end{pmatrix} .\] 여기서 \((T - \lambda I)|_M \in B(M)\)과 \(T|_N \in B(N,\, M)\)과 \(I|_N \in B(N)\)은 연산자 \(T - \lambda I\)와 \(T\)와 \(I\)의 공간 \(M\)과 \(N\)으로의 제한 함수를 나타낸다. 이제 \(A = (T - \lambda I)|_M\)이라 하자. 그러면 \(A\)가 가역이거나(즉 \(n(A) = 0\)), \(n(A) > 0\)이다. 그리고 \(T - \lambda I\)가 가역이거나 \(n(T - \lambda I) = n(A) > 0\)이다. 즉 \(\lambda \in \rho(T)\) 또는 \(\lambda \in \sigma_p(T)\)이다.
\(P_M ,\) \(P_N\)을 \(H\)에서 \(M ,\) \(N\)으로의 직교사영이라고 하자. \(I = P_M + P_N\)과 \(N = \operatorname{Ker} T^*\)를 사용하면, \[(T^* - \overline{\lambda} I)(u + v) = (T^* - \overline{\lambda} I)u - \overline{\lambda} v = P_M(T^* - \overline{\lambda} I)u + P_N T^*u - \overline{\lambda} v\] 이다. 따라서 \(T^* - \overline{\lambda} I\)를 다음과 같이 행렬 형태로 표현할 수 있다. \[(T^* - \overline{\lambda} I)\begin{pmatrix} u \\ v \end{pmatrix} = \begin{pmatrix} P_M(T^* - \overline{\lambda} I)|_M & 0 \\ P_N(T^*)|_M & -\overline{\lambda}I|_N \end{pmatrix} \begin{pmatrix} u \\ v \end{pmatrix} .\] 또한 \(A^* = P_M(T^* - \overline{\lambda} I)|_M \in B(M)\)이다. 따라서 \(n(A^*) = n(A)\)이다. 이제 \(n(A) = 0\)이면 \(T - \lambda I\)와 \(T^* - \overline{\lambda} I\)는 가역이고, \(n(A) > 0\)이면 \[n(T - \lambda I) = n(T^* - \overline{\lambda} I) = n(A) > 0\] 이다. 즉 \(\lambda \in \sigma_p(T)\)이고 \(\overline{\lambda} \in \sigma_p(T^*)\)이다.
이제 보조정리 8의 결과를 일반적인 컴팩트연산자 \(T\)의 스펙트럼으로 확장하자.
정리 9. (컴팩트연산자의 스펙트럼 성질)
\(T\)가 컴팩트연산자이고 \(\lambda \neq 0\)일 때, 다음 중 하나가 성립한다.
- \(\lambda \in \rho(T)\)이고 \(\overline{\lambda} \in \rho(T^*)\)이다.
- \(\lambda \in \sigma_p(T)\)이고 \(\overline{\lambda} \in \sigma_p(T^*)\)이다.
또한 \(n(T - \lambda I) = n(T^* - \overline{\lambda} I) < \infty\)이다.
증명
랭크가 유한인 연산자의 경우를 증명하자. \[\|\lambda^{-1}(T - T_F)\| < \frac{1}{2}\] 이고 유한행크를 가진 \(H\) 위의 연산자 \(T_F\)가 존재한다. 따라서 연산자 \(S = I - \lambda^{-1}(T - T_F)\)와 \(S^*\)는 가역이다. 이제 \(G = T_F S^{-1}\)이라 두면 \[T - \lambda I = (G - \lambda I)S\] 이므로 \[T^* - \overline{\lambda} I = S^*(G^* - \overline{\lambda} I)\] 이다. \(S\)와 \(S^*\)가 가역이므로, \(T - \lambda I\)와 \(T^* - \overline{\lambda} I\)가 가역인 것과 \(G - \lambda I\)와 \(G^* - \overline{\lambda} I\)가 가역인 것은 동치이다. 또한 \[n(T - \lambda I) = n(G - \lambda I)\] 이고 \[n(T^* - \overline{\lambda} I) = n(G^* - \overline{\lambda} I)\] 이다. 이제 \(\operatorname{Im} G \subset \operatorname{Im} T_F\)이므로 연산자 \(G\)의 랭크는 유한이다. 또한 보조정리 8에 의하여 정리의 첫 번째 결과를 얻는다.
이제 다음과 같은 방정식을 살펴보자. \[(T - \lambda I)x = 0, \quad (T^* - \overline{\lambda} I)y = 0 \tag{1}\] 그리고 \[T - \lambda I)x = p, \quad (T^* - \overline{\lambda} I)y = q. \tag{2}\] (1)과 같이 우변이 \(0\)인 방정식을 동차 방정식이라고 부르고, (2)와 같이 우변이 \(0\)이 아닌 방정식을 비동차 방정식이라고 부른다. 정리 9와 따름정리 5를 사용하면 다음과 같은 결과를 얻는다.
정리 10. (프레드홀름 이분법 정리)
\(\lambda \neq 0\)일 때, 다음 두 가지 중 하나가 성립한다.
- 동차방정식 (1)은 각각 해 \(x = 0,\) \(y = 0\)만을 가지며, 대응하는 비동차방정식 (2)는 임의로 주어진 \(p,\) \(q \in H\)에 대해 유일한 해 \(x,\) \(y\)를 가진다.
- 유한한 수 \(m_\lambda > 0\)이 존재하여 동차방정식 (1)이 각각 정확히 \(m_\lambda\)개의 일차독립인 해 \(x_n ,\) \(y_n ,\) \(n = 1,\,\ldots,\,m_\lambda\)를 가지며, 대응하는 비동차방정식 (2)는 \(p,\) \(q \in H\)가 조건 \[\langle p,\,y_n \rangle = 0, \quad \langle q,\,x_n \rangle = 0, \quad n = 1,\ldots,m_\lambda \tag{3}\] 를 만족시킬 때만 해를 가진다.
증명
정리 9에 의하여 결과를 얻는다. (a)는 \(\lambda \in \rho(T)\)인 경우에 해당하고, (b)는 \(\lambda \in \sigma_p(T)\)인 경우에 해당한다. 이 경우 \(m_\lambda = n(T - \lambda I)\)이다. 따름정리 5에 의해 (b)에서의 \(p,\) \(q\)에 대한 조건이 각각 \[p \in \operatorname{Im}(T - \lambda I), \quad q \in \operatorname{Im}(T^* - \overline{\lambda} I)\] 임을 확인할 수 있으므로 방정식 (2)의 해가 존재한다.
위 정리는 프레드홀름이 특정한 적분 방정식을 연구하면서 발견했다. 더 일반적으로, 방정식 (1)과 (2)에서 연산자 \(T-\lambda I\)가 유계선형연산자 \(S\)로 대체되면 \(S\)가 프레드홀름 이분법 정리를 만족시킨다는 것은 대응하는 방정식이 정리 10의 두 경우를 다시 만족시킴을 의미한다. 정리 10에서 (a)이 경우가 가진 중요한 특징은 다음과 같이 다시 서술할 수 있다.
따름정리 11. (유일성과 존재성의 관계)
\(\lambda \neq 0\)이고 방정식 \[(T - \lambda I)x = 0 \tag{4}\] 가 해 \(x = 0\)만을 가진다면 \(T - \lambda I\)는 가역이며, 방정식 \[(T - \lambda I)x = p \tag{5}\] 는 임의의 \(p \in H\)에 대해 유일한 해 \(x = (T - \lambda I)^{-1}p\)를 가진다. 이 해는 \(p\)에 따라 달라질 수 있으며, 대응 \(p\mapsto x\)는 연속함수가 된다.
증명
가정에 의해 \(\lambda\)가 \(T\)의 고윳값이 아니므로, 정리 10의 (a)에 의해 \(\lambda \in \rho(T)\)이며, 따라서 \(T - \lambda I\)는 가역이다.
본질적으로 따름정리 11에 의하면 “방정식 (5)의 해의 유일성이 해의 존재성을 함의한다.” 이는 매우 유용한 결과이다. 많은 경우 주어진 방정식의 해의 유일성을 증명하는 것은 상대적으로 쉽다. 방정식이 (5)의 형태를 가지고 연산자 \(T\)가 컴팩트라는 것을 알면, 해의 존재성을 곧바로 보장할 수 있게 된다.
응용수학의 많은 문제는 어떤 선형연산자 \(R\)과 주어진 함수(또는 “데이터”) \(f\)에 대해 \[Ru = f \tag{6}\] 형태의 방정식을 푸는 것으로 환원된다. 이 방정식이 물리적 상황의 합리적인 모델이 되기 위해서는 특정 속성을 가져야 한다. 아다마르는 다음과 같은 정의를 제안했다.
정의 12. (합리적인 모델)
방정식 (6)이나 또는 대응하는 물리적 모델이 합리적이다(well-posed)는 것은 다음을 모두 만족시키는 것을 의미한다.
- 임의의 \(f\)에 대하여 해 \(u\)가 존재한다.
- 각 \(f\)에 대하여 해 \(u\)가 유일하다.
- 해 \(u\)는 적절한 의미에서 \(f\)에 연속적으로 종속된다.
속성 (a)와 (b)에 대한 동기는 꽤 명확하다. 해가 존재하지 않거나 여러 해가 있다면, 그러한 모델은 그리 유용하지 않을 것이다. 세 번째 속성의 동기는 물리적 상황에서 데이터 \(f\)가 정확히 알려지지 않는다는 사실에 기반한다. 따라서 데이터의 작은 변화가 예측된 해에 큰 변화를 일으키지 않는 것이 바람직하다. 그러나 정의 12의 세 속성은 수학적으로 다소 모호하다. 예를 들어, “모든 \(f\)에 대해”가 무엇을 의미하며, “적절한 의미”는 어떤 의미인지 모호하다. 이러한 속성들은 일반적으로 적절한 노름공간이나 바나흐공간 \(X,\) \(Y\)와 적절한 연산자 \(R \in B(X, \,Y)\)를 선택하여 문제를 표현함으로써 더 명확해진다. 공간 \(Y\)는 일반적으로 모델링되는 데이터의 바람직한 특성을 통합하고, \(X\)는 구해야 할 해에 대응하는 바람직한 특성을 명확하게 해준다. 이러한 설정에서 방정식 (6)이 합리적이라는 것은 연산자 \(R\)이 가역이라는 것과 동등하다. 이는 종종 따름정리 11을 사용하여 증명된다.
이제 정리 10에서 (b)가 성립하는 경우에 방정식 (5)의 해의 집합과 이러한 해가 \(p\)에 종속되는 성질을 더 깊이 살펴보자.
정리 13. (컴팩트연산자 방정식의 해 구조)
\(\lambda \neq 0\)가 \(T\)의 고윳값이라고 가정하자. \(p \in \operatorname{Im}(T - \lambda I)\)이면 방정식 (5)는 \(\operatorname{Ker}(T - \lambda I)^\perp\)에 유일한 해 \(S_\lambda(p)\)를 가진다. 함수 \[S_\lambda: \operatorname{Im}(T - \lambda I) \to \operatorname{Ker}(T - \lambda I)^\perp\] 는 선형이고 유계이며 (5)의 해의 집합은 \[S_\lambda p + \operatorname{Ker}(T - \lambda I) \tag{7}\] 의 형태를 가진다.
증명
\(p \in \operatorname{Im}(T - \lambda I)\)이므로 (5)의 해 \(x_0\)이 존재한다. \(P\)를 \(H\)에서 \(\operatorname{Ker}(T - \lambda I)^\perp\)로의 직교사영이라 하고, \(u_0 = Px_0\)라 하자. 그러면 \(x_0 - u_0 \in \operatorname{Ker}(T - \lambda I)\)이므로 \((T - \lambda I)u_0 = (T - \lambda I)x_0 = p\)이다. 따라서 \(u_0\) 또한 (5)의 해이며, \(u_0 + z\) 형태의 모든 벡터는 \(z \in \operatorname{Ker}(T - \lambda I)\)에 대해 (5)의 해이다.
한편, \(x\)가 (5)의 해이면 \((T - \lambda I)(u_0 - x) = p - p = 0\)이므로 \(u_0 - x \in \operatorname{Ker}(T - \lambda I)\)이고, 따라서 \(x\)는 형태 \(x = u_0 + z\), \(z \in \operatorname{Ker}(T - \lambda I)\)를 가진다. 그러므로 (5)의 해의 집합은 (7)의 형태를 가진다.
\(u_0 \in \operatorname{Ker}(T - \lambda I)^\perp\)은 \(p\)에 의해 유일하게 결정되므로 함수 \[S_\lambda: \operatorname{Im}(T - \lambda I) \to \operatorname{Ker}(T - \lambda I)^\perp\]를 \[S_\lambda(p) = u_0,\quad p \in \operatorname{Im}(T - \lambda I)\] 로 정의할 수 있다. 유일성을 사용하면 함수 \(S_\lambda\)가 선형임을 보일 수 있다.
마지막으로 \(S_\lambda\)가 유계가 아니라고 가정하자. 그러면 모든 \(n \in \mathbb{N}\)에 대해 \(\|S_\lambda p_n\| \neq 0\)이고 \[\lim_{n\to\infty} \|S_\lambda p_n\| = \infty\]인 단위벡터의 수열 \(\{p_n\}\)이 존재한다. \[w_n = \|S_\lambda p_n\|^{-1} S_\lambda p_n\]이라고 두면, \[w_n \in \operatorname{Ker}(T - \lambda I)^\perp , \quad \|w_n\| = 1\]이고, \(n\rightarrow\infty\)일 때 \[(T - \lambda I)w_n = \|S_\lambda p_n\|^{-1} p_n \to 0\]이 성립한다. 정리 4의 증명 과정과 같은 논증의 결과로서 이러한 속성이 모순을 유도함을 보일 수 있다.
정리 13은 해 \(S_\lambda p\)가 어떤 상수 \(C > 0\)에 대해 \(\|S_\lambda p\| \leq C\|p\|\)를 만족시킴을 보여준다. 그러나 이러한 부등식은 (5)의 모든 해 \(x\)에 대해 성립할 수는 없다. 왜냐하면 임의로 큰 \(\|z\|\)를 가진 \(z \in \operatorname{Ker}(T - \lambda I)\)에 대해 형태 \(S_\lambda p + z\)인 해 \(x\)가 존재하기 때문이다.