핵의 정의와 기본 성질
선형변환에서 가장 중요한 개념 중 하나가 핵(kernel)이다. 핵은 “선형변환을 통해 영벡터(0으로 가는 벡터)만 모이는 원소들의 집합”으로 정의되며, 연립방정식 해 공간이나 선형독립·차원 분석에서 핵의 구조가 큰 역할을 한다.
정의 1. (핵, Kernel)
벡터공간 \(V\)에서 벡터공간 \(W\)로 가는 선형변환 \(T: V \to W\)가 주어졌다고 하자. 이때, 핵(kernel) 혹은 영공간(null space)이라 불리는 집합 \(\mathrm{Ker}(T)\)는 다음과 같이 정의한다.
\[ \mathrm{Ker}(T) = \{\mathbf{x} \in V \mid T(\mathbf{x}) = \mathbf{0}\}. \]
즉, \(V\)의 원소 중에서 \(T\)를 적용했을 때 영벡터가 되는 모든 벡터들의 집합이다.
핵은 “\(\mathbf{x}\)를 어떤 변환 \(T\)에 넣었더니 결과가 0이 되었다”라는 점에 착안해, 다양한 관점에서 해석이 가능하다. 예를 들어, 선형연립방정식 \(A \mathbf{x} = \mathbf{0}\)의 해 공간이 사실상 \(\mathrm{Ker}(A)\)에 해당한다. 따라서 해 공간의 구조, 차원, 기저 등을 논의할 때 핵이 중요한 지표가 된다.
핵이 부분공간이 되는 성질
\(\mathrm{Ker}(T)\)는 단순한 벡터의 모음이 아니라, 실제로는 \(V\)의 부분공간(subspace)을 이룬다. 이를 간단히 보이려면 선형변환의 정의(덧셈, 스칼라배 보존)를 활용하면 된다.
정리 1. (핵이 정의역의 부분공간이 되는 성질)
선형변환 \(T: V \to W\)의 핵 \(\mathrm{Ker}(T)\)는 \(V\)의 부분공간이다. 즉, 다음 세 조건이 모두 충족된다.
- \(\mathrm{Ker}(T)\)는 영벡터 \(\mathbf{0}\)을 포함한다.
- \(\mathrm{Ker}(T)\)는 덧셈에 대해 닫혀 있다.
- \(\mathrm{Ker}(T)\)는 스칼라배에 대해 닫혀 있다.
증명 스케치
- 영벡터 포함: \[ T(\mathbf{0}) = \mathbf{0} \] 이므로 \(\mathbf{0}\in \mathrm{Ker}(T)\).
- 덧셈 닫힘: \(\mathbf{x}, \mathbf{y}\in \mathrm{Ker}(T)\)라면, \[ T(\mathbf{x} + \mathbf{y}) = T(\mathbf{x}) + T(\mathbf{y}) = \mathbf{0} + \mathbf{0} = \mathbf{0}. \] 따라서 \(\mathbf{x}+\mathbf{y}\in \mathrm{Ker}(T)\).
- 스칼라배 닫힘: \(\alpha\in \mathbf{F}\), \(\mathbf{x}\in \mathrm{Ker}(T)\)에 대해, \[ T(\alpha \mathbf{x}) = \alpha\, T(\mathbf{x}) = \alpha\, \mathbf{0} = \mathbf{0}. \] 따라서 \(\alpha \mathbf{x}\in \mathrm{Ker}(T)\).
이로써 핵은 정의역의 부분공간임이다.
핵이 부분공간이라는 사실은, 이후 랭크-널리티 정리(rank-nullity theorem)를 비롯해 “핵의 차원”과 “변환의 계수(rank)” 사이의 관계를 다룰 때 핵심적으로 활용된다.
핵의 성질과 의미
- \(\mathbf{0}\) 이외의 원소가 있느냐, 없느냐 - 만약 \(\mathrm{Ker}(T)\)가 \(\{\mathbf{0}\}\)만을 포함한다면, \(T\)가 “단사(one-to-one)다”라고도 표현할 수 있다. 즉, \(\mathbf{x}\neq \mathbf{0}\)인 벡터가 전부 0으로 가지는 않는다는 뜻이므로, 서로 다른 벡터를 구별해서 변환한다.
- 연립방정식의 해공간 - 행렬 \(A\)에 대응하는 선형변환 \(T(\mathbf{x}) = A\mathbf{x}\)의 경우, \(T(\mathbf{x})=\mathbf{0}\)의 해집합이 곧 \(\mathrm{Ker}(A)\)가 된다. 이 해집합이 영벡터 이외에도 많다면, 방정식 \(A\mathbf{x}=\mathbf{0}\)가 무수히 많은 해를 갖는다는 것을 의미한다.
- “어떤 변환이 영벡터를 만들어내는 차원” - \(\mathrm{Ker}(T)\)의 차원(\(\mathrm{nullity}(T)\))이 크면 클수록, 많은 벡터들이 \(\mathbf{0}\)에 대응된다는 뜻이다. 변환이 일부 방향을 완전히 “압축”해 버리는 것으로 볼 수 있다(예: 투영, 일부 좌표만 취하기 등).
핵의 구조가 복잡할수록, 해당 선형변환은 “중복”을 많이 일으킨다. 반대로 핵이 단지 \(\{\mathbf{0}\}\)만 포함한다면, 변환이 단사(injective)임을 의미하며, 이것은 선형대수학에서 매우 중요한 구분점이 된다. 예를 들어, 차원 정리를 보면 \(\dim(\mathrm{Ker}(T))\)가 \(0\)인 경우와 아닌 경우에 따라 해석이 크게 달라진다.
이처럼 핵(kernel)은 선형변환이 벡터공간을 어떻게 압축·변형·누락시킬 수 있는지를 나타내는 지표이며, 차원 분석·해공간·직교이론 등에서 폭넓게 활용된다. 다음 섹션에서는 핵과 더불어, 선형변환의 이미지를 함께 살펴보고, 이를 통해 rank-nullity theorem 등 주요 정리를 전개하게 될 것이다.
계수(rank)와 차원 관계
앞서 살펴본 핵(\(\mathrm{Ker}(T)\))뿐만 아니라, 선형변환에는 이미지(image) 또는 치역(range)이라 불리는 개념이 또 하나 등장한다. 선형변환이 “어떤 벡터를 어디로 보내느냐”를 분석할 때, 이 이미지의 차원이 계수(rank)를 정의하게 된다. 그리고 이는 핵의 차원(\(\mathrm{nullity}\))과 함께 중요한 차원 관계를 이루게 된다.
선형변환의 상(Image)과 계수(Rank)
- 상(image): 선형변환 \(T: V \to W\)에 대해, \[ \mathrm{Im}(T) = \{\, T(\mathbf{x}) \mid \mathbf{x}\in V \} \] 를 \(T\)의 상 또는 치역이라고 부른다. \(T\)의 치역을 \(\mathrm{Ran}(T)\)라고 나타내기도 한다. 즉 \(T\)의 상은 \(T\)에 의하여 정의역으로부터 “도달 가능한 벡터”들의 집합이다.
- 계수(rank): \(\mathrm{Im}(T)\)는 \(W\)의 부분공간이 된다(선형성에 의해). 이 부분공간의 차원을 \(T\)의 랭크라고 부르고 \(\mathrm{rank}(T)\)라고 나타낸다. \[ \mathrm{rank}(T) = \dim \bigl(\mathrm{Im}(T)\bigr). \]
직관적으로, \(\mathrm{rank}(T)\)가 크다는 것은 “변환을 통해 다양한 방향으로 벡터들을 보낼 수 있다”는 의미이고, 반대로 \(\mathrm{rank}(T)\)가 작으면 많은 벡터들이 “겹치는 결과”를 내어, 결국 변환의 이미지가 작은 부분공간에 국한된다고 해석할 수 있다.
핵(Kernel)의 차원(nullity)와의 결합
선형변환 \(T: V \to W\)가 유한 차원 벡터공간 \(V\)에서 정의되어 있다면, 핵과 이미지의 차원 사이에 놀라운 관계가 성립한다. 이를 랭크-널리티 정리(rank-nullity theorem)이라고 부른다.
정리 2. (랭크-널리티 정리, Rank-Nullity Theorem)
벡터공간 \(V\)의 차원을 \(\dim(V)\)이라 하고, 선형변환 \(T: V \to W\)가 주어졌을 때, 다음이 성립한다. \[ \dim(V) = \mathrm{rank}(T) + \mathrm{nullity}(T). \]
증명
선형변환 \(T: V \to W\)에 대하여, 랭크(rank)는 \(\mathrm{Im}(T)\)의 차원(= 선형변환의 상 공간의 차원)이고, 널리티(nullity)는 \(\mathrm{Ker}(T)\)의 차원(= 선형변환의 핵 공간의 차원)을 말한다. 이 정리는 다음 순서로 증명할 수 있다.
- 핵의 기저 선택 \(\mathrm{Ker}(T)\)가 자명하지 않을 수 있으므로, 먼저 핵(커널)에서 기저를 잡는다. 즉, \[ \{\mathbf{k}_1,\dots,\mathbf{k}_r\} \quad (\text{where } r = \dim(\mathrm{Ker}(T))) \] 가 \(\mathrm{Ker}(T)\)의 기저라고 하자.
- 핵 기저를 확장하여, \(V\)의 기저 형성 핵의 기저가 \(\mathbf{k}_1,\dots,\mathbf{k}_r\)만으로 \(V\) 전체를 생성하지 못할 수 있으므로, 필요한 만큼 벡터를 추가하여 \(V\)의 기저를 만든다. 즉, \[ \{\mathbf{k}_1,\dots,\mathbf{k}_r,\, \mathbf{v}_1,\dots,\mathbf{v}_s\} \] 가 \(V\)의 한 기저가 되도록 확장한다. 따라서 \[ \dim(V) = r + s. \] 여기서 \(r = \dim(\mathrm{Ker}(T))\)이고, \(s\)는 확장된 벡터들의 수이다.
- 확장 벡터의 이미지를 살펴보기 이제 핵에 속하지 않는 기저 벡터들 \(\mathbf{v}_1,\dots,\mathbf{v}_s\)에 대해, \(T(\mathbf{v}_i)\neq \mathbf{0}\)를 만족한다 (그렇지 않다면 해당 벡터는 사실 핵에 포함되어야 하므로). 이때, \(\{T(\mathbf{v}_1),\dots,T(\mathbf{v}_s)\}\)는 \(\mathrm{Im}(T)\) 안에서 서로 선형독립임을 보일 수 있다. 왜냐하면, \[ \alpha_1 T(\mathbf{v}_1) + \cdots + \alpha_s T(\mathbf{v}_s) = \mathbf{0} \] 이라는 관계가 성립한다고 하면, 선형성에 따라 \[ T(\alpha_1 \mathbf{v}_1 + \cdots + \alpha_s \mathbf{v}_s) = \mathbf{0} \quad\Longrightarrow\quad \alpha_1 \mathbf{v}_1 + \cdots + \alpha_s \mathbf{v}_s \;\in\; \mathrm{Ker}(T). \] 그런데 \(\mathbf{v}_i\)들은 \(\mathrm{Ker}(T)\)의 기저에 속하지 않으므로, 이들은 핵 내에서 선형독립하다. 따라서 모든 \(\alpha_i = 0\) 이어야 한다. 결과적으로 \(\{T(\mathbf{v}_1),\dots,T(\mathbf{v}_s)\}\)가 \(\mathrm{Im}(T)\)에서 선형독립이라는 뜻이 된다.
- \(\mathrm{Im}(T)\)을 생성하는 벡터 집합 게다가, 임의의 \(\mathbf{x}\in V\)에 대해, \(\mathbf{x}\)를 기저로 표현하고 선형성에 의해 \(T(\mathbf{x})\)가 \(\mathrm{Im}(T)\)에서 생성된다. 결국 \(\mathrm{Im}(T)\)가 \(\{T(\mathbf{v}_1), \dots, T(\mathbf{v}_s)\}\)의 스팬(span)이므로, \(\mathrm{Im}(T)\)의 기저로 삼을 수 있다. 즉, \[ \mathrm{rank}(T) = \dim(\mathrm{Im}(T)) = s. \] (앞서 \(\mathbf{k}_i\) 부분은 전부 핵으로 매핑되므로, 상 공간을 구성하지 못한다)
- 최종 결론 \(\dim(V) = \mathrm{rank}(T) + \mathrm{nullity}(T)\) 위에서 \(r = \dim(\mathrm{Ker}(T))\)이고, \(s = \dim(\mathrm{Im}(T))\)라 했으며, 전체 기저의 크기가 \(r+s\)였다. 따라서 \[ \dim(V) = r + s = \mathrm{nullity}(T) + \mathrm{rank}(T). \] 이로써 랭크-널리티 정리가 증명된다.
이 정리는 선형대수학에서 매우 중요한 위치를 차지한다. 한 변환이 한편으로는 얼마나 많은 중복(핵)을 발생시키고, 다른 한편으로는 얼마나 큰 범위(이미지)를 갖는지 사이의 균형 관계를 정확히 표현하기 때문이다.
핵과 이미지, 차원 관계의 해석
- 핵(nullity)의 차원이 0일 때 - \(\mathrm{Ker}(T)\)가 \(\{\mathbf{0}\}\)뿐이라면, 변환 \(T\)는 단사(injective)이다. - 이 경우 \(\mathrm{rank}(T) = \dim(V)\), 즉 “모든 방향”을 손실 없이 보낸다는 의미다.
- 계수(rank)가 \(\dim(V)\) 미만일 때 - 즉, \(\mathrm{rank}(T) < \dim(V)\). 그러면 \(\mathrm{nullity}(T) > 0\). - 이는 \(\mathrm{Ker}(T)\)가 0벡터 이외에 다른 원소도 포함한다는 뜻이고, 그만큼 ‘축소·압축·누락’이 발생한다.
- 행렬과의 관계 - 행렬 \(A\)가 \(n\)개의 열을 갖는 선형변환이라고 보면, \(\mathrm{rank}(A)\)와 \(\mathrm{nullity}(A)\) 합이 \(n\)이 되는 사실도 같은 정리의 표현이다. - 해석적으로, “\(\mathrm{rank}(A)\)만큼은 종속되지 않은(독립적인) 열이 있고, 그 외 \(\mathrm{nullity}(A)\)만큼 자유변수가 존재한다”라는 연립방정식 해법과 직결된다.
따라서 계수(rank)는 이미지가 갖는 차원, 핵(nullity)은 얼마나 많은 벡터가 \(\mathbf{0}\)으로 뭉치는지의 차원이며, 둘의 합이 \(V\) 전체의 차원과 같다는 점이 선형변환의 구조를 이해하는 핵심 열쇠가 된다.
이러한 개념들은 연립방정식 해 공간, 기하학적 해석(투영, 압축, 회전 등), 차원 분석 등에 두루 쓰이며, 선형대수학을 체계적으로 정리하는 데 필수적인 부분을 차지한다.
