역행렬의 정의
역행렬(inverse matrix)은 행렬 연산에서 매우 중요한 역할을 하며, 주어진 행렬이 가역적(invertible)인지 판별하는 핵심 도구이다. 특히, \(n \times n\) 정사각행렬 \(A\)에 대해, 만약 \(A\)와 같은 크기의 행렬 \(A^{-1}\)가 존재하여
\[ AA^{-1} = A^{-1}A = I \]
를 만족시킨다면, \(A\)는 가역행렬(역행렬이 존재하는 행렬)이라 하며, \(A^{-1}\)를 \(A\)의 역행렬이라고 한다. 역행렬은 유일하게 존재하며, 존재하기 위한 필요충분조건은 행렬 \(A\)가 정사각행렬이며, 그 행렬식(\(\det A\))이 0이 아님을 의미한다.
정의 1. (역행렬)
\(A\)가 \(n \times n\) 정사각행렬일 때, 만약 \(A^{-1}\)가 존재하여 \[ AA^{-1} = A^{-1}A = I_n \] 을 만족하면, \(A\)를 가역행렬이라 하며, \(A^{-1}\)를 \(A\)의 역행렬이라 한다. 여기서 \(I_n\)은 \(n \times n\) 항등행렬이다.
정사각행렬 \(A\)가 가역일 때, \(A\)의 역행렬은 여인수 행렬(adjugate matrix)을 이용하여 다음과 같이 구할 수 있다. 이 공식은 행렬의 각 원소에 대한 코팩터(cofactor)를 계산한 후, 이들 코팩터를 전치하여 여인수 행렬을 만들고, 행렬식으로 나누는 방식이다.
정의 2. (코팩터와 여인수 행렬)
행렬 \(A = (a_{ij})\)의 각 원소 \(a_{ij}\)에 대해, \(A_{ij}\)는 \(A\)에서 \(i\)번째 행과 \(j\)번째 열을 제거하여 얻는 소행렬이며, 그 행렬식을 \(M_{ij}\)라 한다. 이에 따른 코팩터 \(C_{ij}\)는 다음과 같이 정의된다.
\[ C_{ij} = (-1)^{i+j} M_{ij}. \]
여인수 행렬 \(\operatorname{adj}(A)\)는 다음과 같이 코팩터 행렬의 전치행렬로 정의된다.
\[ \operatorname{adj}(A) = \bigl(C_{ij}\bigr)^T. \]
이제, 역행렬 공식은 다음과 같이 주어진다.
정리 1. (여인수 행렬을 사용한 역행렬 공식)
만약 \(A\)가 가역행렬이라면, \[ A^{-1} = \frac{1}{\det A}\,\operatorname{adj}(A). \]
이 식은 \(A\)와 여인수 행렬이 곱해졌을 때, \(A\operatorname{adj}(A) = (\det A) I_n\)가 됨을 보이는 데서 유도된다. 따라서 \(\det A \neq 0\)인 경우에만 \(A^{-1}\)가 존재하며, 위 공식을 통해 \(A^{-1}\)를 명시적으로 계산할 수 있다.
증명 스케치 행렬 \(A\)의 각 원소에 대해 코팩터를 이용해 전개하면, \(A\operatorname{adj}(A)\)의 \(ij\)번째 원소는
\[ (A\,\operatorname{adj}(A))_{ij} = \sum_{k=1}^{n} a_{ik} C_{jk}. \]
특히 \(i=j\)인 경우, 이 합은 \(a_{i1}C_{i1} + a_{i2}C_{i2} + \cdots + a_{in}C_{in}\)으로, 이는 행렬 \(A\)의 \(i\)번째 행에 대한 여인수 전개(Laplace 전개)와 같아 \(\det A\)가 된다. 반면, \(i\neq j\)인 경우 두 행이 동일한 형태의 전개가 되어 0이 된다. 즉,
\[ A\,\operatorname{adj}(A) = (\det A)I_n. \]
따라서, 만약 \(\det A \neq 0\)라면 양 변에 \(\frac{1}{\det A}\)를 곱해 \(A^{-1} = \frac{1}{\det A}\,\operatorname{adj}(A)\)를 얻는다.
보기 1.
2×2 행렬 \[A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}\]의 경우, 각 원소의 코팩터는 다음과 같다. \[C_{11} = d,\quad C_{12} = -c,\quad C_{21} = -b,\quad C_{22} = a.\] 따라서 코팩터 행렬은 \[\begin{pmatrix} d & -c \\ -b & a \end{pmatrix}\] 이다. 여인수 행렬은 이 행렬의 전치로서, 2×2 행렬의 경우 동일하므로, \[\operatorname{adj}(A) = \begin{pmatrix} d & -b \\ -c & a \end{pmatrix}\] 이다. 행렬식은 \(\det A = ad - bc\)이므로, 역행렬은 다음과 같다.
\[ A^{-1} = \frac{1}{ad-bc} \begin{pmatrix} d & -b \\ -c & a \end{pmatrix}. \]
보기 2.
이 공식을 이용하면, 복잡한 \(n \times n\) 행렬의 경우에도 여인수 행렬과 행렬식을 구한 후, \(A^{-1}\)를 쉽게 계산할 수 있다. 다만, 계산량이 많아지는 단점이 있으므로, 실제 응용에서는 가우스 소거법 등을 이용하여 역행렬을 구하는 방법과 비교하여 적절히 선택한다.
이와 같이, 여인수 행렬을 이용한 역행렬 공식은 역행렬의 존재 조건(즉, \(\det A \neq 0\))과 밀접하게 연결되어 있으며, 행렬의 고유한 구조를 이해하고 이를 계산하는 데 매우 유용한 도구이다.
역행렬 존재 여부와 행렬식
정사각행렬 \(A\)에 대해, 역행렬 \(A^{-1}\)가 존재한다는 것은 \(AA^{-1} = A^{-1}A = I_n\)을 만족하는 행렬 \(A^{-1}\)가 존재함을 의미한다. 이러한 가역성은 행렬식과 밀접하게 연관되어 있으며, 구체적으로 \(A\)가 가역임은 \(\det A \neq 0\)임과 동치이다. 반대로, \(\det A = 0\)이면 \(A\)는 특이행렬(singular matrix)로서 역행렬이 존재하지 않는다.
정리 2. (역행렬 존재 여부와 행렬식)
\(A\)가 \(n \times n\) 정사각행렬일 때, 다음 조건들은 서로 동치이다.
- \(A\)는 가역이다. (즉, \(A^{-1}\)이 존재한다.)
- \(\det A \neq 0\).
- \(A\)의 열(또는 행)들이 선형독립이다.
따라서, 역행렬의 존재 여부는 행렬식의 값에 의해 결정된다.
증명
(⇒ 방향)
만약 \(A\)가 가역이라면, \(A^{-1}\)가 존재하여 \(AA^{-1} = I_n\)이다. 양 변의 행렬식을 취하면,
\[ \det(AA^{-1}) = \det I_n. \]
행렬식의 곱셈 성질에 의해 \(\det(AA^{-1}) = \det A \cdot \det A^{-1}\)이고, \(\det I_n = 1\)이므로,
\[ \det A \cdot \det A^{-1} = 1. \]
따라서, \(\det A \neq 0\)임이 분명하다.
(⇐ 방향)
반대로, \(\det A \neq 0\)이면, \(A\)의 역행렬은 여인수 행렬(adjunct matrix) \(\mathrm{adj}(A)\)를 이용하여
\[ A^{-1} = \frac{1}{\det A}\,\mathrm{adj}(A) \]
와 같이 명시적으로 구할 수 있다. 이 식은 \(\det A \neq 0\)일 때 \(A^{-1}\)이 존재함을 보장한다.
따라서, \(A\)가 가역임과 \(\det A \neq 0\)임은 서로 동치이다.
보기 3.
행렬 \[ A = \begin{pmatrix} 2 & 3 \\ 1 & 4 \end{pmatrix} \] 의 행렬식을 계산하면,
\[ \det A = 2 \cdot 4 - 3 \cdot 1 = 8 - 3 = 5 \neq 0. \]
따라서 \(A\)는 가역이며, 역행렬은
\[ A^{-1} = \frac{1}{5} \begin{pmatrix} 4 & -3 \\ -1 & 2 \end{pmatrix}. \]
보기 4.
반면, 행렬 \[ B = \begin{pmatrix} 1 & 2 \\ 2 & 4 \end{pmatrix} \] 의 경우,
\[ \det B = 1\cdot4 - 2\cdot2 = 4 - 4 = 0. \]
\(B\)는 \(\det B = 0\)이므로 가역행렬이 아니며, 역행렬이 존재하지 않는다.
이와 같이, 역행렬의 존재 여부는 행렬식의 값과 직접적으로 연결되어 있으며, 행렬식이 0이 아닌 경우에만 역행렬을 구할 수 있다. 이러한 성질은 선형연립방정식의 해의 유일성 및 행렬의 선형 독립성 등을 분석하는 데 매우 중요한 역할을 한다.
행렬식이 0일 때의 의미
정사각행렬 \(A\)에 대해 \(\det A = 0\)이라는 조건은 단순한 수치적 결과를 넘어서, 행렬의 본질적인 성질과 그에 따른 선형변환의 특성을 깊게 반영한다. 이 조건은 \(A\)가 특이행렬(singular matrix)임을 의미하며, 여러 중요한 대수적 및 기하학적 함의를 내포한다.
먼저, \(\det A = 0\)이면 \(A\)는 가역행렬이 아니어서, 역행렬 \(A^{-1}\)가 존재하지 않는다. 이는 선형연립방정식 \(A\mathbf{x} = \mathbf{b}\)의 해가 유일하지 않거나 아예 존재하지 않을 수 있음을 의미한다.
또한, \(\det A = 0\)이라는 것은 행렬 \(A\)의 열(또는 행)들이 선형독립(independent)이 아님을 나타낸다. 즉, 적어도 한 열(또는 행)이 다른 열(또는 행)들의 일차결합으로 표현될 수 있어, 전체 열(또는 행)들이 \(n\)차원 공간을 완전히 span하지 못한다.
선형변환의 관점에서 보면, 행렬 \(A\)가 나타내는 선형변환은 원래의 \(n\)차원 공간의 부피(또는 체적)를 0으로 압축한다. 예를 들어, 3차원 공간에서 \(\det A = 0\)이면, \(A\)에 의한 변환은 3차원 부피를 0으로 만들고, 그 결과 모든 변환된 벡터들이 2차원 평면이나 1차원 직선과 같이 차원이 낮은 부분공간에 속하게 된다.
정리 3. (행렬식이 0인 행렬의 특성)
\(A\)가 \(n \times n\) 행렬일 때, 다음 조건들은 서로 동치이다.
- \(\det A = 0\).
- \(A\)는 가역행렬이 아니다.
- \(A\)의 열(또는 행)들이 일차종속이다.
- 동차연립일차방정식 \(A\mathbf{x} = \mathbf{0}\)이 자명하지 않은 해, 즉 \(\mathbf{x} \neq \mathbf{0}\)인 해를 가진다.
이 정리를 통해, 행렬식이 0이라는 조건이 행렬의 여러 대수적 및 기하학적 성질을 동시에 함축함을 알 수 있다.
보기 5.
2×2 행렬
\[ B = \begin{pmatrix} 1 & 2 \\ 2 & 4 \end{pmatrix} \]
의 행렬식을 계산하면,
\[ \det B = 1 \cdot 4 - 2 \cdot 2 = 4 - 4 = 0. \]
따라서, \(B\)는 가역행렬이 아니며, 그 열들이 일차종속임을 의미한다. 이 경우, 두 번째 열은 첫 번째 열의 2배에 해당하며, 동차연립방정식 \(B\mathbf{x} = \mathbf{0}\)는 \(\mathbf{x} = (x_1, \, x_2)^\top\)에 대해 자명하지 않은 해, 예를 들어 \(x_2 = t\)와 \(x_1 = -2t\) (임의의 \(t \in \mathbb{R}\))를 가지게 된다.
보기 6.
3×3 행렬의 예로, 만약 행렬 \(C\)가 3차원 공간에서 부피를 0으로 압축한다면, \(C\)의 행렬식은 0이 된다. 이는 \(C\)에 의한 선형변환이 모든 벡터를 2차원 평면 또는 1차원 직선으로 보내게 됨을 의미하며, 이와 같이 차원이 낮은 부분공간으로의 사상은 반드시 행렬식이 0인 경우에 해당한다.
행렬식이 0이라는 조건은 단순히 수치적인 결과를 넘어서, 행렬이 나타내는 선형변환이 공간의 부피를 0으로 만들고, 그 결과 행렬의 열(또는 행)들이 선형독립이 아님을 의미한다. 이는 연립방정식의 해의 특성이나 행렬의 가역성 등 다양한 선형대수학의 핵심 주제와 깊게 연결된다.
