순열을 사용한 행렬식의 정의
\(n \times n\) 정사각행렬 \(A = (a_{ij})\)의 행렬식은, 모든 순열을 고려하여 각 순열에 부여된 부호와 해당 순열에 따라 선택된 행렬 원소들의 곱을 더하는 방식으로 정의된다. 이 정의는 행렬의 각 행에서 서로 다른 열의 원소를 하나씩 선택하는 모든 경우를 반영하며, 행렬의 기하학적 의미(선형변환에 의한 체적의 변화 등)와 밀접하게 관련된다.
정의 1. (순열을 사용한 행렬식의 정의)
\(A = (a_{ij})\)가 \(n \times n\) 행렬일 때, \(S_n\)을 \(\{1,2,\dots,n\}\)의 모든 순열의 집합이라 하자. 각 순열 \(\sigma \in S_n\)에 대해 \(\mathrm{sgn}(\sigma)\)는 \(\sigma\)의 부호를 나타내며, 행렬식은 다음과 같이 정의된다.
\[ \det A = \sum_{\sigma \in S_n} \mathrm{sgn}(\sigma) \, a_{1,\sigma(1)} \, a_{2,\sigma(2)} \cdots a_{n,\sigma(n)}. \]
여기서, \(\sigma\)가 짝수순열일 때 \(\mathrm{sgn}(\sigma)=+1\)이고, \(\sigma\)가 홀수순열일 때 \(\mathrm{sgn}(\sigma)=-1\)이다.
이 정의는 행렬의 각 행에서 하나씩 원소를 선택할 때, 선택된 원소들이 모두 서로 다른 열에 위치하도록 하는 모든 가능한 조합을 고려한 것이다. 각 조합에 대해 선택된 원소들의 곱에 순열의 부호를 곱하여, 그 결과들을 모두 합산함으로써 행렬식의 값을 얻는다.
행렬식을 정의하는 다른 방법은 교대다중선형변환(alternating multilinear map)의 개념을 사용하는 것이다. 즉 \(n\times n\) 행렬들의 모임 \(M\)을 정의역으로 하고 공역이 \(\mathbb{F}\)인 함수 \(d\)가, 세 조건
- \(I\)가 단위행렬이면 \(d(I)=1\)이다,
- \(d\)는 열에 대하여 선형이다,
- \(d\)는 열교환에 대하여 부호가 반대가 된다
을 모두 만족시킬 때 \(d\)를 \(n\)차 정사각행렬에 대한 행렬식으로 정의하는 것이다. 이와 같은 방법으로 행렬식을 정의하여도 위 정의 1에서 정의한 것과 완전히 일치하는 행렬식을 얻을 수 있다. 여기서는 더 깊게 다루지는 않겠다.
보기 1.
2×2 행렬 \[ A = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \] 의 경우, \(S_2\)에는 두 개의 순열이 존재한다. 항등순열 \(\sigma_{12}\)와 전치순열 \(\sigma_{21}\)로서, 두 순열의 함숫값과 부호는 각각 다음과 같다.
\[ \sigma_{12}(1)=1,\; \sigma_{12}(2)=2,\quad \mathrm{sgn}(\sigma_{12})=+1, \]
\[ \sigma_{21}(1)=2,\; \sigma_{21}(2)=1,\quad \mathrm{sgn}(\sigma_{21})=-1. \]
따라서 행렬 \(A\)의 행렬식은 다음과 같다.
\[ \det A = (+1)\,a\cdot d + (-1)\,b\cdot c = ad - bc. \]
순열을 통한 행렬식의 정의는 이처럼 모든 가능한 원소의 선택에 따른 가중합으로 행렬의 고유한 크기(또는 부피 변환 효과)를 측정할 수 있게 하며, 이후 행렬의 가역성, 고유값 분해 등 다양한 선형대수학의 심화 주제와 연결되는 중요한 기초 개념을 제공한다.
코팩터 확장
행렬식은 순열을 통한 정의 외에도, 코팩터 확장(cofactor expansion)이라는 재귀적 방법으로 계산할 수 있다. 이 방법은 행 또는 열을 따라 행렬식을 ‘전개(expand)’하여, 보다 작은 크기의 행렬식들로 분해하는 방식이다. 이 과정은 Laplace 전개라고도 불리며, 크기가 큰 행렬의 행렬식을 계산할 때 특히 유용하다.
정의 2. (소행렬, 부행렬식, 코팩터)
행렬 \(A = (a_{ij})\)의 임의의 원소 \(a_{ij}\)에 대해, 소행렬 \(A_{ij}\)는 \(A\)에서 \(i\)번째 행과 \(j\)번째 열을 제거하여 얻는 \((n-1) \times (n-1)\) 행렬을 의미한다. 소행렬 \(A_{ij}\)의 행렬식을 \(M_{ij}\)라 하며, 원소 \(a_{ij}\)의 코팩터 \(C_{ij}\)는 다음과 같이 정의된다.
\[ C_{ij} = (-1)^{i+j} M_{ij}. \]
이제, 행렬 \(A = (a_{ij})\)가 \(n \times n\) 정사각행렬일 때, 임의의 한 행(또는 열)을 따라 행렬식을 전개하는 코팩터 확장 공식은 다음과 같다.
정리 1. (코팩터 확장을 통한 행렬식의 전개)
\(A\)의 임의의 행 \(i\)에 대해,
\[ \det A = \sum_{j=1}^{n} a_{ij}\, C_{ij}, \]
또는 임의의 열 \(j\)에 대해,
\[ \det A = \sum_{i=1}^{n} a_{ij}\, C_{ij}. \]
이 공식은 \(n=1\)일 때 자명하게 성립하며, \(n>1\)인 경우 재귀적으로 소행렬식들을 계산하여 행렬식 전체를 구할 수 있다.
증명
핵심 아이디어는 특정 행(또는 열)에 포함된 원소 하나를 고정하고, 그 원소가 곱에 기여할 때 나머지 \((n-1)\times(n-1)\) 소행렬식이 순열 정의와 자연스럽게 연결된다는 점이다. 구체적으로 다음 단계를 거친다.
- 기본 케이스 \(n=1\)
크기가 \(1\times1\)인 행렬 \(\bigl(a_{11}\bigr)\)의 행렬식은 단순히 \(a_{11}\)이므로, \[ \det \begin{pmatrix} a_{11} \end{pmatrix} = a_{11}. \] 이는 코팩터 확장 공식과도 완전히 일치한다( \(\sum_{j=1}^1 a_{1j} C_{1j} = a_{11}\cdot 1\) ). - \(n>1\)인 경우: 행 \(i\)를 통한 전개
행렬 \(A\)가 \(n \times n\)일 때, 어떤 고정된 행 \(i\)를 골라서 \[ \det A = \sum_{j=1}^{n} a_{ij}\, C_{ij} \] 임을 보이자. 순열의 정의에 따라 다음 등식을 얻는다. \[ \det A = \sum_{\sigma \in S_n} \mathrm{sgn}(\sigma)\,\prod_{k=1}^{n} a_{k,\sigma(k)}. \] 이제 모든 순열 \(\sigma\in S_n\)에서, \(\sigma\)가 행 \(i\)와 어떤 열 \(j\)를 대응시키는지 분류한다. 즉, \(\sigma(i) = j\)가 되는 경우만 모아 보면, \[ \prod_{k=1}^n a_{k,\sigma(k)} = a_{i,\sigma(i)} \;\cdot\; \prod_{\substack{k=1 \\ k\neq i}}^{n} a_{k,\sigma(k)} = a_{i,j} \;\cdot\; \prod_{\substack{k=1 \\ k\neq i}}^{n} a_{k,\sigma(k)}. \] 그때 남은 인덱스 \(\sigma(k)\) ( \(k\neq i\) )들은 크기 \((n-1)\times(n-1)\) 인 소행렬 \(A_{ij}\)에서의 순열을 결정한다(행 \(i\)와 열 \(j\)를 제거하므로). 이 부분 곱에 해당하는 행렬식은 바로 \(\det A_{ij}\)와 부호 \(\mathrm{sgn}\) 보정을 통해 \(\;C_{ij} = (-1)^{i+j} \det A_{ij}\)로 나타난다.결과적으로, \(\sigma\)를 “\(\sigma(i)=j\)”라는 기준으로 묶어 합을 취하면, 각 묶음마다 \(\mathrm{sgn}(\sigma)\)와 \(\prod_{\substack{k\neq i}} a_{k,\sigma(k)}\)가 \(\det A_{ij}\) (및 \(\pm\) 부호)와 일치하게 되어, 다음과 같은 등식을 얻게 된다. \[ \det A = \sum_{j=1}^{n} a_{ij}\,\bigl( (-1)^{i+j} \det A_{ij} \bigr) = \sum_{j=1}^{n} a_{ij}\,C_{ij}. \] 이는 바로 코팩터 확장 공식이다.
- 열을 통한 전개
행을 통한 전개와 완전히 유사하게, 열 \(j\)를 고정하여 \(\sigma\) 중 \(\sigma(k)=j\)가 되도록 분류하면, \[ \det A = \sum_{i=1}^{n} a_{ij}\,C_{ij} \] 임을 같은 논리로 얻는다. - 재귀적 계산
위 과정을 통해, 행렬식을 \((n-1)\times(n-1)\) 크기의 소행렬식에 대한 합으로 표현 가능함이 보였다. \(n=1\)일 때 자명하다는 점과 결합하여, 크기가 \(n\)인 행렬식은 이 공식을 재귀적으로 적용함으로써 완전히 결정될 수 있다. 즉, \[ \det A = \sum_{j=1}^n a_{ij}C_{ij} \] 를 각 \(\det A_{ij}\)에 다시 동일한 과정을 적용하여, 결국 순열 정의와 부합하게 전체를 계산할 수 있다.
이상으로, 코팩터(= \((-1)^{i+j}\) 곱하기 소행렬식)를 사용하는 확장 공식이 순열 정의와 일관되며, \(n\)차 정사각행렬에 대한 행렬식을 재귀적으로 효율적으로 구할 수 있음을 보였다.
보기 2.
2×2 행렬 \[A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}\]의 경우, 소행렬과 코팩터는 다음과 같이 구해진다. \[\begin{gathered} M_{11} = d,\quad C_{11} = (-1)^{1+1}d = d,\\ M_{12} = c,\quad C_{12} = (-1)^{1+2}c = -c.\end{gathered}\] 행 1을 따라 전개하면 \(A\)의 행렬식은 다음과 같다. \[ \det A = a\,C_{11} + b\,C_{12} = ad - bc. \]
보기 3.
3×3 행렬 \[B = \begin{pmatrix} 1 & 2 & 3 \\ 0 & 4 & 5 \\ 1 & 0 & 6 \end{pmatrix}\]에 대해, 첫 번째 행을 따라 전개하는 방법을 살펴보자.
각 코팩터는 다음과 같이 계산된다.
\[ \begin{gathered}C_{11} = (-1)^{1+1}\det\begin{pmatrix} 4 & 5 \\ 0 & 6 \end{pmatrix} = 1\cdot (4\cdot6 - 5\cdot0) = 24, \\ C_{12} = (-1)^{1+2}\det\begin{pmatrix} 0 & 5 \\ 1 & 6 \end{pmatrix} = -1\cdot (0\cdot6 - 5\cdot1) = 5, \\ C_{13} = (-1)^{1+3}\det\begin{pmatrix} 0 & 4 \\ 1 & 0 \end{pmatrix} = 1\cdot (0\cdot0 - 4\cdot1) = -4. \end{gathered}\] 따라서, 첫 번째 행을 따라 전개하면 \(B\)의 행렬식은 다음과 같다. \[ \det B = 1\cdot 24 + 2\cdot 5 + 3\cdot (-4) = 24 + 10 - 12 = 22. \]
코팩터 확장은 행렬식을 재귀적으로 계산하는 강력한 도구이며, 크기가 커진 행렬에 대해서도 한 행 또는 한 열을 선택하여 단계적으로 계산할 수 있는 장점이 있다. 이 방법은 특히 행렬의 성질이나 대각화, 고유값 분해 등 심화 주제를 다룰 때 기본적인 계산 기법으로 널리 활용된다.
선형변환과 부피 변화
행렬식은 단순한 수치 계산을 넘어서, 선형변환이 기하학적 공간의 부피나 체적을 어떻게 변화시키는지를 정량적으로 나타내는 중요한 도구이다. 구체적으로, \(n \times n\) 행렬 \(A\)가 나타내는 선형변환 \(T: \mathbb{R}^n \to \mathbb{R}^n\)은, 임의의 \(n\)차원 영역 \(S\)의 부피 \(V(S)\)를 \(T\)에 의해
\[ V(T(S)) = |\det A| \cdot V(S) \]
로 변화시킨다. 여기서 \(|\det A|\)는 부피 확대 또는 축소의 비율을 나타내며, \(\det A\)의 부호는 선형변환이 공간의 방향(orientation)을 보존하는지 반전시키는지를 결정한다.
정리 2. (선형변환과 부피 변화)
\(T: \mathbb{R}^n \to \mathbb{R}^n\)가 \(n \times n\) 행렬 \(A\)에 의해 표현되는 선형변환일 때, \(n\)차원 측도(부피) 함수 \(V\)에 대해
\[ V(T(S)) = |\det A| \cdot V(S) \]
가 성립한다. 특히,
- \(|\det A| > 1\)이면 \(T\)는 부피를 확대시키고,
- \(|\det A| < 1\)이면 \(T\)는 부피를 축소시킨다.
이 정리는 선형변환의 기하학적 해석에서 중요한 역할을 한다. 예를 들어, 2차원 평면에서 한 선형변환이 삼각형의 넓이를 \(T\) 적용 후에 \(|\det A|\)배로 변화시킨다는 사실은, 행렬식이 단순한 계산 도구를 넘어 기하학적 변환의 본질을 설명하는 데 얼마나 중요한지를 보여준다.
보기 4.
2×2 행렬
\[ A = \begin{pmatrix} 3 & 0 \\ 0 & 2 \end{pmatrix} \]
가 나타내는 선형변환 \(T\)는 평면상의 도형의 넓이를 \( |3 \times 2| = 6 \)배로 확대시킨다. 즉, 삼각형이나 사각형 등의 넓이가 \(T\) 적용 후 원래 넓이의 6배가 됨을 알 수 있다.
보기 5.
3×3 행렬 \(B\)가 나타내는 선형변환을 고려하자. 만약
\[ \det B = -4, \]
라면, \(B\)에 의한 3차원 부피 변화는 4배가 되며, 부호가 음수이므로 변환 과정에서 공간의 방향(orientation)이 반전되었음을 의미한다. 이러한 예는 행렬식의 절댓값과 부호가 각각 부피 변화의 크기와 방향 반전을 나타낸다는 것을 잘 보여준다.
결론적으로, 행렬식은 선형변환에 의한 부피 변화의 척도로 사용되며, 이 기하학적 해석은 선형대수학의 여러 응용 분야(미적분, 물리학, 공학 등)에서 핵심적인 역할을 한다.
