선형변환의 정의와 예시

by Ariel Daley

선형변환의 개념

벡터공간 사이의 사상(함수) 중에서 가장 중요하게 다뤄지는 것이 선형변환(linear transformation)이다. 선형변환은 대수적 구조(벡터 덧셈과 스칼라배)를 보존하기 때문에, 연립방정식·행렬연산·미분방정식 등 다양한 분야에서 근본적인 역할을 담당한다.

정의 1. (선형변환)

벡터공간 \(V\)와 \(W\)가 같은 체 \(\mathbf{F}\) 위에 정의되어 있다고 하자. 함수 \(T: V \to W\)가 선형변환(linear transformation)이라는 것은, 다음 두 조건을 만족한다는 의미이다.

  • 벡터 덧셈 보존: 임의의 \(\mathbf{u}, \mathbf{v} \in V\)에 대해, \[ T(\mathbf{u} + \mathbf{v}) = T(\mathbf{u}) + T(\mathbf{v}). \]
  • 스칼라배 보존: 임의의 \(\alpha \in \mathbf{F}\), \(\mathbf{u} \in V\)에 대해, \[ T(\alpha\, \mathbf{u}) = \alpha\, T(\mathbf{u}). \]

\(T : V \rightarrow W\)가 선형변환인지 판별하기 위하여 위 정의와 같이 두 가지 조건을 확인하기도 하지만, 한 가지 조건만 확인해도 된다. 즉 임의의 \(\alpha \in \mathbf{F}\)와 \(\mathbf{u},\, \mathbf{v}\in V\)에 대해 \[T ( \alpha \mathbf{u} + \mathbf{v} ) = \alpha T(\mathbf{u}) + T(\mathbf{v})\] 가 성립하면 \(T\)는 선형변환이다.

선형변환을 통해, 한 벡터공간의 구조가 다른 벡터공간으로 어떻게 ‘이동’하는지(혹은 ‘사영, 회전, 반사, 확장, 축소’되는지)를 이해할 수 있다. 무엇보다 유한차원 벡터공간에서 정의된 선형변환은 행렬로 표현할 수 있다는 점이 큰 특징이며, 이 때문에 행렬연산이 선형대수학에서 필수적인 역할을 한다.

선형변환의 예
  • 영변환(Zero transformation): \[ T(\mathbf{x}) = \mathbf{0} \quad(\forall \mathbf{x}\in V). \] 모든 벡터를 영벡터로 보내는 사상이다. 덧셈·스칼라배를 아무리 해도 결과는 영벡터이므로, 선형성을 만족한다.
  • 항등변환(Identity transformation): \[ \mathrm{Id}(\mathbf{x}) = \mathbf{x}. \] 모든 벡터를 그대로 두는 사상이다. 마찬가지로 선형변환의 성질을 자명하게 만족한다.
  • 스케일링(Scaling) 변환: \(\mathbb{R}^n \to \mathbb{R}^n\)에서 \[ T(\mathbf{x}) = c \mathbf{x} \quad (c \in \mathbf{F}). \] 모든 좌표를 \(c\)배 확대·축소한다. 당연히 선형이다.
  • 프로젝션(Projection) 변환: \(\mathbb{R}^3 \to \mathbb{R}^2\)에서 \[ T(x,y,z) = (x,y). \] 이는 \(\mathbb{R}^3\) 벡터를 \(xy\)-평면에 수직으로 사영(projection)한 것이다. 벡터 덧셈과 스칼라배 보존 여부를 좌표로 확인해 보면 선형임을 알 수 있다.
  • 회전(Rotation) 또는 반사(Reflection) 변환: 2차원 혹은 3차원에서, 회전 행렬이나 반사 행렬로 표현되는 사상들은 모두 선형이다. 예를 들어, \(\mathbb{R}^2\)에서 \[ T(\mathbf{x}) = \begin{pmatrix} \cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{pmatrix} \mathbf{x} \] 는 평면의 점을 \(\theta\)만큼의 회전시키며, 이는 분명히 선형변환이다.

다음은 선형변환의 성질 중 자주 사용되는 기본 성질이다.

정리 1. (선형변환의 기본 성질)

\(T: V \to W\)가 선형변환이라면, 다음 성질들이 성립한다.

  • \(T(\mathbf{0}) = \mathbf{0}\)
  • \(T(\mathbf{u} - \mathbf{v}) = T(\mathbf{u}) - T(\mathbf{v})\)
  • \(T(\alpha_1 \mathbf{v}_1 + \dots + \alpha_k \mathbf{v}_k) = \alpha_1 T(\mathbf{v}_1) + \dots + \alpha_k T(\mathbf{v}_k)\)

증명 스케치

  • 첫 번째 등식은 덧셈 보존과 스칼라배 보존 성질을 사용하여 쉽게 보일 수 있다. 즉 \[ T(\mathbf{0}) = T(\mathbf{0} + \mathbf{0}) = T(\mathbf{0}) + T(\mathbf{0}) \quad\Longrightarrow\quad T(\mathbf{0}) = \mathbf{0}. \]
  • 두 번째 등식은, 스칼라배 성질을 이용하면 \[ T(\mathbf{u} - \mathbf{v}) = T(\mathbf{u} + (-1)\mathbf{v}) = T(\mathbf{u}) + (-1)\, T(\mathbf{v}) = T(\mathbf{u}) - T(\mathbf{v}). \]
  • 세 번째 등식은 수학적 귀납법을 사용하여 증명한다.

이러한 성질들은 선형변환을 다른 일반적인 함수와 구별해 주는 핵심 포인트다. 예를 들어, 선형변환은 원점을 무조건 원점으로 보내야 하며, 어떤 벡터 \(\mathbf{v}\)를 반대 방향으로 뒤집는 \(-\mathbf{v}\) 역시 그 결과가 \(-T(\mathbf{v})\)가 되도록 작용한다. 이러한 일관된 ‘직교성’, ‘평행성’, ‘비례관계 유지’ 등의 기하학적 속성이 바로 선형변환이란 이름의 이유이기도 하다.

기하학적 해석

선형변환은 대수적인 정의를 통해 “벡터 덧셈과 스칼라배를 보존한다”는 특징을 갖지만, 이를 기하학적으로 들여다보면 공간의 ‘모양’을 변환하는 특정 규칙을 엿볼 수 있다. 특히 \(\mathbb{R}^2\)나 \(\mathbb{R}^3\)와 같은 유클리드 공간에서, 선형변환이 하는 일은 점들을 어떤 일정한 법칙에 따라 회전·반사·확대·축소·투영 등으로 바꾸는 것과 밀접하게 연관된다.

예컨대, 2차원 평면에서의 선형변환은 원점을 지나면서 ‘직선’을 다른 ‘직선’(혹은 원점으로 가는 경로)으로 보내고, 3차원 공간에서의 선형변환은 원점을 공유하는 ‘평면’이나 ‘직선’을 다른 ‘평면’이나 ‘직선’으로 보내는 식이다. 따라서 선형변환은 ‘원점을 지나는 직선이나 평면 등의 부분공간을 부분공간으로 매핑한다’고도 말할 수 있다. 실제로 이것은 선형변환이 가지는 가장 중요한 기하학적 의미 중 하나다.

직선, 평면, 공간에 대한 이미지
  • 1차원 부분공간(직선): \(\mathbb{R}^2\)나 \(\mathbb{R}^3\)에서 원점을 지나는 임의의 직선이 있을 때, 선형변환 \(T\)가 이 직선 상의 모든 벡터를 어떻게 보내는지를 살펴보면, 원점을 지나가는 또 다른 직선(또는 영벡터만 모아 놓은 집합)으로 대응된다. 예를 들어, \(T(a\,\mathbf{v}) = a\,T(\mathbf{v})\)이므로, 한 벡터 \(\mathbf{v}\)가 만드는 직선 \(\{\alpha \mathbf{v}\mid \alpha\in\mathbb{R}\}\)의 이미지는 \(\{\alpha\,T(\mathbf{v})\mid \alpha\in\mathbb{R}\}\) 형태가 된다.
  • 2차원 부분공간(평면): \(\mathbb{R}^3\)에서 원점을 지나는 한 평면에 대해, 선형변환은 그 평면 전체를 또 다른 평면(혹은 직선, 혹은 \(\{\mathbf{0}\}\))으로 보낼 수 있다. 예컨데 회전·반사 변환이라면 특정 평면을 다른 평면으로 ‘재배치’하고, 축소/확대/왜곡 등을 일으킬 수도 있다.
  • 상(Subspace of Image): 모든 벡터의 ‘출력’을 모은 집합, 즉 \(\mathrm{Im}(T) = \{ T(\mathbf{x}) \mid \mathbf{x}\in V\}\)가 사실상 \(W\)의 부분공간이 된다는 점은, 선형변환의 기하학적 해석에서 매우 중요한 개념이다. \(\mathrm{Im}(T)\)를 상(Image)이나 치역(Range)이라고 부르며, “출력 벡터가 앉는 공간”을 의미한다.
선형변환과 행렬의 관계

선형변환 \(T: \mathbb{R}^n \to \mathbb{R}^m\)은 적절한 기저(보통 표준기저)로 표현하면 행렬 곱셈과 동일시할 수 있다. 예컨대 표준기저를 사용한다면, 다음과 같다. \[ T(x_1, x_2, \dots, x_n) = \begin{pmatrix} a_{11} & a_{12} & \dots & a_{1n} \\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \dots & a_{mn} \end{pmatrix} \begin{pmatrix}x_1\\x_2\\ \vdots \\ x_n\end{pmatrix}. \] 기하학적 관점에서 행렬은 “한 벡터공간의 표준기저에서 다른(혹은 같은) 공간 표준기저로의 선형변환”이라 이해할 수 있다.

예를 들어, 2×2 행렬 \[ A = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix} \] 는 2차원 평면에서 원점을 기준으로 \(\theta\)만큼 회전시키는 선형변환에 해당한다. 마찬가지로 3×3 행렬 \[ B = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 0 & -1\\ 0 & 1 & 0 \end{pmatrix} \] 은 3차원 공간에서 특정 축을 기준으로 한 회전이나 반사, 또는 보다 복합적인 기하학적 변환을 나타낼 수 있다(실제로 각 행렬이 정확히 무엇을 하는지는 각 원소가 어떻게 좌표를 섞어 놓는지 세부 계산으로 확인할 수 있다).

선형변환의 ‘왜곡’ 정도와 지표

기하학적 관점에서, 선형변환은 ‘원점을 고정’한다는 점이 가장 큰 특징이다(번역(translation)은 선형이 아님). 이 때문에, 원점을 지나지 않는 선이나 면에는 직접 작용하지 않고, “원점을 맞춰 평행이동한” 다음 적용 후, 다시 평행이동해야 완전한 공간 상의 이동으로 볼 수 있다. 그러나 그 자체로도 길이, 각도, 면적, 체적 등 기하학적 특성에 변화를 주는 다양한 변환을 일으킬 수 있다.

  • 길이·각도 보존 변환: 회전이나 반사처럼, 길이와 각도가 변하지 않는 선형변환을 직교변환(orthogonal transformation)이라고 하며, 이들은 \(\mathrm{O}(n)\)이라는 특정 행렬군으로 표현된다.
  • 부피(면적) 보존 변환: 행렬식(determinant)이 \(\pm 1\)인 변환들이 해당한다. 예컨대, 회전행렬은 \(\det=1\)이고 반사행렬은 \(\det=-1\)인 경우이다.
  • 확대·축소·왜곡: 일반적인 선형변환은 직선과 직선의 상대적 각도·길이를 바꿀 수 있으며, 이는 곧 “어떤 방향”은 크게 늘이고, “다른 방향”은 줄이는 식으로 공간이 변형됨을 의미한다. 이때 고윳값·고유벡터 개념으로 접근하면 변환이 어느 방향을 얼마나 늘이거나 줄이는지 더 체계적으로 알 수 있다.

선형변환은 기하학적으로 ‘원점을 고정시킨 상태에서’의 여러 변형을 일으키며, 이를 행렬로 나타내면 “좌표화된 연산”이라는 관점에서 이해가 쉬워진다. 다음 파트에서는 이 같은 선형변환을 실제로 어떻게 행렬로 표현하고, 또 기저를 달리했을 때 행렬이 어떻게 바뀌는지를 구체적으로 살펴볼 것이다.