[선형대수학] 고유분해 - 고유값, 고유벡터

행렬 연산을 효율적으로 만드는 고유값/고유벡터/고유분해 관련 내용을 정리합니다.

고유값 고유벡터

고윳값 방정식을 만족하는 벡터 $\mathbf{v}$를 행렬 $\mathbf{A}$의 Eigenvector 고유벡터, $\lambda$를 Eigenvalue 고유값, 고유값과 고유벡터를 찾는 과정을 Eigen-decomposition 고유분해라고 한다.

행렬 $A$의 고유값 방정식Eigenvalue equation of matrix A

$\mathbf{A} \mathbf{v} =\lambda \mathbf{v}$
$\lambda \mathbf{v}-\mathbf{A} \mathbf{v} =\mathbf{0}$
$(\lambda \mathbf{I}-\mathbf{A}) \mathbf{v} =\mathbf{0}$

즉, 행렬 $A$, 벡터 $v$의 곱의 연산 결과가 벡터 자신의 배수인 경우, 해당 벡터를 행렬 A의 고유 벡터라고 하고, 해당 승수 $\lambda$가 고유값이다. a vector whose product when multiplied by the matrix is a scalar multiple of itself

기하학적 관점에서 고유값과 고유벡터

상기 특징을 기하학적 관점에서 이해하면 다음과 같다.

• 행렬 $A$의 고유벡터 $v$는 행렬 $A$를 곱해 변환을 하더라도 방향이 바뀌지 않는 벡터이다.
• 고유값 $\lambda$는 변환된 고유벡터와 원래 고유벡터의 크기 비율이라 할 수 있다.

고유값과 고유벡터 예시

$\begin{aligned}
A &=\left(\begin{array}{ccc}
4 & 0 & -1 \\
2 & -2 & 3 \\
7 & 5 & 0
\end{array}\right) \
& v=\left(\begin{array}{l}
1 \\
1 \\
2
\end{array}\right)\end{aligned}
$

$\begin{aligned}
A v=\left(\begin{array}{ccc}
4 & 0 & 1 \\
2 & -2 & 3 \\
5 & 7 & 0
\end{array}\right)\left(\begin{array}{l}
1 \\
1 \\
2
\end{array}\right) &=\left(\begin{array}{c}
4 * 1+0 * 1+1 * 2 \\
2 * 1 + -2 * 1 + 3 * 2 \\
5 * 1+7 * 1+0 * 2
\end{array}\right)=\left(\begin{array}{c}
6 \\
6 \\
12
\end{array}\right)=6 v
\end{aligned}
$

⇒ 행렬 $A$의 고유벡터는 $v$이고 고유값은 $\lambda=6$이다.

특성 방정식과 고유분해

앞선 예시에서는 주어진 행렬과 고유값/벡터가 고유방정식을 성립하는 지 살펴봤다. 행렬만 주어졌을 때 고유값/벡터를 구하는 방법을 정리해보자.

행렬 $A$의 고유방정식 $\mathbf{A} \mathbf{v} =\lambda \mathbf{v}$을 만족하는 nonzero solution 0이 아닌 고유값과 고유벡터가 존재한다면, 행렬$A$의 특성방정식을 만족할 것이다. 특성방정식을 통해 특성방정식을 통해 $n\times n$ 정방행렬의 고유값과 고유벡터를 구할 수 있다.

고유값에 대한 행렬의 characteristic equation 특성방정식

$det(A - \lambda I ) = 0$

↪ $A$ : 행렬, $\lambda$ : 고유값, $I$ : $n\times n$ 단위행렬

특성방정식과 고유분해 예시

행렬 $A=\left(\begin{array}{cc}
4 & 3 \\
2 & -1
\end{array}\right)$의 고유값/벡터을 구해보자.

1. 특성방정식을 통해 고유값을 구한다.
   $\begin{array}{l}
   \operatorname{det}(A-\lambda I)\\=\operatorname{det}\left(\left(\begin{array}{cc}
   4 & 3 \\
   2 & -1
   \end{array}\right)-\lambda\left(\begin{array}{ll}
   1 & 0 \\
   0 & 1
   \end{array}\right)\right)\\=\operatorname{det}\left(\begin{array}{cc}
   4-\lambda & 3 \\
   2 & -1-\lambda
   \end{array}\right)=0\end{array}
   $

   $\operatorname{det}(A-\lambda I)\\=(4-\lambda)(-1-\lambda)-3 * 2\\=\lambda^{2}-3 \lambda-10\\=(\lambda+2)(\lambda-5)=0
   $

   ⇒ 고유값은 $\lambda$ -2, 5여야한다.

2. 1의 고유값과 고유벡터의 정의로부터 고유벡터를 구한다.
   두 개의 고유값 2,-5 각각에 대한 고유벡터 : $w=\left(w_{1}, w_{2}\right)^{\prime}, v=\left(v_{1}, v_{2}\right)^{\prime}$

   • 고유값 $\lambda = -2$

     $\left(\begin{array}{cc}
     4 & 3 \\
     2 & -1
     \end{array}\right) *\left(\begin{array}{l}
     w_{1} \\
     w_{2}
     \end{array}\right)=-2\left(\begin{array}{l}
     w_{1} \\
     w_{2}
     \end{array}\right)
     $

     $\left(\begin{array}{l}
     4 w_{1}+3 w_{2} \\
     2 w_{1}-1 w_{3}
     \end{array}\right)=\left(\begin{array}{r}
     -2 w_{1} \\
     -2 w_{2}
     \end{array}\right)
     $

     ⇒ 고유값 $\lambda = -2$이면 고유벡터 $w=\left(\begin{array}{c}-1 \\2\end{array}\right)$이다.

   • 고유값 $\lambda = 5$

     $\left(\begin{array}{l}
     4 v_{1}+3 v_{2} \\
     2 v_{1}-1 v_{2}
     \end{array}\right)=\left(\begin{array}{l}
     5 v_{1} \\
     5 v_{2}
     \end{array}\right)
     $

     $\left(\begin{array}{cc}
     4 & 3 \\
     2 & -1
     \end{array}\right) *\left(\begin{array}{l}
     v_{1} \\
     v_{2}
     \end{array}\right)=5\left(\begin{array}{l}
     v_{1} \\
     v_{2}
     \end{array}\right)
     $

     ⇒고유값 $\lambda = 5$이면 고유벡터 $v=\left(\begin{array}{l}3 \\1\end{array}\right)$이다.

---

Source&Reference