6. 고유값과 고유벡터
행렬 $A$ 에 고유벡터를 곱하면, 방향이 변하지 않는 성질을 가진다.
$x = A$ 의 고유벡터, $\lambda = A$ 의 고유값
$Ax=\lambda x$
고유벡터 $x$ 는 단지 고유값 $\lambda$ 만 곱한 형태라, $A^2$ 의 고유벡터도 $x$ 로 동일하다.
$k=1 \cdots $ 에 대해 $A^kx = \lambda^k x $ 이고, $\lambda \neq 0$ 에 대해 $A^{-1}x = \frac{1}{\lambda}x$ 이다. 그래서 $\lambda= 0 $ 인경우 $A$ 의 역행렬은 없다. 또한 행렬을 지수화한 $e^{At}x$ 에서도 $e^{\lambda t}x$ 으로 변환된다.
대부분의 $n$ x $n$ 행렬에는 $n$ 개의 독립인 고유벡터 $x_1 \cdots x_n$ 과 그에 해당하는 고유값 $\lambda_1 \cdots \lambda_n$ 이 존재한다.
모든 벡터 $v$ : $c_1x_1 + c_2x_2 + \cdots + c_n x_n $
$A$ 를 곱한 형태 : $Av = c_1\lambda_1 x_1 + \cdots + c_n \lambda_n x_n$
$A^k$ 를 곱한 형태 : $A^kv = c_1 \lambda_1^k x_1 + \cdots + c_n \lambda_n^k x_n$
$A^kv$ 에서 $|\lambda_i| > 1$ 이라면 값은 점점커지고, $|\lambda_i| < 1 $ 이라면 값은 점점 사라진다.
EX) $ S = \begin{bmatrix} 2 & 1 \\ 1 & 2 \\ \end{bmatrix} $
$ x_1 = \begin{bmatrix} 1 \\ 1 \end{bmatrix} $
$ x_2 = \begin{bmatrix} 1 \\ -1\end{bmatrix} $
$\lambda_1 = 3$, $\lambda_2 = 1$
$S^k$ 는 $3^k$ 처럼 점차 커진다.
고유값, 고유벡터 성질
- $S$의 대각합 ( trace ) = 고유값 $ \lambda_1 \cdots \lambda_n $ 의 합
- 행렬식 = 고유값들의 곱 $\lambda_1 \lambda_2 \cdots \lambda_n$
- 실수 고유값 : 대칭행렬 $S = S^T$ 의 고유값은 항상 실수이다.
- 직교 고유벡터 : $\lambda_1 \neq \lambda_2$ 이면 $x_1 \cdot $x_2$ 이다.
Trace 와 Det 으로 고유값의 유효성을 확인할 수 있다.
대칭행렬 $S$는 실수와 비슷하고 ( $\lambda$ 는 실수), 직교행렬 $Q$ 는 크기가 1 인 복소수 $\exp^{i\theta} = \cos \theta + i \sin \theta $ 와 비슷하다.
EX) 회전행렬 $Q = \begin{bmatrix} 0 & -1 \\ 1 & 0 \\ \end{bmatrix} $ 의 고유값은 허수 $i$ , $-i$ 이고,
고유벡터는 $ x_1 = \begin{bmatrix} 1 \\ -i \end{bmatrix}$
$ x_2 = \begin{bmatrix} 1 \\ i \end{bmatrix} $이다.
$Q$ 의 고유벡터가 복소벡터인 경우에도 여전히 직교한다.
$A = \begin{bmatrix} 0 & 1 \\ -1 & 0 \\ \end{bmatrix}$, 행렬 $A$ 는 , $A = -A^T$ 이면서 90도 회전행렬이다.
단위원에 속하는 벡터 $x$ 에 대해서 $Ax$ 를 수행하면 어떤식으로든 $x$ 는 90 도 회전하게되고, 실수곱을 통해 $Ax$ 를 만들 수 없다. 따라서 고유값은 허수가 됨.
그러면 $A$ 의 고유값은 뭘까? $\lambda^2 + 1 = 0 $ 인 $\lambda$. 대각합과 행렬식으로 확인해볼 수 있다.
주의점
- $A+B$ 의 고유값은 일반적으로 $\lambda (A) + \lambda (B)$ 와 같지 않다.
- $AB$ 의 고유값은 일반적으로 $\lambda (A) \lambda (B)$ 와 같지 않다.
- 중복된 고유값 $ \lambda_1 = \lambda_2$ 는, 일차독립인 2개의 고유벡터가 없을수도있다.
- 실수행렬 $A$ 의 고유벡터가 직교하는것과 $A^TA = AA^T$ 인 것과 동치이다.
행렬 $A$ 는 연립일차미분방정식 $ \frac{\mathrm{d} u}{\mathrm{d} t} = Au $ 를 제어한다. 모든 고유벡터는 대응하근 고유값 $\lambda^n$ 에 따라 증가 또는 감소 또는 진동하고 대응되는 고유값은 $e^{\lambda t} $ 으로 바뀐다.
- 초기벡터 : $u(0) = c_1 x_1 + \cdots + c_n x_n$
- 해 벡터 : $u(t) = c_1 e^{\lambda_1 t} x_1 + \cdots + c_n e^{\lambda_n t} x_n $
증가와 감소는 $ \mathbf{Re}\lambda > 1 or < 1 $ 으로 결정된다.
고유값의 직접 계산
$Ax = \lambda x $은 $(A-\lambda I) =0$ 와 같고, $A-\lambda I$ 의 역행렬은 존재하지않는다. 즉, 이 행렬은 특이행렬이다. $A - \lambda I = 0$ 식은 $\lambda$ 에 관한 $n$ 차방정식이고, 근은 $n$ 개이다. 이 근이 고유값이다.
$n=2$ 에서,
$A-\lambda I$ 의 행렬식 $= \begin{vmatrix} a-\lambda & b \\ c & d-\lambda \\ \end{vmatrix} = \lambda^2 - (a+d)\lambda + (ad-bc) = 0$
$\lambda_1 + \lambda_2 = a+d$, $ \lambda_1 \lambda_2 = ad-bc$, $b = c$ 이면, 두 제곱근은 상쇄되어 실수인 근을 갖는다.
EX) $A = \begin{bmatrix} 8 & 3 \\ 2 & 7 \\ \end{bmatrix}$ 의 고유값과 고유벡터를 찾아라.
$ A-\lambda I = \begin{vmatrix} 8-\lambda & 3 \\ 2 & 7-\lambda \\ \end{vmatrix} = (\lambda - 10)(\lambda - 5) $, $\lambda = $ 10, 5
$ x_1 = \begin{bmatrix} 3 \\ 2\end{bmatrix} $, $x_2 = \begin{bmatrix} 1 \\ -1\end{bmatrix} $, 고유벡터는 서로 직교하지 않는다.
Q. $A$ 가 $A + sI$ 으로 평행이동한다면?
A. $(A+sI)x = \lambda x + sx = (\lambda + s)x$ -> 고유벡터는 그대로, $\lambda$ 는 $s$만큼 평행이동한다.
닮음 행렬
모든 가역행렬 $B$ 에 대해 $BAB^{-1}$ 의 고유값은 $A$ 의 고유값과 같고, $BAB^{-1}$ 의 고유벡터는 $x$ 에 $B$ 를 곱한 $Bx$ 형태가 된다.
$Ax = \lambda x $ => $(BAB^{-1})(Bx) = BAx = B\lambda x = \lambda (Bx) $
$BAB^{-1}$ 과 $A$ 는 닮음이고, 닮음인 두행렬의 고유값은 같다. 크기가 큰 행렬 $A$ 의 닮음 행렬 $BAB^{-1}$를 점진적으로 삼각행렬로 만들어 대각성분을 통해 고유값을 얻는다. 또한 대각행렬로 만들어서 쉽게 고유값을 구할 수 있다.
삼각행렬 $A$ 의 대각성분은 $A-aI$ 의 행렬식이 0 이기 때문에 $a$ 는 고유값이다.
$AB$ 와 $BA$ 의 고유값
$AB$ 와 $BA$ 를 닮은행렬로 만들 수 있을까? -> 닮음 행렬은 고유값이 동일하니깐.
$M(AB)M^{-1} = BA$ 에 맞는 $M$ 이 있나? -> $M = B$ -> 행렬 $AB$, $BA$ 는 닮음이다.
$AB$ 와 $BA$ 의 고유값은 동일하다. ( 고유값이 0 이 아닐경우 )
행렬의 대각화
행렬 $A$ 가 $n$ 개의 일차독립인 고유벡터를 가진다고 할 때, 그 $x_1 \cdots x_n$ 으로 가역행렬 $X$ 를 만든다.
곱 $AX$ 는 열별로 곱하여 $\lambda_1 x_1$, $\lambda_n x_n$ 을 얻고 이 행렬곱은, $X$ $\Lambda$ 로 분해된다. $AX=X\Lambda$
$\Lambda$ : 대각 고유값 행렬, $X$ : 가역 고유벡터 행렬
$A = X\Lambda X^{-1}$, $A^k = X \Lambda^k X^{-1}$
고유벡터와 고유값을 알면, 행렬 $A$ 뿐 아니라 그 거듭제곱도 알수 있다.
$A^k v $ 를 구하는 방법
- $X^{-1} v $ 로 $v = c_1 x_1 + \cdots + c_n x_n$ 의 계수 $c$ 를 구할수 있다.
- $\Lambda^k X^{-1} v $ 로 $c_1 \lambda_1^k x_1 + \cdots + c_n \lambda_n^k x_n $ 의 $\lambda$ 를 구할 수 있다.
- $X \Lambda X^{-1} v$ 로 $A^kv = c_1 \lambda_1^k x_1 + \cdots + c_n \lambda_n^k x_n $ 를 구할 수 있다.
EX) $A = \begin{bmatrix} 0.8 & 0.3 \\ 0.2 & 0.7 \\ \end{bmatrix}$ 행렬의 고유값은 $\lambda_1 = 1$ $\lambda_2 = 0.5$ 이다.
위 행렬은 합이 1인 양의 열을 포함하는 마르코프 행렬 이다.
$A^k v = c_1(1)^k x_1 + c_2(0.5)^k x_2$ 이고, $k$ 가 커질수록 $A^kv = c_1 x_1 = $ (안정상태) 에 근접한다.
각 고유벡터는 고유값에 의존한다.
미분방정식 $ \frac{\mathrm{d} u}{\mathrm{d} t} = Au $ 를 풀기위해 각 고유벡터에 $e^{\lambda t} $ 를 곱한다.
대각화 불가능 행렬
- 고유벡터(기하적) : $Ax = \lambda x$ 0 이아닌해가 존재한다.
- 고유값(대수적) : $A-\lambda I$ 의 행렬식이 0 이 아니다.
고유값은 중복도가 1 ( $M=1$ ) 이면, 단일 고유값으로 고유벡터는 하나의 직선이고, 인수분해시 2차 이상의 인수가 존재하지 않는다.
고유값이 반복되어 중복도가 2 이상 ( $M \geq 2$ )이면, 다중 고유값으로 $GM \leq AM$ 이다.
- 기하적 중복도 $GM$ : $\lambda$ 의 독립인 고유벡터 개수 -> $A-\lambda I$ 영공간의 차원을 찾는다.
- 대수적 중복도 $AM$ : 고유값에서 중복되는 $\lambda$ 개수 -> det( $A-\lambda I$) = 0 근을 찾는다.
$GM < AM$ 인 경우 대각화는 불가능하다.
$A$ 와 고유값 행렬 $\Lambda$ 는 닮음이다.
$A$ 와 그의 고유값 행렬 $\Lambda$는 같은 고유값을 가지기 때문에, 닮음이다. 따라서 $AM = M\Lambda$ 로 표현가능하다. 여기서 $M$ 을 찾는것이 대각화의 핵심이다.
당연하게 $M$ 은 고유벡터을 열로가지는 행렬이다.
대각행렬의 대각화
대각행렬의 고유벡터는 정규직교하고, 고유값은 실수이다. 따라서
$S = Q\Lambda Q^T$ 로 표현할수 있다. 이는 스펙트럼 정리이다.
https://jamboard.google.com/d/19bWwAnN0ejbvQJ2X2EA6JnH3gZQLHaYH8U_y5_o9gow
로그인 - Google 계정
하나의 계정으로 모든 Google 서비스를 Google 계정으로 로그인
accounts.google.com