Skip to content
←

Split View: 공업수학 시리즈 13편: 고유값과 고유벡터

|

공업수학 시리즈 13편: 고유값과 고유벡터

공업수학 시리즈 13편: 고유값과 고유벡터

고유값과 고유벡터는 처음엔 추상적으로 느껴지지만, 사실은 행렬이 공간을 어떻게 바꾸는지 가장 압축적으로 알려주는 개념입니다. 어떤 벡터들은 변환을 거쳐도 방향이 바뀌지 않고 크기만 바뀌는데, 그 방향이 바로 고유벡터입니다.

정의

행렬 AA와 0이 아닌 벡터 v\mathbf{v}에 대해

Av=λvA\mathbf{v} = \lambda \mathbf{v}

를 만족하면, λ\lambda를 고유값, v\mathbf{v}를 대응하는 고유벡터라고 합니다.

즉 행렬이 어떤 특별한 방향에 대해서는 회전시키지 않고 단지 늘이거나 줄이기만 한다는 뜻입니다.

왜 중요한가

고유값은 시스템의 핵심 모드를 보여 줍니다.

  • 동역학 시스템의 성장과 감쇠
  • 진동 시스템의 고유모드
  • 데이터의 주요 방향

이 모두가 고유값 문제와 연결됩니다.

어떻게 구할까

정의식에서

Av=λvA\mathbf{v} = \lambda \mathbf{v}

를 옮기면

(A−λI)v=0(A - \lambda I)\mathbf{v} = 0

가 됩니다. 자명하지 않은 해가 있으려면

det⁡(A−λI)=0\det(A - \lambda I) = 0

이어야 합니다. 이 식을 특성방정식이라고 합니다.

손으로 푸는 예제

행렬

A=(2103)A = \begin{pmatrix} 2 & 1 \\ 0 & 3 \end{pmatrix}

를 보겠습니다.

특성방정식은

det⁡(2−λ103−λ)=(2−λ)(3−λ)=0\det \begin{pmatrix} 2-\lambda & 1 \\ 0 & 3-\lambda \end{pmatrix} = (2-\lambda)(3-\lambda)=0

이므로 고유값은

λ1=2,λ2=3\lambda_1 = 2, \quad \lambda_2 = 3

입니다.

λ=2\lambda = 2일 때

(0101)(xy)=(00)\begin{pmatrix} 0 & 1 \\ 0 & 1 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}

이므로 y=0y=0이고, 고유벡터는

v1=(10)\mathbf{v}_1 = \begin{pmatrix} 1 \\ 0 \end{pmatrix}

의 배수입니다.

λ=3\lambda = 3일 때

(−1100)(xy)=(00)\begin{pmatrix} -1 & 1 \\ 0 & 0 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}

이므로 y=xy=x이고, 고유벡터는

v2=(11)\mathbf{v}_2 = \begin{pmatrix} 1 \\ 1 \end{pmatrix}

의 배수입니다.

해석

이 행렬은 어떤 벡터는 22배, 어떤 벡터는 33배 하면서 방향은 그대로 유지합니다. 일반 벡터는 여러 고유방향의 조합으로 볼 수 있고, 그래서 행렬 작용을 훨씬 구조적으로 이해할 수 있습니다.

공학 응용

진동 해석

구조물의 고유진동수와 모드형상은 고유값 문제로 나타납니다.

제어 시스템

선형시스템 행렬의 고유값은 안정성과 응답 속도를 결정합니다.

머신러닝

PCA는 공분산행렬의 고유값과 고유벡터를 이용해 데이터의 주된 방향을 찾습니다.

자주 하는 실수

고유값만 구하고 끝낸다

고유벡터까지 구해야 시스템의 실제 방향 구조를 이해할 수 있습니다.

모든 행렬이 예쁘게 분해된다고 생각한다

일부 행렬은 충분한 고유벡터를 갖지 못해 대각화가 안 됩니다. 이 점은 다음 글에서 이어 보겠습니다.

계산과 해석을 분리한다

고유값이 양수인지 음수인지, 크기가 큰지 작은지는 시스템의 의미와 직접 연결됩니다.

한 줄 요약

고유값과 고유벡터는 행렬이 특별한 방향들을 어떻게 늘이고 줄이는지 보여 주는 핵심 개념입니다.

다음 편 예고

다음 글에서는 고유값 아이디어를 한 단계 더 밀고 가서, 대각화와 동적 시스템 해석으로 연결하겠습니다.

참고자료

  • Erwin Kreyszig, Advanced Engineering Mathematics, 10th Edition
  • Gilbert Strang, Linear Algebra for Everyone
  • Carl D. Meyer, Matrix Analysis and Applied Linear Algebra

Engineering Math Series 13: Eigenvalues and Eigenvectors

Engineering Math Series 13: Eigenvalues and Eigenvectors

Eigenvalues and eigenvectors may feel abstract at first, but they are actually the concept that most concisely tells you how a matrix transforms space. Some vectors do not change direction after the transformation -- only their magnitude changes -- and that direction is precisely the eigenvector.

Definition

For a matrix AA and a nonzero vector v\mathbf{v}, if

Av=λvA\mathbf{v} = \lambda \mathbf{v}

then λ\lambda is called an eigenvalue and v\mathbf{v} is the corresponding eigenvector.

This means that for certain special directions, the matrix does not rotate but only stretches or shrinks.

Why Are They Important

Eigenvalues reveal the core modes of a system.

  • Growth and decay in dynamical systems
  • Natural modes in vibration systems
  • Principal directions of data

All of these are connected to eigenvalue problems.

How to Find Them

From the defining equation, rearranging

Av=λvA\mathbf{v} = \lambda \mathbf{v}

gives

(A−λI)v=0(A - \lambda I)\mathbf{v} = 0

For a nontrivial solution to exist,

det⁡(A−λI)=0\det(A - \lambda I) = 0

This equation is called the characteristic equation.

Worked Example

Consider the matrix

A=(2103)A = \begin{pmatrix} 2 & 1 \\ 0 & 3 \end{pmatrix}

The characteristic equation is

det⁡(2−λ103−λ)=(2−λ)(3−λ)=0\det \begin{pmatrix} 2-\lambda & 1 \\ 0 & 3-\lambda \end{pmatrix} = (2-\lambda)(3-\lambda)=0

so the eigenvalues are

λ1=2,λ2=3\lambda_1 = 2, \quad \lambda_2 = 3

For λ=2\lambda = 2

(0101)(xy)=(00)\begin{pmatrix} 0 & 1 \\ 0 & 1 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}

so y=0y=0, and the eigenvector is a multiple of

v1=(10)\mathbf{v}_1 = \begin{pmatrix} 1 \\ 0 \end{pmatrix}

For λ=3\lambda = 3

(−1100)(xy)=(00)\begin{pmatrix} -1 & 1 \\ 0 & 0 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}

so y=xy=x, and the eigenvector is a multiple of

v2=(11)\mathbf{v}_2 = \begin{pmatrix} 1 \\ 1 \end{pmatrix}

Interpretation

This matrix scales certain vectors by 2 and others by 3 while keeping their direction unchanged. A general vector can be viewed as a combination of eigendirections, so the matrix action can be understood much more structurally.

Engineering Applications

Vibration Analysis

The natural frequencies and mode shapes of a structure appear as eigenvalue problems.

Control Systems

The eigenvalues of a linear system matrix determine stability and response speed.

Machine Learning

PCA uses the eigenvalues and eigenvectors of the covariance matrix to find the principal directions of data.

Common Mistakes

Only computing eigenvalues and stopping

You need to compute eigenvectors too in order to understand the actual directional structure of the system.

Assuming every matrix decomposes neatly

Some matrices do not have enough eigenvectors for diagonalization. We will continue this in the next post.

Separating computation from interpretation

Whether eigenvalues are positive or negative, large or small, is directly connected to the meaning of the system.

One-Line Summary

Eigenvalues and eigenvectors are the core concept showing how a matrix stretches and shrinks specific directions.

Next Post Preview

In the next post, we will push the eigenvalue idea one step further and connect it to diagonalization and dynamic system analysis.

References

  • Erwin Kreyszig, Advanced Engineering Mathematics, 10th Edition
  • Gilbert Strang, Linear Algebra for Everyone
  • Carl D. Meyer, Matrix Analysis and Applied Linear Algebra