実対称行列のスペクトル分解

を或ることに使いたいので、線形代数について事実の纏め。

■ベクトル空間

  • 集合 V、体K が次の条件を満たすとき、V を K 上のベクトル空間と呼ぶ。
    • 和が定義されている：　\forall x, y\in V. \exists z\in V. x+y=z
    • スカラー倍が定義されている：　\forall x\in V. \forall a\in K. \exists z\in V. ax=z
    • Vが可換加法群：
  • W\subset V が V の和とスカラー倍に関してベクトル空間となるとき、W を V の部分空間と呼ぶ。
    • 空でない B=\{x_1, \cdots, x_r\}\subset V に対して、\langle B\rangle=\{a_1x_1+\cdots+a_rx_r | a_1, \cdots, a_r\in K\} は Vの部分空間となる
  • W_1, \cdots W_r が V の部分空間のとき、
    • W_1+\cdots+W_r=\{x_1+\cdots+x_r | x_1\in W_1, \cdots, x_r\in W_r\} は W_1, \cdots W_r を含む最小の V の部分空間となる
    • W_1\cap W_2 は V の部分空間となる
    • W_1\cap W_2=\{0\} のとき、W_1+W_2 を W_1 と W_2 の直和と呼び、W_1\oplus W_2 で表す
    • W_1\cup W_2 は一般に部分空間ではない
  • K^n=\{(x_1, \cdots, x_n) | x_1, \cdots, x_n \in K\} は 次の算法で n 次元ベクトル空間となり、数ベクトル空間と呼ぶ
    • (x_1, \cdots, x_n)+(y_1, \cdots, y_n)=(x_1+y_1, \cdots, x_n+y_n)
    • a(x_1, \cdots, x_n)=(ax_1, \cdots, ax_n)

■内積

  • K が \mathbb{R} または \mathbb{C} のとき、次で定める数ベクトル空間 K^n 上の複素数値2項演算 (x,y) を内積という
    • x=(x_1,\cdots, x_n)、y=(y_1,\cdots, y_n) に対して、(x,y)=\sum_{i=1}^n x_iy_i
  • 次が成立つ
    • (x+y,z)=(x,z)+(y,z)
    • (ax,y)=a(x,y), a\in K
    • (x,y)=\overline{(y,x)}
    • x\not=0\rightarrow(x,x)\not=0
    • (x,x)\geq0

■次元

  • \dim_K(V)=\min_{B\subset V}\{{\rm card}(B) | V=\langle B\rangle\} は V に対して一意に定まり、V の K 上の次元と呼ぶ
  • {\rm card}(B)=\dim_K(V) のとき、B を V の基底と呼ぶ
    • 基底 B=\{e_1, \cdots, e_n\} を一つ選ぶと、V の任意の元 x は x=a_1e_1+\cdots+a_ne_n (a_1, \cdots a_n\in K) と一意に表される
  • \forall i,j. (i\not=j\rightarrow (e_i, e_j)=0) のとき、B を直交基底と呼ぶ
  • さらに \forall i. (e_i, e_i)=1 のとき、B を正規直交基底と呼ぶ

■線形写像

  • K 上のベクトル空間 V, W に対して、写像 f:V\rightarrow W が次を満たすとき、線形写像と呼ぶ
    • \forall x, y\in V. f(x+y)=f(x)+f(y)
    • \forall a\in K. \forall x\in V. f(ax)=af(x)
  • 特に V=W のとき、f を線形変換と呼ぶ
  • 線形写像 f, g:V\rightarrow W と a\in K に対して、次も線形写像となる
    • V\ni x\mapsto (f+g)(x)=f(x)+g(x)\in W
    • V\ni x\mapsto (af)(x)=af(x)\in W
    • V\ni x\mapsto (f\circ g)(x)=f(g(x))\in W
  • {\rm Img}(f)=\{y\in W | \exists x\in V. f(x)=y\} は W の部分空間となり f の像と呼ぶ
  • その次元 {\rm rank}(f)=\dim_K({\rm Img}(f)) を fのrankと呼ぶ
  • {\rm Ker}(f)=\{x\in V | f(x)=0\} は V の部分空間となり f の核と呼ぶ
  • その次元 {\rm null}(f)=\dim_K({\rm ker}(f)) を f のnullityと呼ぶ
    • {\rm rank}(f)+{\rm null}(f)=\dim(V) となる

■行列

  • V の基底 B_V=\langle e_1, \cdots, e_n\rangle と W の基底 B_W=\langle E_1, \cdots, E_m\rangle を固定すると、f(e_j)=a_{1j}E_1+\cdots+a_{mj}E_m と一意に表せる
  • \forall v=\sum_{j=1}^{n}b_je_j\in V に対して、f(v)=f(\sum_{j=1}^{n}b_je_j)=\sum_{j=1}^{n}b_jf(e_j)=\sum_{j=1}^{n}b_j(\sum_{i=1}^{m}a_{ij}E_i) となるので、f は行列 A_f=(a_{ij})で表せる
  • A_f を B_V, B_W に関する f の表現行列と呼ぶ
  • 行列 A に対して {\rm rank}(A)=\dim_K(\langle A_1, \cdots, A_n\rangle) を A のrankと呼ぶ、ここで A_j は A の第 j 列とする
    • {\rm rank}(A_f)={\rm rank}(f) となる
    • 2つの行列 A, B に対して、A,B は共に f の表現行列 \Leftrightarrow 正則行列 P が存在して B=PAP^{-1}

■特殊な線形変換／行列

  • \forall x,y\in V. (f(x), f(y))=(x, y) なる線形変換 f を直交写像と呼び、その表現行列を直交行列と呼ぶ
  • \forall x,y\in V. (f(x), y)=(x, f(y)) なる線形変換 f を対称写像と呼び、その表現行列を対称行列と呼ぶ
  • \forall x\in V. f\circ f(x)=f(x) なる線形変換 f をベキ等写像と呼び、その表現行列をベキ等行列と呼ぶ
  • V の直和分解 V=V_1\oplus V_2 が存在し、\forall x=x_1+x_2\in V (x_1\in V_1, x_2\in V_2) に対して f(x)=x_1 なる線形変換 f を射影と呼び、その表現行列を射影行列と呼ぶ
  • 対称な射影を直交射影と呼ぶ
    • A が直交行列 \Leftrightarrow {}^tA=A^{-1}
    • A が対称行列 \Leftrightarrow {}^tA=A
    • A がベキ等行列 \Leftrightarrow A は射影行列
    • V=V_1\oplus\cdots\oplus V_r \Leftrightarrow 射影 p_1, \cdots, p_r が存在し、次の4条件を満たす
      • \forall i. p_i(V)=V_i
      • I=p_1+\cdots+p_r
      • \forall i. p_i\circ p_i=p_i
      • \forall i, j.(i\not=j\rightarrow p_i\circ p_j=0)

■固有値

  • 線形変換 f に対して f(x)=\lambda x なる \lambda\in K と x(\not=0)\in V があるとき、\lambda を f の固有値、x を \lambda に対応する f の固有ベクトルと言う
  • f の固有値 \lambda に対応する固有ベクトル全体に 0\in Vを加えた集合 F_f(\lambda)=\{x\in V | f(x)=\lambda x\} は V の部分空間となり、\lambda に対応する f の固有空間と言う
    • 異なる固有値 \lambda_i, \lambda_j に対して、直和条件 F_f(\lambda_i)\cap F_f(\lambda_j)=\{0\} が成立つので、異なる固有値空間に属す固有ベクトルは一次独立
    • dim(F_f(\lambda_1))+\cdots+dim(F_f(\lambda_r))=dim(V) のとき F_f(\lambda_1)\oplus\cdots\oplus F_f(\lambda_r)=V、よって射影 p_1, \cdots, p_r が存在して 次が成立つ
      • f=\lambda_1p_1+\cdots+\lambda_rp_r
      • p_1+\cdots+p_r=I
      • p_i\circ p_i=p_i
      • p_i\circ p_j=0 (i\not=j)
  • 線形変換 f を正方行列 A として、Aに対しても同様の概念を定義すると
  • A が実対称行列のとき、
    • A は重複を許して n 個の固有値を持ち、それらは全て実数
    • D=P^{-1}AP なる P は直交行列
    • 次を満たす正射影行列 P_1, \cdots, P_r が一意に存在する
      • A=\lambda_1P_1+\cdots+\lambda_rP_r
      • P_1+\cdots+P_r=I
      • P_sP_s=P_s
      • P_sP_t=O (s\not=t)
    • P_s=\prod_{t\not=s}\frac{1}{\lambda_s-\lambda_t}(A-\lambda_tI)
    • F_A(\lambda_s) の正規直交基底を x_k=(x_{k1},\cdots, x_{kn}) (k=1,\cdots,t) とすると、P_s の (i,j) 成分は \sum_{k=1}^t x_{ki}x_{kj}