ラビットチャレンジ 応用数学レポート1 線形代数

応用数学 数学

スカラー

普通の数
四則演算ができる

ベクトル

大きさと向きを表すために開発されたといわれる
矢印で図示される
次のようにスカラーのセットで表される

$$ \vec{a} = \left(\begin{array}{c} 1 \\ 2  \end{array} \right) $$

行列

スカラーを表にしてまとめたもの
ベクトルを並べたもの(ベクトルのベクトル)
連立方程式の研究の中から作られたらしい

$$ A = \left( \begin{array}{ccc} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9  \end{array} \right) $$

ベクトルの変換に使える

スカラーとベクトルの積では・・・

$$ 2 \cdot \left(\begin{array}{c} 1 \\ 2  \end{array} \right) = \left(\begin{array}{c} 2 \\ 4  \end{array} \right)$$

スカラーとベクトルの積ではベクトルの第1成分と第2成分の単なる倍数にしかならない。
(1 2)→(4 5)になるようなバリエーションが欲しい

行列とベクトルの積

$$ \left( \begin{array}{ccc} 6 & 4 \\ 3 & 5 \end{array} \right)  \left( \begin{array}{c} 1 \\ 2 \end{array} \right) = \left( \begin{array}{ccc} 6×1 + 4×2 \\ 3×1 + 5×2 \end{array} \right) = \left( \begin{array}{c} 14 \\ 13 \end{array} \right) $$

(1 2)から(14 13)のベクトルに変換された!
変換後のベクトルの第1成分14には6×1+4×2=14より変換前のベクトルの第1成分1と第2成分2の影響が入っている。

行列同士の積

さきほどの行列とベクトルの計算の拡張版。
二つ目の行列をベクトルの並んだものと考える。

$$ \left( \begin{array}{cc} 2 & 1 \\ 4 & 1 \end{array} \right)  \left( \begin{array}{cc} 1 & 3 \\ 3 & 1 \end{array} \right) = \left( \begin{array}{cc} 2×1 + 1×3 & 2×3 + 1×1 \\ 4×1 + 1×3 & 4×3 + 1×1 \end{array} \right) = \left( \begin{array}{cc} 5 & 7 \\ 7 & 13 \end{array} \right) $$

行と列をかけて新たな成分を求めることができる。

連立方程式を行列で表示する

連立方程式をAx=bのようにすると便利

$$\begin{cases} x_1 + 2x_2 &= 3 \\ 2x_1 + 5x_1 &= 5 \end{cases}$$

$$ A\vec{x} = \vec{b} $$

ここで

$$ A = \left( \begin{array}{cc} 1 & 2 \\ 2 & 5 \end{array} \right) , \vec{x} = \left( \begin{array}{c} x_1 \\ x_2 \end{array} \right), \vec{b} = \left( \begin{array}{c} 3 \\ 5 \end{array} \right) $$

とすると、最初の連立方程式は

$$ \left( \begin{array}{cc} 1 & 2 \\ 2 & 5 \end{array} \right)  \left( \begin{array}{c} x_1 \\ x_2 \end{array} \right) = \left( \begin{array}{c} 3 \\ 5 \end{array} \right) $$

となり、この係数部分を表したものが行列になる。

行基本変形

次の3つの操作を行うことで連立方程式を形式的に解くことができる。

  • i行目をc倍する
  • s行目にt行目のc倍を加える
  • p行目とq行目を入れ替える

これを行基本変形という。
この操作に対応した行列を両辺に左からかけることで連立方程式を解ける。
つまり行基本変形は行列の変形で行うことができる

単位行列

スカラーで1のような働きをする行列を単位行列という。
積の計算をしても変化しない行列。
対角成分が1、そのほかの成分が0の行列で次のようにあらわされる。

$$ I = \left( \begin{array}{ccc} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{array} \right) $$

逆行列

逆数のような働きをする行列のことを逆行列という。
行列で割り算は定義されていないが、逆行列を掛け算することで同じような計算を行うことができる。
行列\(A\)の逆行列は上添え字に-1を付けて\(A^{-1}\)と表す。

逆行列と単位行列の関係は次のようになる

$$ AA^{-1} = A^{-1}A = I $$

逆行列の求め方:掃き出し法

 

$$ \left( \begin{array}{cc} 1 & 4 \\ 2 & 6 \end{array} \right)  \left( \begin{array}{c} x_1 \\ x_2 \end{array} \right) = \left( \begin{array}{c} 7 \\ 10 \end{array} \right) $$

右辺に単位行列を加えて形式を揃える

$$ \left( \begin{array}{cc} 1 & 4 \\ 2 & 6 \end{array} \right)  \left( \begin{array}{c} x_1 \\ x_2 \end{array} \right) = \left( \begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array} \right) \left( \begin{array}{c} 7 \\ 10 \end{array} \right) $$

逆行列を求めやすいように省略形で表す

$$ \left( \begin{array}{cc|cc} 1 & 4  & 1 & 0 \\ 2 & 6 & 0 & 1 \end{array} \right) $$

ここに行基本変形を適用していき、左側が単位行列になったら右側が逆行列になる。

$$ \left( \begin{array}{cc|cc} 1 & 4  & 1 & 0 \\ 2 & 6 & 0 & 1 \end{array} \right) $$

逆行列が存在しない条件

解がない、解が1組に定まらないタイプの連立方程式の場合

判定式

行列

$$ \left( \begin{array}{cc} a & b \\ c & d \end{array} \right) $$

があるとき次の式が成り立つとき逆行列を持たない

$$ ad -bc = 0 $$

行列式

ある行列が2つの横ベクトルの組み合わせだと考えたとき

$$ \left( \begin{array}{cc} a & b \\ c & d \end{array} \right)  = \left( \begin{array}{c} \vec{v_1} \\ \vec{v_2}  \end{array} \right) $$

二つの横ベクトルで作られる平行四辺形の面積を行列式と呼び、次のようにあらわす

$$  \begin{vmatrix} a & b \\ c & d \end{vmatrix}   =  \begin{vmatrix} \vec{v_1} \\ \vec{v_2}  \end{vmatrix}   $$

固有値と固有ベクトル

ある行列Aに対して以下の式が成り立つような、特殊なベクトル\( \vec{x}\)と、右辺の係数\(λ\)がある。

$$ A\vec{x} = λ\vec{x} $$

この特殊なベクトル\(\vec{x}\)と行列Aの積は、ただのスカラーである\(λ\)とその特殊なベクトル\(\vec{x}\)との積と同じ値になる。

この特殊なベクトル\(\vec{x}\)と係数\(λ\)を行列Aに対する、固有ベクトル固有値という。

固有値は一個に決まるが、固有ベクトルは複数ある。
ある特定の比率になってるベクトル全部が固有ベクトルになる。

固有値分解

固有値と固有ベクトルを使って行列をバラバラに分解することを固有値分解という。
分解をかけることで行列の累乗計算が容易になる等の利点がある。
行列はベクトルを変換するもの。何回もベクトルを変換したい場合、累乗計算が必要になる。

固有値を対角成分に持つ行列\(\Lambda\)と固有ベクトルを横に並べた行列Vを用意した時、次の式が成り立つ。

$$AV=V\Lambda$$

行列Aについて解くと

$$A=V\Lambda V^{-1}$$

ラムダ行列は一意に決まるが、両サイドのVは一意には決まらない。
ラムダ行列の数字の並べ方は慣例的に降順と昇順がある。

 

特異値分解

非正方行列でも固有値分解をしたい。条件を満たせば分解できる。これを特異値分解という。

$$M\vec{v}=\sigma\vec{u}$$

$$M^\top\vec{u}=\sigma\vec{v}$$

上記式を満たすような特殊な単位ベクトルがあるなら特異値分解できる

$${M=USV^{-1}}$$

行列とその行列の転置行列をかけると正方行列になる。
それを固有値分解するのが発想の原典。

 

特異値分解(固有値分解)の利用例

画像データを特異値分解して特異値行列から成分の小さい部分を取り除くとデータ量の削減ができる。

特異値の大きい部分が似ている=二つの画像が似ている
特異値を比較することで似てる画像を分類できる。
機械学習の前処理に応用できる。

コメント

タイトルとURLをコピーしました