AI理論：特異値分解ー対称行列,直行行列,対角行列
AI

AI理論：特異値分解ー対称行列,直行行列,対角行列からー

対称行列＝AT = A (A転置＝A)

>転置しても同じ行列のことを言う

例）[1 2¥ 2 3] を転置しても[1 2 ¥ 2 3]

 

直行行列＝ATA = I (A転置✖️A = I(単位行列））

例）A =[ 1 0 ¥ 0 1]

ATA = [1 0¥0 1][1 0¥ 0 1] = [1 0¥0 1] = I

特徴１：列ベクトルが互いに直行している

特徴２：ベクトルの長さが１

 

対角行列＝対角成分以外は全て０の行列

A[1 0 0¥ 0 1 0¥ 0 0 1]

diag(a1 , a2, a3 an)と表すこともできる

 

特異値分解（Singular Value Composition)

A = U S VT (行列A を　直行行列U, 対角行列S, 直行行列V転置　に分解する）

A のサイズ感は m ✖️ n

U =　左特異行列　サイズ感は m✖️m

S =  対角行列　サイズ感は m ✖️ n

VT = 右特異値行列　サイズ感は n✖️n

 

例）A = [0 2¥ 1 0]の時

Uの求め方

AAT = [0 2¥1 0][0 1¥1 0] = [4 0¥ 0 1]

固有値λ

|AAT - λI| = 0

|[4-λ 0¥0 1-λ| = 0

(4-λ)(1-λ) = 0

λ = 4,1

固有ベクトルx

AATx = λx

λ=4の時

[4 0¥0 1][x1¥x2] = 4[x1 x2]

[4x1¥x2] = [4x1¥4x2]

x = [1 0]

 

λ=1の時

[4 0¥0 1][x1¥x2] = 1[x1¥x2]

[4x1¥x2]=[x1¥x2]

x=[0¥1]

U = [1 0¥0 1] ←λの大きい順に左から

 

vの求め方

ATA = [0 1¥2 0][0 2¥1 0] = [1 0¥0 4]

固有値λ

|ATA-λI| = 0

|[1-λ 0¥0 4-λ]| = 0

(1-λ)(4-λ）＝０

λ＝4,1 

 

固有ベクトルはλ＝4の時

[1 0¥0 4][x1 x2] =4[x1 x2]

x1¥4x2 = 4x1¥x2

x=[0¥1]

 

λ=1の時

[1 0¥0 4][x1 x2] =1[x1 x2]

x1¥4x2 =x1¥x2

x=[1¥0]

 

V = [0 1¥ 1 0]

Vt= [0 1¥ 1 0]

 

S（対角行列）の求め方

[√4 0¥0 √1] = [2¥0]

↑AATとATAの固有値（A✖️A転置とA転置✖️Aの固有値λを降順に入れている）

 

よって

A = USVT

[0 2¥1 0] = [1 0¥0 1][2 0¥0 1][0 1¥1 0]