特異値計算機 - SVD行列分解

特異値分解（SVD）は、線形代数で最も重要な分解の1つです。任意の実数 m×n 行列 A に対して、SVD は A = UΣV^T と表します。ここで U は m×m の直交行列、Σ は対角成分が非負の m×n 対角行列、V は n×n の直交行列です。Σ の対角成分 σ₁ ≥ σ₂ ≥ … ≥ 0 が A の特異値です。 特異値は、元の行列に負の値や複素的な構造が含まれていても、常に非負の実数です。これらは行列によって一意に定まり、特異値が重複する場合には U や V のベクトルが一意でないことがあります。非ゼロ特異値の個数は行列のランクに等しく、これは列空間（行列 A で表される線形変換の取り得る出力全体の次元）を表します。 SVD と固有値の関係は厳密です。A の特異値は、対称半正定値行列 A^T·A（あるいは左特異ベクトルに対しては A·A^T）の固有値の平方根です。この計算機では、まず A^T·A を求め、次に Jacobi 固有値アルゴリズム——Givens 回転と呼ばれる直交回転を繰り返して対称行列の非対角成分を0にしていく反復法——を適用して固有値を求め、その平方根を取ります。 最大特異値 σ₁ は行列のスペクトルノルム（2-ノルム、作用素ノルムとも呼ばれます）に等しく、単位ベクトルをどれだけ最大に伸ばせるかを表します。Frobeniusノルムはすべての特異値の二乗和の平方根であり、行列要素の二乗和の平方根と等しくなります。これらのノルムは実用的な意味を持ち、Frobeniusノルムは行列全体のエネルギーを表す最も自然な尺度であり、スペクトルノルムは摂動に対する感度を制御します。 条件数 κ = σ₁/σₙ（最大特異値と最小特異値の比）は、連立一次方程式を解く際の行列の条件の良さを定量化します。条件数が1に近いとき、系は条件が良く、正確に解きやすいといえます。条件数が非常に大きい——たとえば 10⁶ や 10¹² を超える——場合は、入力のわずかな摂動が解に大きな変化を引き起こす病的な系であり、科学計算や機械学習における数値不安定性の典型的な原因です。 SVD は幅広い用途を持ちます。データサイエンスでは、次元削減の主力である主成分分析（PCA）は、中心化したデータ行列の SVD を計算することと数学的に同値です。主成分は右特異ベクトル V であり、各成分で説明される分散は対応する特異値の二乗に比例します。画像処理や圧縮では、最大の k 個の特異値とそれに対応するベクトルだけを残すことで、画像行列のランク-k 近似が得られ、すべてのランク-k 行列の中で Frobeniusノルム誤差を最小化します。これは Eckart-Young の定理です。推薦システム（協調フィルタリング）では、SVD による行列分解を用いて未見アイテムのユーザー評価を予測します。工学では、擬似逆 A† = VΣ†U^T により、過剰決定系や未決定系に対する最小ノルム最小二乗解を得られ、これはロボティクス、制御理論、信号処理で重要です。 この計算機では、Jacobi アルゴリズムにより、およそ 10×10 までの行列を安定して扱えます。非常に大きい行列や、ほぼ同じ特異値を多く持つ行列では、浮動小数点の丸め誤差の蓄積により精度が多少落ちることがありますが、一般的な入力では少なくとも6桁の有効数字まで正確です。