singular value

singular value（特異値）は、線形代数において行列の性質を解析するための非常に重要な概念です。直感的には、ある行列がベクトルを変換した際に、その変換によってどれだけ空間が引き伸ばされたか、あるいは圧縮されたかという拡大率を表しています。これは正方行列に限定される固有値とは異なり、あらゆる形状の行列（長方形の行列を含む）に適用できるため、データ圧縮やノイズ除去などの実用的な計算に広く利用されています。

固有値との概念的な違い

eigenvalue（固有値）は、行列を掛け合わせても方向が変わらない特定のベクトル（固有ベクトル）に対する倍率を指しますが、これは正方行列でなければ定義できません。一方で singular value は、入力空間と出力空間で異なる基底を用いるため、行列の形状に関わらず定義可能です。数学的には、行列 A の特異値は A*A（または A の転置行列と A の積）の固有値の平方根として求められます。そのため、特異値は常に非負の実数となるという特徴があります。

実用的応用と特異値分解

特異値は singular value decomposition（特異値分解）の核となる要素です。特異値を大きい順に並べることで、データのどの成分が最も重要であるかを判断できます。例えば、画像処理において小さい特異値をゼロに置き換えて近似することで、重要な情報を保持したままデータ量を削減する低ランク近似が可能になります。また、統計学における主成分分析（ＰＣＡ）とも密接に関連しており、データの分散が最大となる方向を特定する際にこの概念が活用されています。