SVD（Singular Value Decomposition）: 科学的基礎とその応用

はじめに

特異値分解（Singular Value Decomposition, SVD）は、線形代数学の基本的な技法の一つで、行列の解析に広く用いられています。SVDは、行列を単純な形に分解することで、その特性や構造を理解しやすくする手法です。特に、データ解析や画像処理、物理学など、多くの科学分野で重要な役割を果たしています。本記事では、SVDの基本的な概念とその科学的な背景について詳しく説明し、物理現象との関連性についても探っていきます。

行列と線形代数の基礎

行列とは何か

行列とは、数値や関数の並びを格子状に配置したもので、行（横方向の並び）と列（縦方向の並び）から構成されます。例えば、次のような2×2の行列を考えます。

$$
A = \begin{pmatrix} a_{11} & a_{12} \ a_{21} & a_{22} \end{pmatrix}
$$

ここで、$a_{ij}$は行列の要素であり、行$i$と列$j$に対応します。行列はベクトルの変換、連立方程式の解法、データの表現など、様々な分野で用いられます。

線形代数と行列の操作

行列を用いた操作には、加法、減法、積、転置、逆行列などがあります。特に行列積は、行列の列ベクトルを別の行列で変換する操作として非常に重要です。例えば、行列$A$と$B$の積$C$は、次のように定義されます。

$$
C = AB
$$

この操作により、$C$の各要素$c_{ij}$は、$A$の$i$行のベクトルと$B$の$j$列のベクトルの内積として計算されます。

SVDの定義

特異値分解（SVD）は、任意の$m \times n$行列$A$を、次のような形に分解する手法です。

$$
A = U \Sigma V^T
$$

ここで、$U$は$m \times m$の直交行列、$\Sigma$は$m \times n$の対角行列、$V$は$n \times n$の直交行列の転置$V^T$です。

直交行列とは

直交行列とは、その列ベクトルがすべて互いに直交し、かつ長さが1である行列です。つまり、直交行列$Q$は次の条件を満たします。

$$
Q^T Q = I
$$

ここで、$Q^T$は$Q$の転置、$I$は単位行列です。単位行列とは、対角要素がすべて1、その他の要素がすべて0である行列です。

対角行列とは

対角行列とは、対角要素以外がすべて0である行列です。例えば、次のような行列が対角行列です。

$$
\Sigma = \begin{pmatrix} \sigma_1 & 0 \ 0 & \sigma_2 \end{pmatrix}
$$

ここで、$\sigma_1$と$\sigma_2$は特異値と呼ばれ、$A$の構造や性質を反映しています。

SVDの物理的意味

SVDは、行列を異なる「軸」に沿って分解することで、元のデータや物理現象の構造を明確にする手法です。これは、例えば画像処理やデータ圧縮において、ノイズ除去や次元削減に利用されます。

例: 画像のノイズ除去

画像データを行列として表現し、その行列に対してSVDを適用すると、元の画像を異なる成分に分解できます。これにより、重要な情報を保ちながらノイズ成分を除去することができます。特に、特異値のうち大きな値に対応する成分が画像の主要な情報を担い、特異値の小さい成分はノイズや細部に対応することが多いです。

例: 次元削減

多次元データに対してSVDを用いることで、データの本質的な次元を抽出し、低次元空間に射影することができます。これにより、計算コストを削減しつつ、データの本質的な構造を理解することができます。特に、主成分分析（PCA: Principal Component Analysis）は、SVDを利用してデータを低次元空間に射影する手法の一例です。