Singulärwertzerlegung

Die Singulärwertzerlegung (Abk.: SVD für Singular Value Decomposition) einer Matrix bezeichnet deren Darstellung als Produkt dreier spezieller Matrizen. Daraus kann man die Singulärwerte der Matrix ablesen. Diese charakterisieren ähnlich den Eigenwerten Eigenschaften der Matrix. Singulärwerte kann man für jede Matrix bestimmen, im Gegensatz zu den Eigenwerten auch bei nichtquadratischen.

Definition

Als Singulärwertzerlegung einer komplexen Matrix $A \in \mathbb{C}^{m \times n}$ mit Rang $r$ bezeichnet man das Produkt

A = U Σ V *

aus den unitären Matrizen $U \in \mathbb{C}^{m \times m}$ und $V \in \mathbb{C}^{n \times n}$ sowie der reellen $(m \times n)$ -Matrix

$\Sigma = \begin{pmatrix} \sigma_1 & 0 & 0 & & 0 & 0 & & 0\\ 0 & \sigma_2 & 0 & \cdots & 0 & 0 & \cdots & 0\\ 0 & 0 & \sigma_3 & & 0 & 0 & & 0\\ & \vdots & & \ddots & & \vdots & & \vdots\\ 0 & 0 & 0 & & \sigma_r & 0 & & 0\\ 0 & 0 & 0 & \cdots & 0 & 0 & \cdots & 0\\ & \vdots & & & & \vdots & & \vdots\\ 0 & 0 & 0 & \cdots & 0 & 0 & \cdots & 0 \end{pmatrix}$

Die Einträge $σ i$ von $Σ$ sind die Singulärwerte von $A$ . Für sie gilt

$\sigma_1\geq\ldots\geq\sigma_r> 0$

Eigenschaften

Jede Matrix besitzt eine Singulärwertzerlegung. Bei einer reellen Matrix können die Matrizen $U$ und $V$ der Singulärwertzerlegung reell gewählt werden.

Wegen $A^*\cdot A=(V\Sigma^T U^*)\cdot(U\Sigma V^*)=V\Sigma^2 V^*$ ist $A^*\cdot A$ ähnlich zu $Σ 2$ . Damit sind die Singulärwerte der Matrix A gleich den Quadratwurzeln aus den Eigenwerten von $A * A$ . Also ist die Spektralnorm von A gleich $σ 1$ .

Einsetzen und Nachrechnen zeigt, dass sich die Pseudoinverse (bei Invertierbarkeit die Inverse) zu A aus: $A^{\dagger}=V\Sigma^{\dagger}U^*$ mit $(\Sigma)_{ij}^{\dagger} = \begin{cases}\frac{1}{\sigma_i} & \mathrm{falls}\ i=j \wedge \sigma_i\not=0 \\ 0 & \mathrm{sonst} \end{cases}$ ergibt. Somit sind die Singulärwerte der Inversen zu A genau $\frac{1}{\sigma_i}$ und die Konditionszahl (bezogen auf die Spektralnorm) von A ergibt sich zu $\kappa_2(A)=\frac{\sigma_1}{\sigma_n}$ .

Da unitäre Transformationen den Betrag der Determinante nicht ändern gilt für n=m $|\det(A)|=\prod_{i=1}^n \sigma_i$ .

Anwendung

Dieses Verfahren wird insbesondere in der numerischen Mathematik verwendet. Dort lassen sich beispielsweise quasisinguläre lineare Gleichungssysteme im Rahmen rechentechnischer Genauigkeiten passabel lösen.

Einige moderne Bildkompressionsverfahren beruhen auf einem Algorithmus, der das Bild (=Matrix aus Farbwerten) in eine SVD überführt und anschließend nur die stark von Null verschieden Elemente der Matrix $Σ$ berücksichtigt und dann die zur Rückgewinnung der Matrix erforderlichen Vektoren sowie die verbliebenen Diagonalelemente speichert. Besonders effektiv ist diese Kompression bei bestimmten rechteckigen Mustern und natürlich je größer (und je quadratischer) das Bild ist. Dies ist eine mögliche Anwendung von Modellreduktion. Das Weglassen von kleinen Singulärwerten ist ein verlustbehaftetes Modellreduktionsverfahren.