Singular Value Decomposition (SVD)

"Raja Terakhir Aljabar Linear"

1. Apa itu SVD?

Eigendecomposition ($A=PDP^{-1}$) hanya bekerja untuk Matriks Persegi. Tapi di dunia nyata, data kita sering berbentuk Persegi Panjang (misal 1000 user x 50 fitur).

SVD adalah teknik faktorisasi matriks yang bekerja untuk SEMUA JENIS MATRIKS. Ini adalah generalisasi dari Eigendecomposition.

A
Data Asli
($m \times n$)
=
U
Basis Kiri
($m \times m$)
$\Sigma$
Singular Values
($m \times n$, Diagonal)
$V^T$
Basis Kanan
($n \times n$)

2. Intuisi Geometris

SVD memecah transformasi linear apapun menjadi 3 langkah sederhana:

  1. Rotasi ($V^T$): Memutar data.
  2. Scaling ($\Sigma$): Meregangkan data (Stretching) sesuai nilai Singular Values.
  3. Rotasi ($U$): Memutar lagi hasil akhirnya.

Artinya: "Semua matriks itu sebenarnya cuma Rotasi lalu Scaling lalu Rotasi".

3. Aplikasi: Kompresi Gambar

Nilai Singular ($\Sigma$) biasanya terurut dari besar ke kecil. Nilai yang kecil itu "kurang penting" (Noise/Detail halus).

Low-Rank Approximation: Kita bisa membuang nilai singular yang kecil-kecil, lalu mengalikan kembali $U \cdot \Sigma_{baru} \cdot V^T$. Hasilnya adalah matriks yang "mirip" aslinya tapi ukurannya jauh lebih kecil penyimpanannya.

SVD juga dipakai di **Recommender Systems** (Netflix Prize) untuk memprediksi rating film (Matrix Completion).