Bab 3: Geometri Analitik

Norma, Jarak, Sudut, dan Proyeksi Ortogonal

Peta Konsep

                            graph LR
                                A[Vektor] --> B[Inner Product]
                                B --> C["Norma (Panjang)"]
                                B --> D[Sudut]
                                B --> E[Ortogonalitas]
                                C --> F["Jarak (Metrik)"]
                                E --> G[Proyeksi Ortogonal]

Konsep geometri dibangun di atas Inner Product.

1. Norma (Norms)

Norma memberikan kita konsep "panjang" dari sebuah vektor. Dilambangkan dengan $\|\boldsymbol{x}\|$. Norma yang paling umum di ML adalah Euclidean Norm ($\ell_2$-norm):

\|\boldsymbol{x}\|_2 = \sqrt{\sum_{i=1}^{n} x_i^2} = \sqrt{\boldsymbol{x}^\top\boldsymbol{x}}

Contoh Perhitungan: Norma

Misalkan vektor $\boldsymbol{x} = [3, 4]^\top$.

Euclidean Norm ($\ell_2$):

\|\boldsymbol{x}\|_2 = \sqrt{3^2 + 4^2} = \sqrt{9 + 16} = \sqrt{25} = 5

Manhattan Norm ($\ell_1$):

\|\boldsymbol{x}\|_1 = |3| + |4| = 7

2. Hasil Kali Dalam (Inner Product)

Inner product (biasanya Dot Product di $\mathbb{R}^n$) memungkinkan kita mengukur hubungan geometris antara dua vektor, seperti sudut dan panjang.

\langle \boldsymbol{x}, \boldsymbol{y} \rangle = \boldsymbol{x}^\top\boldsymbol{y} = \sum_{i=1}^{n} x_i y_i

Contoh Perhitungan: Dot Product

Diberikan $\boldsymbol{x} = [1, 2]^\top$ dan $\boldsymbol{y} = [3, -1]^\top$.

\boldsymbol{x}^\top\boldsymbol{y} = (1)(3) + (2)(-1) = 3 - 2 = 1

3. Sudut dan Ortogonalitas

Menggunakan Inner Product, kita bisa mendefinisikan sudut $\omega$ antara dua vektor:

\cos \omega = \frac{\langle \boldsymbol{x}, \boldsymbol{y} \rangle}{\|\boldsymbol{x}\| \|\boldsymbol{y}\|}

Contoh Perhitungan: Sudut

Menggunakan vektor dari contoh sebelumnya, $\boldsymbol{x} = [1, 2]^\top$ dan $\boldsymbol{y} = [3, -1]^\top$.

Kita sudah tahu $\boldsymbol{x}^\top\boldsymbol{y} = 1$.

Hitung norma:

\|\boldsymbol{x}\| = \sqrt{1^2 + 2^2} = \sqrt{5} $$ $$ \|\boldsymbol{y}\| = \sqrt{3^2 + (-1)^2} = \sqrt{10}

Maka cosinus sudutnya:

\cos \omega = \frac{1}{\sqrt{5}\sqrt{10}} = \frac{1}{\sqrt{50}} \approx 0.1414

Sudut $\omega \approx 81.87^\circ$. Karena $\cos \omega \neq 0$, vektor ini tidak ortogonal.

4. Proyeksi Ortogonal

Proyeksi adalah salah satu konsep terpenting untuk algoritma seperti PCA (Principal Component Analysis). Jika kita ingin memproyeksikan vektor $\boldsymbol{x}$ ke subruang (garis) yang direntang oleh basis vektor $\boldsymbol{b}$ (asumsikan $\|\boldsymbol{b}\|=1$ untuk kemudahan, atau gunakan rumus umum di bawah), kita mencari vektor hasil proyeksi $\pi_U(\boldsymbol{x})$.

Visualisasi Proyeksi Ortogonal

Contoh Perhitungan: Proyeksi

Proyeksikan vektor $\boldsymbol{x} = [2, 3]^\top$ ke garis yang direntang oleh $\boldsymbol{b} = [1, 1]^\top$.

1. Hitung $\langle \boldsymbol{x}, \boldsymbol{b} \rangle = 2(1) + 3(1) = 5$.

2. Hitung $\|\boldsymbol{b}\|^2 = 1^2 + 1^2 = 2$.

3. Hitung koordinat $\lambda$:

\lambda = \frac{5}{2} = 2.5

4. Hasil proyeksi:

\pi_U(\boldsymbol{x}) = 2.5 \begin{bmatrix} 1 \\ 1 \end{bmatrix} = \begin{bmatrix} 2.5 \\ 2.5 \end{bmatrix}

Bab 2: Aljabar Linear Bab 4: Dekomposisi Matriks