1. Masalah "Black Box"
Jika AI mendiagnosa pasien menderita kanker, dokter bertanya: "Kenapa kamu bilang begitu?". Kalau AI tidak bisa jawab (karena cuma kumpulan matriks angka), dokter tidak akan percaya. Inilah pentingnya Explainable AI (XAI).
Biased AI: AI bisa rasis/seksis jika data trainingnya bias. XAI membantu
kita mendeteksi ini.
Contoh: AI menolak lamaran kerja hanya karena pelamar wanita.