PENERAPAN EXPLAINABLE ARTIFICIAL INTELLIGENCE (XAI) PADA MODEL DEEP LEARNING UNTUK DETEKSI GAMBAR DEEPFAKE MENGGUNAKAN GRAD-CAMNizar Mohammad Bintang TriPratamaauthorPerkembangan teknologi kecerdasan buatan telah memungkinkan pembuatan konten manipulasi wajah yang dikenal sebagai deepfake, yang berpotensi menimbulkan dampak serius seperti penyebaran informasi palsu, penipuan digital, dan ancaman terhadap privasi individu. Meskipun model deep learning mampu mendeteksi deepfake dengan akurasi tinggi, sifat black-box dari model tersebut menyebabkan sulitnya memahami proses pengambilan keputusan yang dihasilkan. Penelitian ini bertujuan untuk mengembangkan sistem deteksi deepfake berbasis arsitektur Xception dengan pendekatan transfer learning dan fine-tuning, serta menerapkan metode Explainable Artificial Intelligence (XAI) menggunakan teknik Gradient-weighted Class Activation Mapping (Grad-CAM) untuk meningkatkan transparansi model. Dataset yang digunakan adalah CelebDFV2 yang terdiri dari 20.000 citra wajah asli dan deepfake, dengan tahapan praproses meliputi resampling, face cropping menggunakan MTCNN, dan augmentasi data. Hasil evaluasi menunjukkan bahwa model berhasil mencapai akurasi sebesar 93,6%, nilai recall kelas Fake sebesar 0,98, dan nilai AUC sebesar 0,9888, yang mengindikasikan kemampuan diskriminasi model yang sangat baik. Visualisasi Grad-CAM membuktikan bahwa model memfokuskan perhatiannya pada area wajah yang relevan secara semantik dalam proses klasifikasi, sehingga meningkatkan interpretabilitas dan kepercayaan terhadap sistem. Hasil penelitian ini dapat dimanfaatkan oleh peneliti, praktisi keamanan digital, jurnalis, serta penegak hukum dalam upaya verifikasi keaslian konten visual di era kecerdasan buatan.000 Ilmu komputer, informasi dan pekerjaan umum2026-05-21Universitas AMIKOM Yogyakarta;Fakultas Ilmu KomputerThesis