Tugas 6: Explainable AI (XAI): Interpretasi Model Prediktif Menggunakan SHAP dan PDP - Academics

Tugas 6: Interpretasi Model Black-Box Menggunakan Explainable AI (SHAP dan PDP)

Penerapan kerangka kerja Explainable Artificial Intelligence (XAI) untuk membongkar mekanisme internal model kompleks (black-box machine learning), memberikan transparansi keputusan, dan memvalidasi keadilan model (model fairness).

1. Landasan Teori Nilai SHAP (SHapley Additive exPlanations)

Berasal dari konsep teori permainan kooperatif (Cooperative Game Theory), nilai Shapley mendistribusikan kontribusi setiap fitur secara adil terhadap selisih antara prediksi model $f(x)$ dan nilai ekspektasi rata-rata $\mathbb{E}[f(X)]$ :

\phi_i(x) = \sum_{S \subseteq F \setminus \{i\}} \frac{|S|! (|F| - |S| - 1)!}{|F|!} \left( f_x(S \cup \{i\}) - f_x(S) \right)

di mana $F$ adalah himpunan seluruh fitur dan $S$ adalah subset koalisi fitur tanpa fitur ke- $i$ .

2. Visualisasi Partial Dependence Plots (PDP)

PDP Univariat: Menggambarkan efek marjinal dari satu fitur terhadap luaran prediksi model secara global dengan memperhitungkan rata-rata pengaruh seluruh fitur lainnya.
Individual Conditional Expectation (ICE): Menampilkan kurva prediksi individual untuk setiap baris sampel guna mendeteksi keberadaan efek interaksi nonlinier yang tersembunyi.

3. Analisis Hasil Interpretasi Model

Visualisasi SHAP summary plot, beeswarm plot, dan force plot diterapkan untuk mengidentifikasi fitur pendorong positif maupun penghambat keputusan, memastikan luaran model selaras dengan logika domain bisnis riil.

4. Berkas Tugas Terlampir

Jupyter Notebook interpretasi: xai-shap-pdp-analysis.ipynb yang mendokumentasikan integrasi modul shap dan scikit-learn, grafik dependensi parsial, dan analisis atribusi lokal.