Thread by @pacmannai

Memahami kontribusi features pada model ML.
Intro to Interpretable Machine Learning menggunakan SHAP Values (Part I)
.
.
.
A Thread

Halo guyss, pernah gak sih kalian penasaran, kira-kira seberapa besar yaa kontribusi tiap-tiap features dari model yang kita buat??

Kali ini mimin akan bahas salah satu tools yang digunakan dalam Interpretable Machine Learning: “SHAP Values“. Tapi sebelum masuk kesana, yukk kita pahami dulu apa sih Interpretable ML

Dalam dunia ML, meskipun suatu model udah sering digunakan, tetap aja sebagian besarnya seakan-akan kotak hitam buat kita, gelap dan isinya gak bisa diketahui, kayak isi hati doi 😁️ Nah, disinilah muncul interpretable ML untuk untuk menjelaskan cara kerja model kita.

Studi tentang Interpretable ML ini dapat mengatasi stigma “kotak hitam” (black boxes) terhadap ML, yang di mana bahkan perancangnya nggak bisa menjelaskan kenapa model ML nya bisa sampai pada keputusan tertentu.

Nah, kemudian apa sih itu menginterpretasikan suatu model ML supaya mudah dipahami ? Ada tiga poin utama yang dapat kita jadikan acuan untuk melakukan Interpretasi model ML, yaitu What, Why, dan How. Yuk kita pahami !

Pertama, What, pahami apa yang membuat model bisa memprediksi. Dari sini kita akan mengerti gimana sih interaksi tiap features, sehingga bisa menentukan kira-kira features mana yang akan menjadi penting untuk pengambilan keputusan dari model ML kita.

Hal ini akan memastikan “fairness” dalam model yang kita miliki.

Kedua, Why, kita pahami kenapa model kita memilih untuk mengambil suatu keputusan tertentu. Dengan memahami ini, kita akan bisa memvalidasi apakah features tertentu berpengaruh terhadap pengambilan keputusan, sehingga hal ini akan memastikan model kita dapat dipertanggungjawabkan

Ketiga, How, kita memastikan bagaimana kita bisa memastikan model kita ini dapat digunakan dengan tepat. Poin ini memastikan kita untuk bisa mengevaluasi dan memvalidasi tiap tiap data poin serta bagaimana cara model kita mengambil keputusan terhadapnya.

Nah hal ini akan memastikan transparansi dalam model kita.

Tingkat mudah-sulitnya suatu model machine learning untuk kita pahami “cara pengambilan keputusannya” melalui 3 poin tadi (What, Why, How) dapat disebut sebagai interpretability, atau sebutan lainnya, Human human-interpretable interpretations (HII).

Semakin tinggi tingkat interpretabillitynya, maka akan semakin mudah pula model ML tersebut untuk dijelaskan cara pengambilan keputusannya.

Selanjutnya mungkin kalian bertanya “sesulit itukah min menjelaskan model ML? kenapa harus ribet banget yahh” jawabannya.. tergantung. Kok bisa?

Dalam studi tentang Interpretable ML, terdapat istilah umum “Interpretability and complexity Trade off”. Semakin mudah suatu model untuk dijelaskan, maka model tersebut semakin tidak kompleks.

Tapi sebaliknya jika mimin menggunakan model yang kompleks, maka akan lebih sulit juga model itu untuk dijelaskan. Maka kita harus pilih antara interpretability untuk membuat model lebih mudah dijelaskan atau complexity untuk membuat model lebih akurat.

Masih bingung ?? Okee mimin ambil contoh dari model sederhana ya, yaitu regresi linier berganda. Sebagaimana kita paham regresi linier berganda memiliki model seperti pada gambar berikut.

Model tersebut kita gunakan untuk memprediksi apakah seseorang menyukai game komputer, berdasarkan umur (age), jenis kelamin (gender), dan pekerjaan (occupation) orang tersebut.

Nah dari sana, kita bisa tau features yang kita masukkan ialah x_Age, x_Gender, dan x_Occupation. Maka untuk menjelaskan seberapa pentingnya tiap features merupakan hal yang mudah, kita hanya perlu melihat seberapa besar koefisien ϕ pada tiap-tiap features.

Sebagai Contoh jika ϕ_Age besar (koefisien pada features Age), akan menandakan bahwa features Age memiliki pengaruh besar terhadap model tersebut. begitu juga akan berlaku sebaliknya jika koefisien tersebut kecil maka pengaruh x_Age tidak signifikan terhadap model.

Nah karena model kita regresi linier, maka ia hanya bisa digunakan untuk data yang memiliki hubungan linier. Pertanyaannya, gimana caranya menentukan features importance jika ternyata pada rentan umur 12-18 seseorang lebih suka bermain game dibanding umur lainnya ??

Yap, jawabannya ‘nggak bisa’ karena data memiliki hubungan non-linier, maka membutuhkan model yang lebih kompleks. Nah, sekarang, gimana cara kita menjelaskan model yang kompleks? Lanjut yaah!

Untuk menginterpretasikan model yang complex, mimin akan ambil model kompleks yang telah mempelajari pola non-linier dalam data lalu kita akan pecah menjadi banyak model linier yang mendeskripsikan titik data individual.

Dengan demikian, jika menggabungkan semua model individual yang sederhana ini, kita akan bisa dapatkan gimana sih model itu berperilaku pada tiap-tiap orang yang akan diprediksi.

Nah tapi, penting untuk dicatat, bahwa koefisien ϕ yang kita gunakan ini bukan lagi hasil dari model ya, melainkan apa mimin gunakan untuk menginterpretasikan model ini.

Sebagai contoh, ada seorang bernama Frank yang bekerja sebagai penguji game dan memiliki usia 50 tahun, dia suka dengan game komputer, Maka, Frank akan memiliki koefisien ϕ_Job yang tinggi, sedangkan koefisien ϕ_Age akan rendah.

Selanjutnya, bagi Bobby yang juga suka dengan game komputer , jika ia 14 tahun dan tidak bekerja, ϕ_Age akan menjadi tinggi karena model melihat bahwa anak 14 tahun cenderung menyukai game komputer.

Sebagai tambahan untuk menyederhanakan model kita. Maka tiap-tiap koefisien akan kita kalikan dengan 1 atau 0 tergantung keberadaaan featuresnya. contoh jika Bobby tidak bekerja, maka ϕ_Occupation akan kita kalikan dengan 0

Hal ini jika kita lakukan untuk tiap data poin lalu kita gabungkan, maka kita akan mendapatkan pemahaman bagaimana cara model kita bekerja secara global. selanjutnya kita tinggal pahami gimana cara menghitung angka koefisien ϕ. Disinilah kita akan menggunakan Shapley Value😎

Shapley Value diambil berdasarkan Cooperative Game Theory. Kita bayangkan ada sekelompok orang bermain game, di akhir permainan tiap orang menerima hadiah sesuai dengan kontribusi masing-masing. Gimana cara membagi hadiahnya ??

Nah sesuai ketentuan Shapley Value, ada aturan-aturan supaya pembagiannya menjadi adil dan sesuai kontribusi. Yuk ikutin terus thread pacmann untuk pembahasan lanjutannya yaah 😁️

Gimana, jadi tau kan interpretable Machine Learning. Kalau kalian mau dalemin lagi gimana sih konsep machine learning dan juga penerapannya, langsung aja belajar bareng di non degree program Data Scienctist Pacmann.AI!

Kalian bisa liat apa aja yang akan dipelajari di non degree program DS di bit.ly/BrosurSingkatP… atauu kalau ada yang mau ditanyaiin bisa chat kami di bit.ly/WASalesPacmann. Buruan daftar, mumpung masih ada THR dari Pacmann, jangan sampai kelewatan yaa!