Thread by @pacmannai

Mengembangkang produk Machine Learning di dalam perusahaan (Part II): Feature Engineering Principal
.
.
.
A Thread

Haloo guys kali ini kita bakal lanjut nih bahas hal-hal yang dibutuhin buat mengembangkan produk machine learning di perusahaan, yukk ikutin !

Di thread ini mimin akan menjelaskan fase lanjutan setelah kemarin kita bahas Machine Learning Pipeline. Eits bagi yang ketinggalan jangan sedih, bisa langsung cek disini nihh

https://twitter.com/pacmannai/status/1371068662946275329

Sebelum masuk pembahasan, kira-kira siapa nih yang udah pada tau Feature Engineering??

Sebagai ringkasan, dari Fase I kemarin kita udah buat Machine Learning pipeline nih, mulai dari nentuin model yang cocok sampai monitoring performa dari model kita. Sekarang kita masuk Fase II yuk, Feature Engineering!

Feature Engineering merupakan pengetahuan untuk melakukan ekstraksi features pada data. Gambar berikut menunjukkan letak tahap features engineering dalam pembuatan model

Sumber: H2O.ai

Melalui Features Engineering, kita bisa menemukan apa aja sih yang bakal membuat model machine learning kita semakin baik. Loh tapi min, bukannya kemarin kita udah nentuin features dan ada test nya yaah?! Eits lanjut dulu..

Dalam rangka meningkatkan akurasi model kita, nggak mungkin dong selamanya hanya mengandalkan features yang sudah ada. Hal itu menyia-nyiakan kesempatan buat ningkatin kemampuan model machine learning yang udah kita buat

Banyak variasi features baru dari yang dapat dimasukkan kedalam sistem. Fase kedua ini bertujuan untuk mencari sebanyak mungkin features kemudian dikombinasikan lagi secara intuitif untuk menciptakan model.

Dengan demikian, fase ini akan menciptakan atau me-relaunch model-model baru yang didapatkan dengan menambahkan features yang kita riset.

Dalam fase ini akan banyak banget deploy model-model baru dan hal ini kita jadikan kesempatan untuk mencari sebanyak mungkin features, asalkan perhitungan modelnya selalu naik, yauda kita gas ajee hehe 😎️

Berarti kita ga bisa mengandalkan satu model dong min?? Yup. tapi jangan asal meluncurkan model yaa, setidaknya ada tiga alasan utama sebagai acuan dalam meluncurkan model

Alasan pertama, yaitu kalau kita bisa menemukan fitur-fitur baru. Dengan alasan ini kita meluncurkan model yang karena fitur yang kita temukan meningkatkan akurasi model

Alasan selanjutnya, kita bisa meluncurkan model baru jika kita menemukan tuning yang lebih tepat untuk memperlakukan fitur yang udah ada, atau kita kombinasikan fitur lama dengan cara yang berbeda.

Nah yang terakhir, kita luncurkan model baru ketika kita ingin ganti ‘objektif’ yang ingin dicapai oleh model kita. Loh apa hubunganya min?? Ada dong.. Yuk lanjut!

‘Mengganti objektif’ dalam kata lain adalah merubah tujuan model yang udah kita luncurkan. Hal ini sama kaya ketika tujuan kita mau ke Pondok Indah Mall, eh tiba-tiba doi minta jemput di rumah. Akhirnya kita harus menggunakan mobil yang sama untuk tujuan yang berbeda deh

Terlepas dari tiga alasan itu, dalam meluncurkan model baru kita juga harus mempertimbangkan hal yang mempermudah untuk nambah atau hapus model-model yang akan kita luncurkan.

Pertimbangan itu akan membuat kita lebih nyaman dalam menerapkan features engineering dan menerapkan di model yang baru tanpa harus kepikiran pipeline nya bakal rusak 😎️

Nah Selanjutnya, gimana sih cara nemuin fitur baru yang bisa ningkatin model kita? Yuk kita bahas!

Pertama, kita harus mengutamakan fitur-fitur yang kita amati secara langsung, bukan menggunakan fitur yang diciptakan sama model eksternal seperti unsupervised learning, atau justru fitur dari model kita sendiri

Loh bukannya malah bagus yah min?? Bisa jadi, tapi hal ini akan menyebabkan banyak sekali isu yang seharusnya gak terjadi jika kita menggunakan fitur yang diamati secara langsung.

Sebagai contoh, Ketika kita generate fitur baru menggunakan unsupervised learning, sistem eksternal yang kita gunakan bisa jadi tidak memiliki korelasi dengan objektif yang kita inginkan. Sama aja kita kayak kita mau ke bandung tapi naik kereta jurusan surabaya, salah alamat deh

Masalah lainnya juga timbul karena fitur-fitur turunan atau yang dihasilkan dari model deep learning merupakan nonconvex. Berikut gambar yang menunjukkan perbedaan kurva convex dan nonconvex

Nah dari perbedaan tersebut, kita bisa lihat puncak kurva nonconvex yang tidak konsisten, maka setiap iterasi yang dilakukan akan menghasilkan puncak (local minima) yang berbeda, dan nggak ada jaminan untuk melihat apakah solusi kita optimal atau engga.

Dengan demikian, kita tidak bisa nentukan nih, seandainya ada perubahan terhadap model kita, apa itu beneran dari solusi kita, atau karena random aja yah, jadi gabisa dihitung

Hal ini berbeda jika menggunakan fitur yang diamati secara langsung, bukan hasil dari generate. Kita akan mendapatkan performa dasar untuk bisa menghitung seberapa optimal sih solusi yang kita terapin

Nah terakhir, setelah kita menge-explore fitur, kita harus mempertimbangkan nih menghapus fitur yang sekiranya udah nggak kita gunakan dalam model. Dengan tetap fleksibilitas jika nantinya fitur tersebut mau ditambahin lagi

Hal tersebut penting dalam menjaga infrastruktur kita tetap bersih, jadinya fitur-fitur yang lebih bagus bisa kita tes dan terapkan dengan lebih optimal.

Nah kita udah belajar fase II nih, gimanaa, seruu kann😎️ Kita jadi tau kan prinsip-prinsip feature engineering. Bagi yang ingin lihat lebih lengkap bisa langsung kunjungi blog dari google di sini yaa
developers.google.com/machine-learni…

Atauu kalau mau belejar lebih lanjut, yuk langsung praktek ajaa di non-degree program Business Intelligence / Data Scientist Pacmann.AI. Pendaftaran batch 3 udah dibuka loh dan ada potongan hingga 500k untuk 10 pendaftar pertamaa 🤩🤩🤩

Kalau masih bingung apa sih yang akan dipelajarin di non degree program nanti, kalian bisa cek kurikulumnya di bit.ly/brosurpacmannai yaa atau kalau mau langsung daftar, langsung aja klik bit.ly/PendaftaranNon…. See you!