E N D
Here are the algorithms: • C4.5 • k-means • Support vector machines • Apriori • EM • PageRank • AdaBoost • KNN • Naive Bayes • CART https://www.kdnuggets.com/2015/05/top-10-data-mining-algorithms-explained.html https://www.devteam.space/blog/top-10-data-mining-algorithms/
Pohon Keputusan Dasar algoritma C4.5 adalah pembentukan pohon keputusan (decision tree). Decision tree merupakan salah satu metode klasifikasi yang menggunakan representasi struktur pohon(tree) dimana setiapnode merepresentasi-kan atribut, cabangnya merepresentasikan nilai dari atribut, dan daunmerepresentasikan kelas
DATA DECISION TREE RULE Konsep Pohon Keputusan mengubah bentuk data (tabel) menjadi model pohon, mengubah model pohon menjadi rule, dan menyederhanakan rule
Algoritma C4.5 Salah satu algoritma induksi pohon keputusan yaitu ID3 (Iterative Dichotomiser 3). ID3 dikembangkan oleh J. Ross Quinlan. Dalam prosedur algoritma ID3, input berupa sampel training, label training dan atribut. Algoritma C4.5 merupakan pengembangan dari ID3. 23C
Algoritma C 4.5 : • Pilih atribut sebagai akar • Buat cabang untuk tiap-tiap nilai • Bagi kasus di dalam cabang • Ulangi Proses untuk setiap cabang sampai semua kasus pada cabang memiliki kelas yang sama
Untuk memilih atribut akar, didasarkan pada nilai GAIN tertinggi dari atribut-atribut yang ada. • Untuk mendapatkan nilai GAIN, harus ditentukan terlebih dahulu nilai ENTROPY
ContohKasus 1 :MengidentifikasiFaktor-FaktorPenyebabKecelakaanKerjaKonstruksi (K3)
Dari perhitunganpadatabelNode 1dapatdiketahuibahwaatributdengangaintertinggiadalahNilaiyaitu 0.2355 yaituPekerjadan Cara Kerja. Nilaidapatmenjadinodeakar, dimananilaiatribut TB sudahdapatdikatakanTidakBaik. Akantetapi, nilaiatribut B masihperludilakukanperhitunganlagi, pohonkeputusandarihasilnode 1 dapatdilihatpadagambarberikut :
Dari hasilNode 1.1 dapatdiketahuibahwaatributgain tertinggiadalahLingkunganTempatKerja, yaitusebesar 0.5466, berartiLingkunganTempatKerjadapatmenjadinodeakar, Atribut C memilikiNilai “Baik” Atribut TB bernilai “ TidakBaik “ sedangkanAtribut B perludilakukanperhitunganlagi, Pohonkeputusan yang terbentukpadanode 1.1 :
Dari hasilNode 1.2 dapatdiketahuibahwaatributgain tertinggiadalahAlatPelindingDiri (APD), yaitusebesar 0.31127. berartiAlatPelindungDiridapatmenjadinodeakarselanjutnya. Nilaidariatribut B adalahBaikdannilaiatribut TB adalahTidakBaik. Pohonkeputusan yang terbentukdapatdilihatpadagambarberikut :
Solusi : • Hitung Jumlah Kasus • Hitung Jumlah Keputusan “Ya” • Hitung Jumlah Keputusan “Tidak” • Hitung : • Entropy (IPK), • Entropy (Psikologi), dan • Entropy (Wawancara)
Keterangan : S = Himpunan Kasus n = Jumlah Partisi S pi = Proporsi dari Si terhadap S
Entropy (Psikologi) Entropy (Wawancara)
e. Hitung : • Gain (Total, IPK) • Gain (Total, Psikologi) • Gain (Total, Wawancara)
Rumus Gain : Keterangan : S = Himpunan Kasus A = Atribut n = Jumlah Partisi Atribut A | Si | = Jumlah Kasus pada partisi ke-i | S | = Jumlah Kasus dalam S
Pohon Keputusan Node 1 (root node) Gain Tertinggi ialah WAWANCARA dan akan menjadi node akar
Dari tabel terlihat, dari 6 pelamar dengan Wawancara Baik, semua memiliki kelas "Ya (Diterima), sehingga fungsi ID3 akan berhenti, dan membentukkesimpulan bahwa seluruh pelamar dengan nilai Wawancara Baik akan diterima di perusahaan.
e. Hitung : • Entropy (Wawancara-Buruk) • Entropy (IPK) • Entropy (Psikologi)
f. Hitung : • Gain (Wawancara-Buruk,IPK) • Gain (Wawancara-Buruk,Psikologi)
Karena nilai "Tinggi" = 0, maka perlu dibuat 1 simpul daun (leaf node, simpul yang tidak punya anak dibawahnya) dengan label yang paling sering muncul pada Sampelburuk yaitu ‘tidak’.