Topik keenam AI & Machine Learning: Machine Learning Klasik

[xtheoputra]

Ringkas

Ini topik keenam bidang AI & Machine Learning: Machine Learning Klasik, ditulis dengan gaya hangat dan bercerita. Perpustakaan ingin mengirim pengingat kepada peminjam yang kemungkinan terlambat mengembalikan buku, tetapi hanya kepada mereka, supaya pengingatnya tak diabaikan. Dari cerita itu pembaca:

• memulai dari tebakan paling malas (DummyClassifier) dan belajar kenapa akurasi 74% bisa tak berarti apa-apa;
• membangun regresi linear dengan kuadrat terkecil, regresi logistik dengan pipeline, dan pohon keputusan;
• melihat sendiri overfitting, memilih model dengan validasi silang, dan menangkap kebocoran data;
• membandingkan hutan acak dan gradient boosting dengan model sederhana, lalu menyetelnya dengan GridSearchCV tanpa mengintip data uji;
• mengelompokkan anggota tanpa label dengan k-means, serta mengenal batas model tabel, termasuk TabPFN (Nature, 2025).

Isinya:

• 12 langkah (3.107 kata), 5 diagram SVG (3 digambar langsung dari keluaran kode), 2 video tersemat, 18 sumber, dan 2 proyek mini.
• requires: []: ini topik fondasi. Topik lain sengaja tidak diubah supaya menunjuk ke sini; teks LLM, misalnya, menulis "tak perlu latar belakang machine learning".
• Alat di katalog: scikit-learn dan numpy, nama dan ringkasannya disalin persis dari main. Tak ada alat baru.
• Tanpa migrasi, tanpa perubahan kode API atau web.

Sumber primer yang dibaca saat menulis

• Panduan pengguna scikit-learn, sumber .rst dari tag 1.9.1 (sama dengan versi yang diuji):
  • Common pitfalls: definisi kebocoran, "jangan pernah fit pada data uji", dan contoh SelectKBest 0,76 vs 0,5;
  • Cross-validation: data uji tetap disisihkan, StratifiedKFold bawaan untuk penggolong, dan TimeSeriesSplit;
  • Decision Trees: kelebihan dan kekurangan pohon, termasuk buruk untuk ekstrapolasi;
  • Ensembles: mekanisme hutan acak, HGBT terinspirasi LightGBM dan jauh lebih cepat di atas puluhan ribu baris, serta menerima nilai hilang;
  • Clustering: inertia mengandaikan kelompok "convex and isotropic";
  • Model evaluation: sanity check dengan dummy estimator.
• Makalah:
  • Grinsztajn dkk. 2022: 45 kumpulan data, ~10K baris, model pohon tetap unggul;
  • Kapoor & Narayanan 2022: survei 20 makalah dari 17 bidang, memengaruhi 329 makalah, 8 jenis kebocoran, dan kasus perang saudara;
  • Chen & Guestrin 2016: XGBoost di 17 dari 29 solusi juara Kaggle 2015;
  • Hollmann dkk. (Nature, 2025): TabPFN unggul untuk data hingga 10.000 baris, dalam 2,8 detik vs gabungan model yang disetel 4 jam.
• Video: StatQuest tentang pohon keputusan (April 2021) dan validasi silang (April 2018). Keduanya oEmbed 200 dan playableInEmbed: true. Video Bias and Variance hanya menjadi tautan.

Semua 19 URL unik menjawab 200.

Koreksi sebelum commit

• Kutipan Kapoor & Narayanan sempat salah tempat. Draf pertama memakai "proxy variables" mereka untuk soal keadilan (jarak rumah sebagai penanda kemampuan ekonomi). Padahal di makalah itu, proxy adalah wakil untuk label yang ditebak, yaitu kebocoran. Kalimat itu dihapus; poin keadilannya tetap ada tanpa kutipan.
• Angka 17 bidang dan 329 makalah semula ditulis seolah temuan mereka sendiri. Kini ditulis sebagai survei atas laporan-laporan sebelumnya.
• Batas k-means semula tertulis "bulat dan seukuran". Kini mengikuti dokumentasi: "cembung dan sama ke segala arah".

Temuan dari percobaan sendiri

Data peminjaman dibuat dengan aturan tersembunyi yang kami ketahui, jadi setiap model bisa diperiksa apakah menemukan hal yang benar.

Yang diukur	Hasil
tebakan paling malas	akurasi 74,1%, akurasi seimbang 50,0%
regresi linear vs aturan asli	5 bobot sangat dekat; lompatan 3 hari di 10 km diganti kemiringan 0,22/km; R² 0,80
pohon kedalaman 2	pertanyaan pertamanya jarak_km <= 10.0, lompatan yang tak pernah diberitahukan
kedalaman 1→20	latih naik ke 100%; uji memuncak 83,0% di kedalaman 6 lalu turun ke 78,2%
validasi silang	memilih kedalaman 5 (81,7% ± 0,9); uji sekali 82,8%; satu pemisahan saja 79,3–83,8% di 10 benih
kebocoran	kolom denda → 100%; contoh label acak scikit-learn terulang persis 0,76 vs 0,5
ensembel (akurasi seimbang CV)	logistik 75,6 · pohon 73,8 · hutan 75,6 · boosting 77,2. Selisih boosting–logistik lebih kecil dari simpangan baku keduanya
GridSearchCV (9 × 5)	lr 0,1, 7 daun; uji sekali: akurasi 85,7%, seimbang 79,0%
k-means	ARI 0,12 tanpa skala → 0,82 dengan StandardScaler; silhouette tertinggi di k = 3
ekstrapolasi 10 buku	aturan 12,3 hari, linear 12,6, pohon mentok 9,2

Verifikasi tanpa biaya

Venv uji di luar repo (%TEMP%\tv-evals\uji-mlk), scikit-learn 1.9.1. Semua percobaan berjalan 28 detik.

Uji	ok
uji_mlk.py: data, label = hari > durasi, kuadrat terkecil = LinearRegression dan bobot persis tanpa derau, pipeline dan skala dari data latih, akar pohon, kurva, cv=5 = StratifiedKFold(5), denda > 0 ⇔ telat, contoh scikit-learn 0,76/0,5, GridSearchCV 9 kombinasi, k-means = KMeans pada StandardScaler, pohon konstan untuk 5/8/10/50 buku	39
cek_isi.py: 13 blok Python = potongan persis berkas uji, setiap angka di halaman = hasil.json	34
mypy --strict pada 4 berkas kode halaman	lolos, dengan warn_return_any dimatikan karena scikit-learn tak bertipe

Gerbang lokal:

• .\run.ps1 isi: sah (13 topik).
• .\run.ps1 gerbang-isi: HIJAU.
• Halaman lokal (API Release + next start di atas basis data sekali pakai): 200, dengan 12 judul langkah, 13 blok kode, 7 tabel, 5 gambar (semuanya 200), dan 2 bingkai video.
• Pemindai ADR-024: 0 kena, setiap halaman 200.
• Kelima SVG dirender lewat sharp dan saya lihat sendiri. Teks alternatif k-means sempat rusak (pemformatan angka) dan sudah diperbaiki.
• .\run.ps1 verify: semua hijau (74 detik).

Belum diverifikasi (tanpa Chrome): bingkai video di origin https, dan luberan 390 px.

Sesudah merge

Pasang isi machine-learning-klasik tanpa ganti, sha=e262bb1 (citra API yang tayang). Lalu ukur API, halaman, dan kelima gambar di produksi. Hari ini dua merge berdekatan sempat membuat build web lama menang dan gambar baru 404 (lihat SESSION-LOG Sesi 26 Lanjutan). Bila ada PR lain yang menyentuh web, beri jeda beberapa menit antarmerge.

🤖 Generated with Claude Code

[vercel]

The latest updates on your projects. Learn more about Vercel for GitHub.

Project	Deployment	Actions	Updated
techverse-x-web	Ready	Preview	Oct 12, 2026 8:43am UTC

1 Skipped Deployment

Project	Deployment	Actions	Updated
techverse-x-api	Ignored		Oct 12, 2026 8:43am UTC