Rumah Keuangan Pribadi Menghindari Sampel Bias dan Perangkap Kebocoran dalam Pembelajaran Mesin - dummies

Menghindari Sampel Bias dan Perangkap Kebocoran dalam Pembelajaran Mesin - dummies

Video: Singam 2 - Tamil Full Movie | Suriya | Anushka Shetty | Hansika Motwani | Devi Sri Prasad | Hari 2025

Video: Singam 2 - Tamil Full Movie | Suriya | Anushka Shetty | Hansika Motwani | Devi Sri Prasad | Hari 2025
Anonim

Pendekatan validasi untuk pembelajaran mesin adalah pemeriksaan kemungkinan pemulihan terhadap bias sampling. In-sampling bias dapat terjadi pada data Anda sebelum pembelajaran mesin dimasukkan ke dalam tindakan, dan ini menyebabkan varians yang tinggi dari perkiraan berikut. Selain itu, Anda harus waspada terhadap perangkap kebocoran yang dapat terjadi bila beberapa informasi dari sampel di luar sampel masuk ke data sampel. Masalah ini bisa muncul saat Anda mempersiapkan data atau setelah model pembelajaran mesin Anda sudah siap dan bekerja.

Obat, yang disebut ansambel prediktor, bekerja dengan sempurna saat sampel pelatihan Anda tidak terdistorsi dan distribusinya berbeda dari sampel yang tidak biasa, namun tidak dengan cara yang tidak dapat diperbaiki, seperti seperti ketika semua kelas Anda hadir tetapi tidak dalam proporsi yang tepat (sebagai contoh). Dalam kasus tersebut, hasil Anda dipengaruhi oleh varians perkiraan tertentu yang mungkin dapat Anda distabilkan dengan salah satu dari beberapa cara: dengan memasang kembali, seperti pada bootstrap; dengan subsampling (mengambil contoh sampel); atau dengan menggunakan sampel yang lebih kecil (yang meningkatkan bias).

Untuk memahami bagaimana ansambel bekerja dengan sangat efektif, visualisasikan citra mata banteng. Jika sampel Anda mempengaruhi prediksi, beberapa prediksi akan tepat dan yang lainnya akan salah dengan cara yang acak. Jika Anda mengubah sampel Anda, prediksi yang benar akan tetap benar, namun yang salah akan mulai menjadi variasi antara nilai yang berbeda. Beberapa nilai akan menjadi prediksi yang tepat yang Anda cari; yang lain hanya akan berosilasi di sekitar yang benar.

Dengan membandingkan hasilnya, Anda bisa menebak bahwa apa yang berulang adalah jawaban yang benar. Anda juga bisa mengambil rata-rata jawaban dan tebak jawaban yang benar seharusnya berada di tengah nilai. Dengan permainan bull's-eye, Anda dapat memvisualisasikan foto superimposing dari permainan yang berbeda: Jika masalahnya beragam, akhirnya Anda akan menebak bahwa targetnya berada di area yang paling sering terkena atau setidaknya di tengah semua tembakan.

Dalam kebanyakan kasus, pendekatan semacam itu terbukti benar dan memperbaiki prediksi belajar mesin Anda. Bila masalah Anda bias dan tidak berbeda, menggunakan ansambel benar-benar tidak menimbulkan kerugian kecuali Anda hanya mengelompokkan terlalu sedikit sampel. Aturan praktis yang baik untuk subsampling adalah mengambil sampel dari 70 menjadi 90 persen dibandingkan dengan data sampel asli. Jika Anda ingin membuat karya ensembling, Anda harus melakukan hal berikut:

  • Mengelompokkan sejumlah besar data dan model Anda (setidaknya dari tiga iterasi sampai idealnya ratusan kali).
  • Setiap kali Anda mengulangi, subsampel (atau bootstrap) data sampel Anda di tempat.
  • Gunakan pembelajaran mesin untuk model pada data yang di-resampled, dan prediksi hasil out-of-sample. Simpan hasilnya untuk digunakan nanti.
  • Pada akhir iterasi, untuk setiap kasus di luar sampel yang ingin Anda prediksi, ambillah semua ramalan dan rata-rata mereka jika Anda melakukan regresi. Ikuti kelas yang paling sering jika Anda melakukan klasifikasi.

Perangkap bocor bisa mengejutkan Anda karena mereka terbukti menjadi sumber masalah yang tidak diketahui dan tidak terdeteksi dengan proses pembelajaran mesin Anda. Masalahnya adalah mengintip, atau mengamati data out-of-sample terlalu banyak dan menyesuaikannya terlalu sering. Singkatnya, mengintip adalah semacam overfitting - dan tidak hanya pada data pelatihan tetapi juga pada data pengujian, membuat masalah overfitting itu sendiri sulit untuk dideteksi sampai Anda mendapatkan data segar.

Biasanya Anda menyadari bahwa masalahnya adalah mengintai ketika Anda sudah menerapkan algoritma pembelajaran mesin ke bisnis Anda atau ke layanan untuk publik, menjadikan masalah ini sebagai masalah yang dapat dilihat setiap orang.

Anda bisa menghindari mengintip dengan dua cara. Pertama, saat mengoperasikan data, jaga agar rapi memisahkan pelatihan, validasi, dan data uji. Juga, saat memproses, jangan pernah mengambil informasi dari validasi atau tes, bahkan contoh yang paling sederhana dan tidak berdosa sekalipun. Yang lebih buruk lagi adalah menerapkan transformasi yang kompleks dengan menggunakan semua data.

Di bidang keuangan, misalnya, diketahui bahwa menghitung mean dan standar deviasi (yang sebenarnya dapat memberi tahu Anda banyak tentang kondisi pasar dan risiko) dari semua data pelatihan dan pengujian dapat membocorkan informasi berharga tentang model Anda. Ketika terjadi kebocoran, algoritma pembelajaran mesin melakukan prediksi pada rangkaian pengujian daripada data di luar sampel dari pasar, yang berarti tidak bekerja sama sekali, sehingga menyebabkan hilangnya uang.

Periksa kinerja contoh out-of-sample Anda. Sebenarnya, Anda dapat membawa kembali beberapa informasi dari pengintaian Anda pada hasil tes untuk membantu Anda menentukan bahwa parameter tertentu lebih baik daripada yang lain, atau mengarahkan Anda untuk memilih satu algoritma pembelajaran mesin daripada yang lain. Untuk setiap model atau parameter, terapkan pilihan Anda berdasarkan hasil validasi silang atau dari sampel validasi. Jangan pernah jatuh untuk mendapatkan takeaways dari data di luar sampel Anda atau Anda akan menyesalinya nanti.

Menghindari Sampel Bias dan Perangkap Kebocoran dalam Pembelajaran Mesin - dummies

Pilihan Editor

Bagaimana Menerapkan Theme ke Dokumen di Word 2016 - dummies

Bagaimana Menerapkan Theme ke Dokumen di Word 2016 - dummies

Anda memilih sebuah tema di Word 2016 dengan menggunakan tombol Tema yang ada di tab Desain. Tema built-in terdaftar bersamaan dengan tema kustom yang Anda buat. Setiap tema bawaan mengendalikan ketiga elemen tema utama (warna, font, efek grafis), mengubah isi dokumen Anda sesuai dengan itu. Melayangkan penunjuk mouse di atas tema mengubah tema Anda ...

Bagaimana Menerapkan Gaya dengan Word 2007 Styles Gallery - dummies

Bagaimana Menerapkan Gaya dengan Word 2007 Styles Gallery - dummies

Gaya Word 2007 galeri berisi gaya paragraf dan karakter yang dapat Anda terapkan pada dokumen Anda. Terletak di grup Styles di tab Home dari Ribbon, galeri Styles adalah cara termudah untuk menerapkan gaya pada teks Anda. Klik di manapun dalam paragraf yang ingin Anda format. Untuk semua gaya kecuali ...

Bagaimana cara meluruskan paragraf di Word 2013 - dummies

Bagaimana cara meluruskan paragraf di Word 2013 - dummies

Sebagian besar waktu di dokumen Word 2013, yang menyelaraskan paragraf mengacu untuk kesejajaran horizontal, atau di mana paragraf sejajar dalam kaitannya dengan margin kanan dan kiri. Di Word, pilihan Anda adalah Align Text Left, Align Text Right, Center, and Justify. Berikut adalah contoh dari masing-masing tipe alignment. Penyelarasan horizontal mengacu pada ...

Pilihan Editor

Tip untuk Menguasai Bagian Kuantitatif kesuksesan GRE - dummies

Tip untuk Menguasai Bagian Kuantitatif kesuksesan GRE - dummies

Di bagian Penalaran Kuantitatif GRE memiliki banyak kaitannya dengan penerapan logika dan akal sehat. Meskipun GRE terkomputerisasi menyediakan kalkulator, Anda dapat menghemat waktu dengan memesannya untuk matematika kompleks, bukan aritmatika dasar yang harus Anda ketahui. Berikut adalah beberapa tip untuk melakukan yang terbaik di bagian Kuantitatif ...

Apa yang harus dibawa dan tinggalkan di rumah pada hari ujian GRE - dummies

Apa yang harus dibawa dan tinggalkan di rumah pada hari ujian GRE - dummies

Pengawas GRE sangat ketat tentang barang yang diizinkan masuk ke pusat pengujian. Pastikan Anda datang pada hari ujian dengan membawa semua ini: Voucher otorisasi ETS: Bawa verifikasi bahwa Anda telah mendaftar untuk ujian hari ini, saat ini, di sini, di lokasi ini. Jika ...

Apa yang Diharapkan Saat Anda Mengikuti GRE - dummies

Apa yang Diharapkan Saat Anda Mengikuti GRE - dummies

GRE adalah tes terkomputerisasi yang dilakukan pada pusat pengujian lokal Penguji tes lainnya mungkin juga ada di sana, mengerjakan GRE atau ujian yang berbeda, tapi Anda akan berada di bilik, tenggelam dalam ujian Anda sendiri. Berlangsung hingga empat jam, GRE adalah maraton, menantang stamina dan kemampuan Anda. ...

Pilihan Editor

Berbagai Jenis Baterai untuk Kamera Digital Anda - dummies

Berbagai Jenis Baterai untuk Kamera Digital Anda - dummies

Sebagian besar kamera digital menerima baterai AA standar, namun Anda memiliki pilihan baterai jenis AA yang Anda gunakan. Baterai sekali pakai, baterai isi ulang, dan bahkan kemasan baterai bisa membuat foto kamera Anda dipotret. Anda hanya perlu memutuskan jenis baterai yang paling sesuai untuk Anda: Baterai alkaline: Baterai tradisional ini biasanya memiliki ...

Cara Memilih Printer untuk Cetakan Digital Anda - dummies

Cara Memilih Printer untuk Cetakan Digital Anda - dummies

Pemilik SLR digital hanya memiliki satu pertimbangan khusus. Saat memilih printer pribadi untuk kebutuhan hard copy mereka. Sebagai fotografer yang serius, Anda mungkin ingin benar-benar mencetak hasil yang bagus agar sesuai dengan gambar menakjubkan yang Anda buat dengan kamera canggih Anda. Akibatnya, hanya printer lama yang mungkin tidak akan melakukannya. Anda menginginkan printer ...

Pro dan Kontra Konverter Tele-Converters - dummies

Pro dan Kontra Konverter Tele-Converters - dummies

Bisa menjadi alat yang berguna untuk makro fotografi untuk dibawa di tas kamera Anda, tapi sebelum melakukan pembelian, periksa pro dan kontra yang terkait dengannya dan bandingkan dengan peralatan lain. Tentukan jenis subjek yang paling Anda minati untuk memotret dan berkonsentrasi untuk mendapatkan perlengkapan yang mendukung ...