Rumah Keuangan Pribadi Menghindari Sampel Bias dan Perangkap Kebocoran dalam Pembelajaran Mesin - dummies

Menghindari Sampel Bias dan Perangkap Kebocoran dalam Pembelajaran Mesin - dummies

Video: Singam 2 - Tamil Full Movie | Suriya | Anushka Shetty | Hansika Motwani | Devi Sri Prasad | Hari 2024

Video: Singam 2 - Tamil Full Movie | Suriya | Anushka Shetty | Hansika Motwani | Devi Sri Prasad | Hari 2024
Anonim

Pendekatan validasi untuk pembelajaran mesin adalah pemeriksaan kemungkinan pemulihan terhadap bias sampling. In-sampling bias dapat terjadi pada data Anda sebelum pembelajaran mesin dimasukkan ke dalam tindakan, dan ini menyebabkan varians yang tinggi dari perkiraan berikut. Selain itu, Anda harus waspada terhadap perangkap kebocoran yang dapat terjadi bila beberapa informasi dari sampel di luar sampel masuk ke data sampel. Masalah ini bisa muncul saat Anda mempersiapkan data atau setelah model pembelajaran mesin Anda sudah siap dan bekerja.

Obat, yang disebut ansambel prediktor, bekerja dengan sempurna saat sampel pelatihan Anda tidak terdistorsi dan distribusinya berbeda dari sampel yang tidak biasa, namun tidak dengan cara yang tidak dapat diperbaiki, seperti seperti ketika semua kelas Anda hadir tetapi tidak dalam proporsi yang tepat (sebagai contoh). Dalam kasus tersebut, hasil Anda dipengaruhi oleh varians perkiraan tertentu yang mungkin dapat Anda distabilkan dengan salah satu dari beberapa cara: dengan memasang kembali, seperti pada bootstrap; dengan subsampling (mengambil contoh sampel); atau dengan menggunakan sampel yang lebih kecil (yang meningkatkan bias).

Untuk memahami bagaimana ansambel bekerja dengan sangat efektif, visualisasikan citra mata banteng. Jika sampel Anda mempengaruhi prediksi, beberapa prediksi akan tepat dan yang lainnya akan salah dengan cara yang acak. Jika Anda mengubah sampel Anda, prediksi yang benar akan tetap benar, namun yang salah akan mulai menjadi variasi antara nilai yang berbeda. Beberapa nilai akan menjadi prediksi yang tepat yang Anda cari; yang lain hanya akan berosilasi di sekitar yang benar.

Dengan membandingkan hasilnya, Anda bisa menebak bahwa apa yang berulang adalah jawaban yang benar. Anda juga bisa mengambil rata-rata jawaban dan tebak jawaban yang benar seharusnya berada di tengah nilai. Dengan permainan bull's-eye, Anda dapat memvisualisasikan foto superimposing dari permainan yang berbeda: Jika masalahnya beragam, akhirnya Anda akan menebak bahwa targetnya berada di area yang paling sering terkena atau setidaknya di tengah semua tembakan.

Dalam kebanyakan kasus, pendekatan semacam itu terbukti benar dan memperbaiki prediksi belajar mesin Anda. Bila masalah Anda bias dan tidak berbeda, menggunakan ansambel benar-benar tidak menimbulkan kerugian kecuali Anda hanya mengelompokkan terlalu sedikit sampel. Aturan praktis yang baik untuk subsampling adalah mengambil sampel dari 70 menjadi 90 persen dibandingkan dengan data sampel asli. Jika Anda ingin membuat karya ensembling, Anda harus melakukan hal berikut:

  • Mengelompokkan sejumlah besar data dan model Anda (setidaknya dari tiga iterasi sampai idealnya ratusan kali).
  • Setiap kali Anda mengulangi, subsampel (atau bootstrap) data sampel Anda di tempat.
  • Gunakan pembelajaran mesin untuk model pada data yang di-resampled, dan prediksi hasil out-of-sample. Simpan hasilnya untuk digunakan nanti.
  • Pada akhir iterasi, untuk setiap kasus di luar sampel yang ingin Anda prediksi, ambillah semua ramalan dan rata-rata mereka jika Anda melakukan regresi. Ikuti kelas yang paling sering jika Anda melakukan klasifikasi.

Perangkap bocor bisa mengejutkan Anda karena mereka terbukti menjadi sumber masalah yang tidak diketahui dan tidak terdeteksi dengan proses pembelajaran mesin Anda. Masalahnya adalah mengintip, atau mengamati data out-of-sample terlalu banyak dan menyesuaikannya terlalu sering. Singkatnya, mengintip adalah semacam overfitting - dan tidak hanya pada data pelatihan tetapi juga pada data pengujian, membuat masalah overfitting itu sendiri sulit untuk dideteksi sampai Anda mendapatkan data segar.

Biasanya Anda menyadari bahwa masalahnya adalah mengintai ketika Anda sudah menerapkan algoritma pembelajaran mesin ke bisnis Anda atau ke layanan untuk publik, menjadikan masalah ini sebagai masalah yang dapat dilihat setiap orang.

Anda bisa menghindari mengintip dengan dua cara. Pertama, saat mengoperasikan data, jaga agar rapi memisahkan pelatihan, validasi, dan data uji. Juga, saat memproses, jangan pernah mengambil informasi dari validasi atau tes, bahkan contoh yang paling sederhana dan tidak berdosa sekalipun. Yang lebih buruk lagi adalah menerapkan transformasi yang kompleks dengan menggunakan semua data.

Di bidang keuangan, misalnya, diketahui bahwa menghitung mean dan standar deviasi (yang sebenarnya dapat memberi tahu Anda banyak tentang kondisi pasar dan risiko) dari semua data pelatihan dan pengujian dapat membocorkan informasi berharga tentang model Anda. Ketika terjadi kebocoran, algoritma pembelajaran mesin melakukan prediksi pada rangkaian pengujian daripada data di luar sampel dari pasar, yang berarti tidak bekerja sama sekali, sehingga menyebabkan hilangnya uang.

Periksa kinerja contoh out-of-sample Anda. Sebenarnya, Anda dapat membawa kembali beberapa informasi dari pengintaian Anda pada hasil tes untuk membantu Anda menentukan bahwa parameter tertentu lebih baik daripada yang lain, atau mengarahkan Anda untuk memilih satu algoritma pembelajaran mesin daripada yang lain. Untuk setiap model atau parameter, terapkan pilihan Anda berdasarkan hasil validasi silang atau dari sampel validasi. Jangan pernah jatuh untuk mendapatkan takeaways dari data di luar sampel Anda atau Anda akan menyesalinya nanti.

Menghindari Sampel Bias dan Perangkap Kebocoran dalam Pembelajaran Mesin - dummies

Pilihan Editor

Menjelajahi Alternatif untuk Jaringan Multichannel - dummies

Menjelajahi Alternatif untuk Jaringan Multichannel - dummies

Ada kekuatan dalam jumlah - atau begitulah kata pepatah. Hal ini dapat membantu saat mengelola saluran YouTube Anda. Pemikiran seperti inilah yang menyebabkan terbentuknya jaringan multichannel (sering disebut dengan singkatan MCNs) di YouTube. MCN pada dasarnya adalah kesepakatan kemitraan yang dibuat oleh pembuat konten independen dengan jumlah yang lebih besar ...

Apa yang harus dilakukan jika Anda lupa kata kunci atau kata kunci YouTube

Apa yang harus dilakukan jika Anda lupa kata kunci atau kata kunci YouTube

Jika Anda lupa nama pengguna atau kata sandi YouTube Anda, jangan panik YouTube memiliki alamat e-mail Anda, dan Anda dapat mengambil nama pengguna atau kata sandi yang terlupakan dari mereka. (Saat pertama kali mendaftar ke YouTube, catat nama pengguna dan kata sandi Anda, terutama jika berbeda dari yang biasa Anda gunakan di situs Web lainnya.) Buka YouTube. com ...

Apa itu YouTube Red? - dummies

Apa itu YouTube Red? - dummies

YouTube Red adalah layanan berlangganan baru yang meningkatkan pengalaman YouTube. Layanan ini mencakup langganan Google Play Musik. YouTube Red bukan hanya layanan streaming video - namun juga membuka fitur hebat membuat YouTube menjadi tempat yang tepat untuk hiburan berjam-jam. Kredit: Gambar milik YouTube. com. Layanan Red YouTube ...

Pilihan Editor

Dua kolom Kolom Sidebar kiri Desain Gambar - dummies

Dua kolom Kolom Sidebar kiri Desain Gambar - dummies

Gambar cermin dari layout sidebar kanan dua kolom , desain blog dua kolom ini menampilkan konten blog utama Anda di sisi kanan dengan sidebar di sebelah kiri. Memilih sidebar di sebelah kanan pasti pilihan yang lebih umum di blogland, namun menggunakan sidebar kiri tetap bisa memberi dampak. Di sini, Anda ...

Transparansi dalam Komunitas Online - dummies

Transparansi dalam Komunitas Online - dummies

Transparansi adalah kata besar di ruang media sosial saat ini. Ini adalah istilah yang menyenangkan dan menyenangkan untuk kejujuran. Ini berarti mendapatkan kepercayaan komunitas online karena tidak ada yang perlu disembunyikan. Dengan bersikap transparan, Anda memberi pandangan publik pada cara kerja merek Anda. Anda tidak menyapu pers atau ketidakpuasan yang buruk di bawah karpet. ...

Matikan Blog Mom Anda ke Job - dummies

Matikan Blog Mom Anda ke Job - dummies

Dapatkan pekerjaan bukanlah perluasan dari Anda blog, tapi anggap itu lebih sebagai perluasan karir Anda. Beberapa blogger, termasuk ibu, telah membangun begitu banyak kepercayaan dan kredibilitas di media sosial bahwa perusahaan telah mempekerjakan mereka untuk mengisi beberapa pemasaran media sosial yang hebat dan posisi manajemen lainnya. Bila Anda ...

Pilihan Editor

Cara membuat Lembar Kerja Prakiraan di Excel 2016 - dummies

Cara membuat Lembar Kerja Prakiraan di Excel 2016 - dummies

Fitur Lembar Perkiraan baru di Excel 2016 membuatnya sangat mudah untuk mengubah lembar kerja yang berisi data keuangan historis menjadi lembar kerja ramalan visual yang luar biasa. Yang Anda lakukan adalah membuka lembar kerja dengan data historis Anda, posisi kursor sel dalam satu selnya, lalu klik tombol Forecast Sheet pada Data ...

Cara membuat Peta Daya 3-D di Excel 2016 - dummies

Cara membuat Peta Daya 3-D di Excel 2016 - dummies

Power Map adalah nama fitur analisis visual baru yang menarik di Excel 2016 yang memungkinkan Anda menggunakan data geografis, keuangan, dan jenis lainnya bersama dengan bidang tanggal dan waktu dalam model data Excel Anda untuk membuat tur peta 3D animasi. Untuk membuat animasi baru untuk tur pertama di Power ...

Bagaimana cara Copy Formula dengan IsiOtomatis di Excel 2016 - dummies

Bagaimana cara Copy Formula dengan IsiOtomatis di Excel 2016 - dummies

Jika Anda hanya perlu menyalin satu formula di Excel 2016, gunakan fitur IsiOtomatis atau perintah Copy and Paste. Jenis salinan formula ini, meski lumrah, tidak bisa dilakukan dengan drag and drop. Jangan lupa pilihan Totals pada alat Quick Analysis. Anda bisa menggunakannya untuk membuat baris ...