Menerapkan Analisis Komponen Utama ke Analisis Komponen Utama prediktif

Analisis komponen utama (PCA) adalah teknik berharga yang banyak digunakan dalam analisis prediktif dan sains data. Ini mempelajari kumpulan data untuk mempelajari variabel yang paling relevan yang bertanggung jawab atas variasi tertinggi dalam kumpulan data tersebut. PCA banyak digunakan sebagai teknik reduksi data.

Saat membangun model prediktif, Anda mungkin perlu mengurangi jumlah fitur yang menjelaskan dataset Anda. Ini sangat berguna untuk mengurangi dimensi data yang tinggi ini melalui teknik aproksimasi, di mana PCA unggul. Data yang diperkirakan merangkum semua variasi penting dari data asli.

Misalnya, rangkaian fitur data tentang saham mungkin mencakup harga saham, harga tertinggi harian dan harga terendah, volume perdagangan, rata-rata pergerakan 200 hari, rasio harga terhadap pendapatan, kekuatan relatif ke pasar lain., suku bunga, dan kekuatan mata uang.

Menemukan variabel prediktif yang paling penting adalah inti membangun model prediktif. Cara yang banyak dilakukan adalah dengan menggunakan pendekatan brute force. Idenya adalah memulai dengan sebanyak mungkin variabel yang relevan, dan kemudian gunakan pendekatan corong untuk menghilangkan fitur yang tidak berdampak, atau tidak ada nilai prediktif.

Kecerdasan dan wawasan dibawa ke metode ini dengan melibatkan pemangku kepentingan bisnis, karena mereka memiliki beberapa firasat tentang variabel mana yang akan memiliki dampak terbesar dalam analisis. Pengalaman ilmuwan data yang terlibat dalam proyek ini juga penting dalam mengetahui variabel apa yang akan digunakan dan algoritma apa yang digunakan untuk tipe data tertentu atau masalah khusus domain.

Untuk membantu proses ini, ilmuwan data menggunakan banyak alat analisis prediktif yang mempermudah dan mempercepat penggunaan beberapa permutasi dan analisis pada kumpulan data untuk mengukur dampak setiap variabel pada dataset tersebut.

Mengetahui bahwa ada sejumlah besar data untuk digunakan, Anda dapat menggunakan PCA untuk meminta bantuan.

Mengurangi jumlah variabel yang Anda lihat adalah alasan yang cukup untuk menggunakan PCA. Selain itu, dengan menggunakan PCA, Anda secara otomatis melindungi diri dari kelebihan model.

Tentu saja, Anda bisa menemukan korelasi antara data cuaca di negara tertentu dan kinerja pasar sahamnya. Atau dengan warna sepatu seseorang dan rute yang dia bawa ke kantor, dan kinerja portofolio mereka untuk hari itu. Namun, termasuk variabel-variabel dalam model prediktif lebih dari sekedar overfitting, itu menyesatkan dan mengarah pada prediksi yang salah.

PCA menggunakan pendekatan matematis yang valid untuk menentukan subkumpulan dataset Anda yang mencakup fitur yang paling penting; dalam membangun model Anda pada dataset yang lebih kecil itu, Anda akan memiliki model yang memiliki nilai prediktif untuk keseluruhan, kumpulan data yang lebih besar yang sedang Anda tangani. Singkatnya, PCA akan membantu Anda memahami variabel Anda dengan mengidentifikasi subset dari variabel yang bertanggung jawab atas variasi yang paling banyak dengan dataset asli Anda. Ini membantu Anda melihat redundansi. Ini membantu Anda mengetahui bahwa dua (atau lebih banyak variabel) memberi tahu Anda hal yang sama.

Selain itu, analisis komponen utama menggunakan dataset multidimensi Anda dan menghasilkan dataset baru yang variabelnya mewakili linearitas dari variabel dalam kumpulan data asli. Selain itu, dataset yang dikeluarkan memiliki variabel individual yang tidak berkorelasi, dan varians mereka dipesan oleh komponen utama mereka dimana yang pertama adalah yang terbesar, dan seterusnya. Dalam hal ini, PCA juga bisa dianggap sebagai teknik untuk membangun fitur.

Saat menggunakan PCA atau teknik serupa lainnya yang membantu mengurangi dimensi kumpulan data yang Anda hadapi, Anda harus selalu berhati-hati agar tidak mempengaruhi kinerja model secara negatif. Mengurangi ukuran data seharusnya tidak datang dengan mengorbankan dampak negatif terhadap kinerja (keakuratan model prediktif). Menginjak aman dan mengatur dataset Anda dengan hati-hati.

Peningkatan kompleksitas model tidak diterjemahkan ke kualitas yang lebih tinggi dalam hasilnya.

Untuk melestarikan kinerja model, Anda mungkin perlu mengevaluasi secara hati-hati keefektifan masing-masing variabel, mengukur kegunaannya dalam pembentukan model akhir.

Mengetahui bahwa PCA dapat sangat berguna bila variabel berkorelasi tinggi dalam dataset yang diberikan, kemudian memiliki dataset dengan variabel prediktif yang tidak berkorelasi hanya dapat mempersulit tugas untuk mengurangi dimensi data multivariat. Banyak teknik lain yang bisa digunakan di sini selain PCA, seperti pemilihan fitur ke depan dan penghapusan fitur ke belakang.

PCA bukanlah peluru ajaib yang akan menyelesaikan semua masalah dengan data multi dimensi. Keberhasilannya sangat tergantung pada data yang sedang Anda tangani. Ragam statistik mungkin tidak sesuai dengan variabel dengan nilai yang paling prediktif, meskipun aman untuk bekerja dengan perkiraan semacam itu.