PCA: Definisi, Manfaat, Waktu Penggunaan, dan Cara Kerjanya

Principal component analysis atau PCA adalah metode pengurangan dimensi. Metode ini sering kali dipakai untuk mengurangi jumlah dimensi dalam dataset besar.

Mengutip dari built-in, cara kerja PCA dimulai dari proses pengubahan set besar variable menjadi bagian yang lebih kecil. Meski diubah ke yang lebih kecil, sebagian informasi dari set data besar masih dipertahankan.

Lebih lanjut, proses pengubahan itu membuat jumlah informasi yang dipakai dari set data besar berkurang. Sebab, tujuan utamanya adalah membuat semuanya lebih sederhana. 

Dengan data lebih kecil dan sedikit, kamu bisa memeriksa dan melihat informasi dengan lebih mudah. 

Selain itu, PCA juga membantu komputer dalam menjalankan algoritma machine learning secara lebih cepat dan efisien. Ini menjadi mungkin karena komputer tidak perlu mengolah informasi yang kurang penting.

Secara singkat, PCA bertujuan untuk mengurangi jumlah variabel dalam dataset. Akan tetapi, PCA juga berusaha mempertahankan informasi relevan dari set data yang besar.

Secara keseluruhan, PCA berfungsi untuk membuat analisis menjadi lebih efektif dan efisien. Ini terutama berlaku dalam kasus data yang besar dan kompleks.

Manfaat PCA

Seperti yang dijelaskan di atas, PCA bisa mengurangi dimensi data tanpa mengeliminasi informasi penting dan relevan. 

1. Mengurangi Dimensi Data

Manfaat PCA yang pertama adalah dimensi data. Kemampuannya untuk mengurangi dimensi data membantu dalam menggeneralisasi model machine learning lebih baik.

2. Meningkatkan Performa Algoritma

Manfaat berikutnya adalah meningkatkan performa algoritma. Umumnya, kinerja algoritma sering kali bergantung pada dimensi data. Selain itu, model yang berjalan pada data berdimensi tinggi mungkin berjalan lambat atau bahkan gagal.

Dengan mengurangi dimensi, PCA bisa meningkatkan kecepatan dan efisiensi model dengan mengorbankan bagian kecil dari akurasi model.

3. Mengurangi Noise dalam Data

Manfaat selanjutnya adalah untuk mengurangi noise dalam data. Hal ini dilakukan dengan memisahkan komponen yang mengandung informasi dari noise di dalam variabel asli

4. Seleksi Fitur

Manfaat berikutnya adalah untuk seleksi fitur. Meskipun PCA bukan teknik seleksi fitur trasional, ini bisa dipakai untuk identifikasi dalam pemilihan fitur penting.

Hal ini dilakukan dengan menghilangkan fitur yang memberikan informasi redundan atau kurang.

Kapan Menggunakan PCA?

PCA bisa dipakai di kondisi tertentu. Pertama, saat menghadapi data berdimensi tinggi. Dalam situasi tersebut, PCA bisa dipakai untuk mengurangi jumlah fitur serta memudahkan analisis serta visualisasi data.

Berikutnya, PCA bisa dipakai ketika variabel-variable dalam dataset saling berkolerasi tinggi. Penggunaan PCA di kasus ini memungkinkan pengurangan variabel ke set yang lebih independen. Pada akhirnya, multikolinearitas bisa dihindari.

Terakhir, PCA bisa digunakan dalam analisis data eskploratif. Dalam situasi tersebut, PCA dipakai untuk menemukan pola dan hubungan tersembunyi. Hal ini sangat membantu saat pemahaman awal dan persiapan data sebelum analisis lebih mendalam.

Bagaimana Cara Kerja PCA?

Seperti penjelasan di atas, PCA adalah teknik statistik yang merangkum konten informasi dari dataset besar ke yang lebih kecil. 

Dilansir dari IBM, set variabel kecil ini cenderung tidak berkorelasi. Ini dikenal sebagai komponen utama atau principal component. Komponen utama adalah kombinasi linear dari variabel asli. 

Selain itu, kombinasi tersebut cenderung mempunyai varians maksimum dibandingkan dengan yang lainnya.

Selain itu, komponen-komponen tersebut bertujuan untuk menangkap sebanyak mungkin informasi dari dataset asli.

Supaya Sobat MinDi lebih paham soal cara kerja PCA, MinDi sudah rangkum beberapa langkah yang menggambarkan prosesnya. Berikut adalah cara kerja PCA:

1. Transformasi ke Sistem Koordinat Baru

Langkah pertama, PCA mengubah dataset asli menjadi sistem koordinat baru yang disusun berdasarkan komponen utama. Ini dilakukan melalui operasi aljabar linier dan matriks.

2. Penggunaan Matriks Kovarians

Langkah kedua PCA menggunakan matriks kovarians. Di tahap ini, vektor eigen dan nilai eigen dari matriks kovarians  sangat berperan penting. Keduanya mendukung komponen utama untuk mengaktualisasikan analisis transformasi linier ini. 

3. Dua Komponen Utama PCA Dikalkulasi

Setelah matriks kovarians digunakan, dua komponen utama PCA dikalkulasi. Komponen ini mencakup PC1 dan PC2.

PC1 adalah arah di ruang di mana titik data memiliki varians paling tinggi. Lebih detailnya, ini adalah garis yang paling baik dan mewakili bentuk dari titik-titik yang diproyeksikan. 

Variabilitas yang lebih besar yang tertangkap dalam komponen pertama berarti informasi lebih banyak yang dipertahankan dari dataset asli.

Sementara itu, PC2 dihitung dengan cara yang sama seperti PC1. PC2 juga bertanggung jawab atas varians tertinggi berikutnya dalam dataset.

Varians tertinggi ini harus tidak berkorelasi dengan PC1. Artinya, PC2 harus ortogonal (tegak lurus) terhadap PC1. Hubungan ini juga bisa diekspresikan bahwa korelasi antara PC1 dan PC2 adalah nol.

Berikut ilustrasi korelasi antara PC1 dan PC2:

Sumber: IBM

Gambar di atas merupakan scatterplot yang biasanya digunakan untuk menunjukkan hubungan antara PC1 dan PC2. Ini adalah ilustrasi ketika PCA diterapkan pada dataset. Sumbu PC1 dan PC2 akan saling tegak lurus satu sama lain.

FAQ

Sumber: Freepik

Supaya Sobat MinDi paham tentang apa itu PCA secara lebih dalam lagi, berikut adalah salah satu pertanyaan umum terkait ini:

Apa Kriteria Dalam PCA?

Saat menggunakan PCA, ada beberapa kriteria yang bisa dipakai. Kriteria ini bertujuan untuk menentukan berapa banyak komponen utama yang harus dipertahankan dalam analisis.

Berikut penjelasan lengkapnya:

1. Kriteria Jumlah Komponen Utama (k < p)

2. Kriteria Apriori

Dalam kriteria ini, analis data atau peneliti sudah menetapkan sebelumnya berapa banyak komponen utama yang akan diambil. Ini dilakukan berdasarkan kebutuhan analisis atau pengetahuan subjektif tentang data.

3. Kriteria Nilai Eigen

Kriteria ini melihat pada nilai eigen dari matriks kovarians atau korelasi. Komponen dengan nilai eigen lebih besar dari satu akan dianggap signifikan. 

Hal ini karena menunjukkan bahwa komponen tersebut menjelaskan varians lebih banyak daripada satu variabel rata-rata. Komponen dengan nilai eigen kurang dari satu biasanya tidak akan dipertahankan.

4. Kriteria Persentase Varian

Kriteria ini menggunakan persentase kumulatif dari varian yang dijelaskan oleh setiap komponen. Komponen yang menjelaskan persentase varian yang lebih tinggi akan dipertahankan. 

Selain itu, kriteria ini membantu dalam memaksimalkan informasi yang dijelaskan dengan menggunakan jumlah komponen lebih sedikit.