Dalam penelitian akademis dan evaluasi pembelajaran mesin, pengukuran konsistensi antara pengulas atau pengklasifikasi semakin dihargai, dan koefisien kappa Cohen adalah alat statistik utama yang tidak hanya dapat menilai konsistensi antara ulasan tetapi juga dapat mengungkap kolaborasi tersembunyi. Perhitungan dan interpretasi statistik ini menghadirkan tantangan uniknya sendiri, dan penggunaan koefisien Kappa yang tepat dapat mendorong proses pengambilan keputusan yang lebih adil dan jujur.
Koefisien Kappa Cohen dianggap sebagai alat pengukuran yang lebih kuat daripada perhitungan persentase kesepakatan sederhana.
Penyebutan paling awal tentang koefisien Kappa Cohen dimulai pada tahun 1892, ketika ahli statistik Galton pertama kali mengeksplorasi statistik serupa. Pada tahun 1960, Jacob Cohen menerbitkan artikel inovatif dalam jurnal Educational and Psychological Measurement, yang secara resmi memperkenalkan koefisien Kappa sebagai teknik baru, yang memberikan landasan penting untuk penelitian selanjutnya.
Koefisien Kappa Cohen terutama digunakan untuk mengukur kesesuaian antara dua pengulas ketika mereka mengkategorikan item yang sama. Koefisien ini memperhitungkan kemungkinan kesesuaian acak antara pengulas dan biasanya dinyatakan sebagai berikut:
κ = (po - pe) / (1 - pe)
Di mana po adalah kesesuaian yang diamati antara pengulas dan pe adalah probabilitas yang diprediksi untuk kesesuaian acak. Nilai κ adalah 1 ketika kedua pengulas benar-benar sepakat dan 0 ketika tidak ada lebih dari sekadar kesepakatan acak antara pengulas. Dalam beberapa kasus, nilai ini bahkan dapat berupa angka negatif, yang menunjukkan ketidakkonsistenan yang signifikan antara ulasan.
Misalkan dalam peninjauan 50 aplikasi hibah, dua peninjau memberikan setiap aplikasi evaluasi "mendukung" atau "tidak mendukung". Jika 20 aplikasi didukung oleh peninjau A dan peninjau B, dan 15 aplikasi tidak didukung oleh salah satu peninjau A, maka kesesuaian yang diamati po dapat dihitung menjadi 0,7.
Perlu dicatat bahwa koefisien Kappa Cohen dapat memecahkan masalah konsistensi acak yang tidak dapat tercermin hanya dengan menggunakan persentase.
Hitung lebih lanjut konsistensi yang diharapkan pe. Berdasarkan data historis setiap peninjau, peninjau A mendukung 50% pendapat, sementara peninjau B mendukung 60%. Oleh karena itu, prediksi konsensus acak dari kedua belah pihak adalah:
pe = pYa + pTidak = 0,3 + 0,2 = 0,5
Terakhir, dengan menerapkan rumus di atas untuk menghitung nilai Kappa, kita memperoleh κ = 0,4, yang berarti terdapat tingkat persetujuan yang cukup antara kedua peninjau.
Koefisien Kappa Cohen digunakan secara luas di berbagai bidang, baik kedokteran, psikologi, atau ilmu sosial, terutama ketika analisis data kualitatif diperlukan. Koefisien ini dapat membantu peneliti mengidentifikasi potensi bias dan inkonsistensi dalam proses peninjauan, sehingga meningkatkan keandalan hasil penelitian.
KesimpulanNamun, peneliti perlu berhati-hati saat menginterpretasikan hasil koefisien Kappa, karena nilainya mungkin terkait dengan beberapa faktor seperti metode klasifikasi tinjauan, ukuran dan distribusi sampel, dll.
Koefisien Kappa Cohen bukan hanya alat statistik yang berguna, tetapi juga indikator penting untuk mengungkap kolaborasi tersembunyi di antara para peninjau. Namun, bagaimana cara menggunakan dan menginterpretasikan indikator ini dengan benar masih menjadi pertanyaan yang memerlukan pemikiran mendalam. Pernahkah Anda memikirkan tantangan apa yang mungkin Anda hadapi dalam penelitian Anda?