Apa itu Maximum Likelihood?

Maximum Likelihood (ML) adalah metode estimasi statistik yang digunakan untuk menentukan nilai parameter dalam suatu model probabilistik yang paling mungkin menghasilkan data yang diamati. Konsep ini sangat umum digunakan dalam berbagai analisis, termasuk regresi, analisis faktor, dan pemodelan persamaan struktural (SEM).

Metode estimasi ini dinyatakan dalam fungsi:

L(θ)=P(x1,x2,…,xn ∣θ)

Tujuan dari ML adalah mencari nilai parameter θ/ theta yang memaksimalkan fungsi likelihood L(θ), yaitu membuat data yang diamati paling “mungkin” terjadi. Fungsi likelihood adalah cara untuk menilai “seberapa cocok” nilai parameter (θ) dengan data yang kita miliki. Intinya, ini membantu kita menjawab pertanyaan:

“Jika parameter model adalah θ, seberapa mungkin data yang kita amati terjadi?”

Bagaimana cara fungsi maximum likelihood bekerja dan seperti apa contohnya?

Bayangkan kita sedang mencoba menebak suhu udara di sebuah ruangan, tetapi kita hanya memiliki data berupa ukuran beberapa orang yang memakai jaket di sana.

1. Kita menebak bahwa suhu θ adalah 20°C.
   • Jika banyak orang memakai jaket tipis, tebakan kita (20°C) mungkin masuk akal, sehingga “cocok” atau likely.
2. Anda menebak bahwa suhu θ adalah 5°C.
   • Jika orang-orang terlihat memakai jaket tebal, tebakan kita (5°C) juga mungkin masuk akal, jadi ini juga likely.
3. Namun, jika Anda menebak suhu θ adalah 30°C, dan masih banyak yang memakai jaket tebal, ini tampaknya tidak cocok dengan data. Nilai likelihood untuk θ=30°C akan rendah.

Fungsi likelihood adalah cara kita menghitung “kecocokan” itu secara sistematis.

Fungsi likelihood memiliki tiga komponen sebagai berikut.

Data: Kita memiliki data yang diamati, misalnya x1,x2,…,xn​. Dalam contoh di atas, data kita adalah orang-orang yang memakai jaket (berapa banyak, seberapa tebal jaketnya, dll.).

Model: Kita punya model yang mengatakan bahwa data ini bergantung pada suatu parameter θ. Oarameter θ dalam contoh adalah suhu ruangan.

Likelihood: Fungsi likelihood menghitung kemungkinan data x1,x2,…,xn terjadi jika kita tahu nilai θ.

Dalam bahasa sederhana: “Kalau suhu benar θ, seberapa mungkin kita akan melihat data ini?”

Bagaimana cara menyatakan likelihood? Seperti apa contoh perhitungannya?

Likelihood bukan dinyatakan dalam persen, melainkan dalam bentuk nilai numerik yang menunjukkan seberapa “mungkin” data yang diamati terjadi jika parameter tertentu diberikan. Nilainya tidak harus terletak dalam rentang 0 hingga 1 seperti probabilitas, tetapi lebih besar nilainya, lebih mungkin data tersebut cocok dengan parameter.

Berikut adalah ilustrasinya:

Kita memiliki sebuah koin yang dilempar sebanyak 10 kali. Hasil lemparan adalah: HHHTHHTTHT (H = Head, T = Tail). Total ada 6 Head dan 4 Tail.

Kita ingin mengetahui kemungkinan data ini (6 Head, 4 Tail) terjadi untuk parameter θ, di mana θ adalah probabilitas munculnya Head pada satu lemparan koin.

1. Fungsi Likelihood

Probabilitas setiap hasil lemparan diberikan oleh P(x∣θ)=θ^k⋅(1−θ)ⁿ, di mana:

• k: jumlah Head (6 dalam contoh ini).
• n: jumlah Tail (4 dalam contoh ini).
• θ: probabilitas munculnya Head (parameter yang ingin kita estimasi).

Jadi, likelihood untuk θ adalah:

L(θ)=θ⁶⋅(1−θ)⁴

2. Perhitungan Likelihood untuk Nilai θ Tertentu

Misalkan kita mencoba beberapa nilai θ untuk melihat seberapa cocok parameter ini dengan data:

• Jika θ = 0.5 (koin fair):

L(0.5) = 0.5⁶⋅(1−0.5)⁴ = 0.015625

• Jika θ = 0.6 (kemungkinan Head lebih tinggi):

L(0.6) = 0.6⁶⋅(1−0.6)⁴ = 0.018144

• Jika θ = 0.8 (kemungkinan Head jauh lebih tinggi):

L(0.8) = 0.8⁶⋅(1−0.8)⁴ = 0.00065536

3. Interpretasi Likelihood

• Likelihood lebih tinggi untuk θ = 0.6 (L(0,6) = 0.018144), dibandingkan dengan θ = 0.5 atau θ = 0.8.
• Ini menunjukkan bahwa data (6 Head, 4 Tail) lebih “cocok” jika probabilitas Head adalah sekitar θ=0.6.

Apa perbedaan likelihood dengan probabilitas?

Probabilitas: Berapa kemungkinan suatu peristiwa terjadi tanpa asumsi tertentu?

Probabilitas adalah tentang prediksi. Kita sudah tahu aturan mainnya (parameter), dan kita ingin memprediksi kemungkinan suatu peristiwa terjadi.

Bayangkan kita memiliki sebuah koin, dan kita tahu bahwa koin ini fair (θ=0.5, peluang Head adalah 50%). Sekarang kita ingin tahu, seberapa besar kemungkinan mendapatkan 6 Head dari 10 kali lemparan? Kita sudah tahu parameter koin, jadi kita menghitung probabilitasnya. Jawabannya adalah sekitar 20,5% (P=0.205).

Jadi, probabilitas adalah tentang memprediksi hasil jika aturan permainan (parameter) sudah diketahui.

Likelihood: Berapa besar kemungkinan data terjadi dengan asumsi parameter tertentu?

Likelihood adalah tentang kecocokan. Kita sudah punya data hasil (misalnya, 6 Head dari 10 lemparan), dan kita ingin tahu aturan permainan (parameter) apa yang paling masuk akal menghasilkan data ini.

Misalnya, kita tidak tahu apakah koin fair atau tidak, jadi kita mencoba berbagai kemungkinan:

• Jika koin fair (θ=0.5), seberapa cocok data ini? (Likelihoood = 0.015625)
• Jika θ=0.6 (peluang Head lebih besar), seberapa cocok data ini? (Likelihood = 0.018144)
• Jika θ=0.8 (koin berat ke Head), seberapa cocok data ini? (Likelihood = 0.00065536)

Ternyata, θ=0.6 menghasilkan nilai likelihood tertinggi. Maka, kita menyimpulkan bahwa probabilitas Head yang paling masuk akal untuk koin ini adalah sekitar 60%.

Jadi, likelihood adalah tentang mencari aturan permainan (parameter) yang paling cocok dengan data.

Analoginya, bayangkan kita adalah seorang detektif. Likelihood: Kita menemukan bukti, dan sekarang kita mencoba mencari tahu siapa pelaku yang paling masuk akal berdasarkan bukti itu. Probabilitas: Kita sudah tahu profil pelaku, dan kita mencoba memprediksi apa yang dia lakukan.