Interpretasi nomor AIC & BIC


23

Saya mencari contoh bagaimana menafsirkan estimasi AIC (kriteria informasi Akaike) dan BIC (kriteria informasi Bayesian).

Bisakah perbedaan negatif antara BIC ditafsirkan sebagai peluang posterior dari satu model di atas yang lain? Bagaimana saya bisa mengatakannya dengan kata-kata? Misalnya BIC = -2 dapat menyiratkan bahwa peluang model yang lebih baik daripada model lainnya sekitar e2=7.4 ?

Setiap saran dasar dihargai oleh orang baru ini.


Lihatlah bab 2. Bagian 2.6 - yang sebagian tersedia di buku-buku google - mungkin secara khusus membantu Anda. books.google.se/… (Ref: Pemilihan Model dan Inferensi Multi-Model oleh Kenneth P. Burnham dan David R. Anderson. Springer Verlag)
boscovich

Jawaban:


6

untuk model i dariset modelaprioridapat dikurangkan ke Δ i = A I C i - m i n A I C di mana model terbaik dari set model akan memiliki Δ = 0 . Kita dapat menggunakan nilai Δ i untuk memperkirakan kekuatan bukti ( w i ) untuk semua model dalam set model di mana: w i = e ( - 0,5 Δ i )AICiΔi=AICiminAICΔ=0Δiwi Ini sering disebut sebagai "bobot bukti" untuk modelidiberikanset modelapriori. SeiringΔimeningkat,wiberkurang yang menyarankan modelikurang masuk akal. Nilai-nilaiwiini dapat diartikan sebagai probabilitas bahwa modeliadalah model terbaik yang diberikanset modelapriori. Kami juga bisa menghitung kemungkinan relatif modelivs Modeljw

wi=e(0.5Δi)r=1Re(0.5Δi).
iΔiwiiwiiij sebagai . Sebagai contoh, jika w i = 0,8 dan w j = 0,1 maka kita dapat mengatakan model i adalah 8 kali lebih mungkin daripada model jwi/wjwi=0.8wj=0.1ij .

Perhatikan, ketika model 1 adalah model terbaik ( A I C terkecil ). Burnham dan Anderson (2002) menyebut ini sebagai rasio bukti. Tabel ini menunjukkan bagaimana rasio bukti berubah sehubungan dengan model terbaik.w1/w2=e0.5Δ2AIC

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Referensi

Burnham, KP, dan DR Anderson. 2002. Pemilihan model dan inferensi multimodel: pendekatan informasi-teori praktis. Edisi kedua. Springer, New York, AS.

Anderson, DR 2008. Model berdasarkan inferensi dalam ilmu kehidupan: primer pada bukti. Springer, New York, AS.


maukah Anda mengklarifikasi apa yang dirujuk oleh , khususnya karena indeks penjumlahan tidak muncul di dalam penjumlahan. Apakah R span ruang model? rR
dopexxx

Ada model R dalam set model.
RioRaider

3

Saya tidak berpikir ada interpretasi sederhana AIC atau BIC seperti itu. Keduanya adalah jumlah yang mengambil kemungkinan log dan menerapkan penalti untuk jumlah parameter yang diperkirakan. Hukuman spesifik dijelaskan untuk AIC oleh Akaike dalam makalahnya mulai tahun 1974. BIC dipilih oleh Gideon Schwarz dalam makalahnya tahun 1978 dan dimotivasi oleh argumen Bayesian.


2
Hukuman dapat diartikan sebagai model yang disukai sebelumnya dengan ukuran tertentu. Jika Anda mengadopsi sebelumnya (yang memiliki beberapa justifikasi teoritik-informasi), maka Anda dapat menghitung rasio odds posterior langsung dari nilai IC. Juga, @RioRaider menyebutkan bobot Akaike, yang memberi Anda probabilitas bahwa model yang diberikan adalah model terbaik dari set dalam hal divergensi KL. ( ref - lihat hlm. 800).
David J. Harris

1

Anda mungkin menggunakan BIC sebagai hasil dari perkiraan faktor Bayes. Karenanya Anda tidak mempertimbangkan (kurang lebih) distribusi sebelumnya. BIC dalam tahap pemilihan model berguna ketika Anda membandingkan model. Untuk sepenuhnya memahami BIC, faktor Bayes Saya sangat merekomendasikan membaca artikel (bagian 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf untuk menambah pengetahuan dengan: http: // www .stat.washington.edu / raftery / Research / PDF / kass1995.pdf

Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.