Estimator Kemungkinan Maksimum untuk Distribusi Binomial Negatif

Pertanyaannya adalah sebagai berikut:

Sampel acak dari nilai n dikumpulkan dari distribusi binomial negatif dengan parameter k = 3.

Temukan estimator kemungkinan maksimum dari parameter π.

Temukan rumus asimptotik untuk kesalahan standar estimator ini.

Jelaskan mengapa distribusi binomial negatif akan mendekati normal jika parameter k cukup besar. Apa parameter perkiraan normal ini?

Pekerjaan saya adalah sebagai berikut:
1. Saya merasa seperti ini yang diinginkan tetapi saya tidak yakin apakah saya akurat di sini atau jika saya dapat mengambil ini lebih jauh mengingat informasi yang diberikan?

p (x) = (\binom{x - 1}{k - 1}) π^{k} (1 - π)^{x - k} L (π) = Π_{i}^{n} p (x_{n} | π) ℓ (π) = Σ_{i}^{n} \ln (p (x_{n} | π)) ℓ ‘ (π) = Σ_{i}^{n} \frac{k}{π} - \frac{(x - k)}{(1 - π)}

$p(x) = {x-1 \choose k-1}\pi^k(1-\pi)^{x-k}\\ L(\pi) = \Pi_i^n p(x_n|\pi)\\ \ell(\pi) = \Sigma_i^n\ln(p(x_n|\pi))\\ \ell`(\pi) = \Sigma_i^n\dfrac{k}{\pi}-\dfrac{(x-k)}{(1-\pi)}$

Saya pikir berikut ini yang diminta. Untuk bagian terakhir saya merasa seperti saya perlu mengganti $\hat{\pi}$ dengan $\dfrac{k}{x}$
$ℓ ‘ ‘ (\hat{π}) = - \frac{k}{{\hat{π}}^{2}} + \frac{x}{(1 - \hat{π})^{2}} s e (\hat{π}) = \sqrt{- \frac{1}{ℓ ‘ ‘ (\hat{π})}} s e (\hat{π}) = \sqrt{\frac{{\hat{π}}^{2}}{k} - \frac{(1 - \hat{π})^{2}}{x}}$ $\ell``(\hat{\pi}) = -\dfrac{k}{\hat{\pi}^2} + \dfrac{x}{(1-\hat{\pi})^2}\\ se(\hat{\pi}) = \sqrt{-\dfrac{1}{\ell``(\hat{\pi})}}\\ se(\hat{\pi}) = \sqrt{\dfrac{\hat{\pi}^2}{k} - \dfrac{(1-\hat{\pi})^2}{x}}\\$
Saya tidak begitu yakin bagaimana membuktikan ini dan saya masih meneliti. Petunjuk atau tautan bermanfaat apa pun akan sangat dihargai. Saya merasa itu terkait baik dengan fakta bahwa distribusi binomial negatif dapat dilihat sebagai kumpulan distribusi geometris atau kebalikan dari distribusi binomial tetapi tidak yakin bagaimana cara mendekatinya.

Bantuan apa pun akan sangat dihargai

self-study maximum-likelihood negative-binomial

— Syzorr
sumber

(1) Untuk menemukan estimasi kemungkinan maksimum Anda perlu menemukan di mana fungsi kemungkinan log mencapai maksimum. Menghitung skor (turunan pertama dari fungsi log-likelihood terhadap ) adalah awal - nilai apa yang akan diambil secara maksimal? (Dan ingat Anda tidak perlu memperkirakan .)

\hat{π}

$\hat \pi$

π

$\pi$

k

$k$

— Scortchi - Reinstate Monica

Saya lupa menambahkan turunan dari log-likelihood = 0 untuk tujuan mencari tahu maksimum. Jika saya telah menemukan ini dengan benar (telah mengerjakannya sejak memposting), yang saya miliki adalah

\frac{k}{π} - \frac{Σ_{i = 0}^{n} (x_{i} - k)}{(1 - π)} = 0

$\dfrac{k}{\pi}-\dfrac{\Sigma_{i=0}^n(x_i-k)}{(1-\pi)} = 0$

— Syzorr

Hati-hati:Perhatikan juga bahwa mulai dari 1.

\sum_{i = 1}^{n} \frac{k}{π} - \sum_{i = 1}^{n} \frac{(x_{i} - k)}{(1 - π)} = ?

$\sum_{i=1}^n \frac{k}{\pi} - \sum_{i=1}^n{\frac{(x_i-k)}{(1-\pi)}} = \ ?$

i

$i$

— Scortchi - Reinstate Monica

Dalam (2), jarang terjadi bahwa kebalikan dari perbedaan adalah perbedaan dari kebalikan. Kesalahan ini sangat memengaruhi rumus akhir Anda untuk .

s e (\hat{π})

$se(\hat\pi)$

— whuber

$p(x) = {x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}$

$L(\pi;x_i) = \prod_{i=1}^{n}{x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}\\$

$\ell(\pi;x_i) = \sum_{i=1}^{n}[log{x_i-1 \choose k-1}+klog(\pi)+(x_i-k)log(1-\pi)]\\ \frac{d\ell(\pi;x_i)}{d\pi} = \sum_{i=1}^{n}[\dfrac{k}{\pi}-\dfrac{(x_i-k)}{(1-\pi)}]$

Setel ini menjadi nol,

$\frac{nk}{\pi}=\frac{\sum_{i=1}^nx_i-nk}{1-\pi}$

$\therefore$ $\hat\pi=\frac{nk}{\sum_{i=1}^nx}$

Untuk bagian kedua Anda perlu menggunakan teorema yang , adalah informasi nelayan di sini. Oleh karena itu, standar deviasi dari adalah . Atau Anda menyebutnya sebagai kesalahan standar karena Anda menggunakan CLT di sini. $\sqrt{n}(\hat\theta-\theta) \overset{D}{\rightarrow}N(0,\frac{1}{I(\theta)})$ $I(\theta)$ $\hat\theta$ $[nI(\theta)]^{-1/2}$

Jadi kita perlu menghitung informasi Fisher untuk distribusi binomial negatif.

$\frac{\partial^2 \log(P(x;\pi))}{\partial\pi^2}=-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2}$

$I(\theta)=-E(-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2})=\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi}$

Catatan: untuk PMF binomial negatif $E(x) =\frac{k}{\pi}$

Oleh karena itu, kesalahan standar untuk adalah $\hat \pi$ $[n(\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi})]^{-1/2}$

Sederhanakan kita dapatkan, kita mendapatkan $se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

Distribusi geometrik adalah kasus khusus dari distribusi binomial negatif ketika k = 1. Note adalah distribusi geometrik $\pi(1-\pi)^{x-1}$

Oleh karena itu, variabel binomial negatif dapat ditulis sebagai jumlah dari k, variabel acak yang terdistribusi secara identik (geometris).

Jadi dengan CLT distribusi binomial negatif akan mendekati normal jika parameter k cukup besar

— Jauh di Utara
sumber

Silakan baca Topik apa yang bisa saya tanyakan di sini? pada pertanyaan belajar mandiri: daripada mengerjakan pekerjaan rumah orang lain untuk mereka, kami mencoba membantu mereka untuk melakukannya sendiri.

— Scortchi

Anda tidak perlu mempertimbangkan ukuran sampel ketika menghitung MLE. Anda mungkin membingungkan akun pengamatan independen, masing-masing no. uji coba yang diperlukan untuk mencapai kegagalan ( ) dengan catatan pengamatan tunggal no. uji coba yang diperlukan untuk mencapai kegagalan ( ). Yang pertama memberi kemungkinan ; yang terakhir, .

n

$n$

n

$n$

k

$k$

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \ldots, x_n$

k

$k$

n

$n$

\sum_{i = 1}^{n} π^{(} 1 - π)^{x_{i} - k}

$\sum_{i=1}^n{\pi^(1-\pi)^{x_i-k}}$

π^{k} (1 - π)^{n - k}

$\pi^k(1-\pi)^{n-k}$

— Scortchi

Anda benar, saya selalu bingung pada bagian ini. Terima kasih banyak. Saya juga mengajukan banyak pertanyaan di forum ini, tetapi saya sangat berharap orang-orang dapat memberi saya jawaban yang sangat terperinci, kemudian saya dapat mempelajarinya sendiri langkah demi langkah.

— Deep North

Ya. Saya mengerti mengapa aturan untuk tidak memberikan terlalu banyak detail tetapi jawaban ini dikombinasikan dengan catatan saya sendiri dari perkuliahan telah memungkinkan saya untuk mengikat banyak bagian yang longgar menjadi satu. Saya bermaksud pergi dan berbicara dengan dosen saya hari ini tentang hal ini sehingga saya bisa mendapatkan klarifikasi darinya. Sekarang hari Jumat di sini. Tugas jatuh tempo Senin seperti yang disebutkan di atas. Kami mempelajari ini pada hari Rabu dan hanya memiliki satu contoh menggunakan distribusi binomial. Terima kasih banyak untuk detailnya.

— Syzorr

Ada beberapa kesalahan dalam pekerjaan Anda di sana karena saya (θ) = E [] tidak -E [] (yang telah membingungkan saya sampai saya mencari persamaan yang Anda gunakan) Akhirnya telah berakhir dengan

s e (π) = \sqrt{\frac{π^{2} (π - 1)}{k n}}

$se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

— Syzorr