Dapatkah Neyman-Pearson lemma berlaku untuk kasus ketika null sederhana dan alternatif tidak termasuk dalam keluarga distribusi yang sama?


15
  1. Dapatkah lemma Neyman-Pearson berlaku untuk kasus ketika nol sederhana dan alternatif sederhana tidak termasuk dalam keluarga distribusi yang sama? Dari buktinya, saya tidak mengerti mengapa itu tidak bisa.

    Misalnya, ketika nol sederhana adalah distribusi normal dan alternatif sederhana adalah distribusi eksponensial.

  2. Apakah uji rasio kemungkinan merupakan cara yang baik untuk menguji komposit nol terhadap alternatif komposit ketika keduanya milik keluarga distribusi yang berbeda?

Terima kasih dan salam!


Nah, itu pertanyaan yang bagus.
Glen_b -Reinstate Monica

1
Seperti yang Anda katakan dalam pertanyaan, buktinya tidak membuat asumsi tentang bentuk kedua distribusi. Percayalah pada matematika.
Cyan

@Cyan: Apakah uji rasio kemungkinan merupakan cara yang baik untuk komposit nol dan alternatif komposit yang termasuk dalam kelompok distribusi yang berbeda?
StackExchange untuk Semua

Untuk mengklarifikasi komentar saya sebelumnya: Saya sering melihat orang mengatakan "tidak" - bahkan tampaknya di koran : - "[Tes Rasio Kemungkinan] ... mungkin tidak dapat digunakan untuk membuat kesimpulan tentang bentuk fungsional dari distribusi data. " Alangkah baiknya jika pernyataan seperti itu tidak sering dibiarkan begitu saja.
Glen_b -Reinstate Monica

3
Ini adalah non-pertanyaan karena setiap dua distribusi yang berbeda dan G adalah bagian dari keluarga satu-parameter kontinu { p F + ( 1 - p ) G } , , 0 p 1 . FG{pF+(1p)G},0p1
whuber

Jawaban:


11

Ya Neyman Pearson Lemma dapat berlaku untuk kasus ini ketika null sederhana dan alternatif sederhana tidak termasuk dalam keluarga distribusi yang sama.

Mari kita ingin membangun tes Paling Kuat (MP) dari terhadap H 1 : X Exp ( 1 )H0:XN(0,1)H1:XExp(1) dari ukurannya.

Untuk tertentu , fungsi kritis kami oleh Neyman Pearson lemma adalahk

ϕ(x)={1,f1(x)f0(x)>k0,Otherwise

adalah tes MP dari terhadap H 1H0H1 dari ukurannya.

Di sini

r(x)=f1(x)f0(x)=ex12πex2/2=2πe(x22x)

Perhatikan bahwa Sekarang jika Anda menggambar gambarr(x)[Saya tidak tahu bagaimana membuat gambar sebagai jawaban], dari grafik akan jelas bahwar(x)>k

r(x)=2πe(x22x)(x1){<0,x<1>0,x>1
r(x) .r(x)>kx>c

So, for a particualr c

ϕ(x)={1,x>c0,Otherwise
is a MP test of Ho against H1 of its size.

You can test

    1. H0:XN(0,12) against H1:XCauchy(0,1)
    2. H0:XN(0,1) against H1:XCauchy(0,1)
    3. H0:XN(0,1) against H1:XDouble Exponential(0,1)

By Neyman Pearson lemma.

Normally the likelihood ration test(LRT) is not a good way for composite null and composite alternative which belong to different family of distributions.The LRT is specially useful when θ is a multi-parameter and we wish to test hypothesis concerning one of the parameters.

That's all from me.


5

Q2. The likelihood ratio's a sensible enough test statistic but (a) the Neyman-Pearson Lemma doesn't apply to composite hypotheses, so the LRT won't necessarily be most powerful; & (b) Wilks' Theorem only applies to nested hypotheses, so unless one family is a special case of the other (e.g. exponential/Weibull, Poisson/negative binomial) you don't know the distribution of the likelihood ratio under the null, even asymptotically.


"...you don't know the distribution of the likelihood ratio under the null, even asymptotically." That's not such a big concern in a world where you can code up a simulation under the null in less that 20 lines of R.
Cyan

@Cyan: Writing those 20 lines might require some thought though. Bear in mind it's a composite null, in general we won't have pivots, & I don't think the LR will necessarily be an approximate pivot. I suppose you could studentize the LR ...
Scortchi - Reinstate Monica

4
  1. You're exactly right. The general picture is: we want a test statistic that gives us maximal power at a given significance level α. In other words, a way to compute a value ϕ so that the points part of parameter space for which ϕ exceeds its αth quantile under H0 have the least possible weight under H1. The Neyman-Pearson lemma demonstrates that that statistic is the likelihood ratio.

  2. Neyman & Pearson's original paper also discusses composite hypotheses. In some cases the answer is straightforward -- if there is a choice of particular distributions in each family whose likelihood ratio is conservative when applied the the whole family. This is what often happens, for instance, for nested hypotheses. It's easy for this not to happen, though; this paper by Cox discusses what to do further. I think a more modern approach here would be to approach it in a Bayesian way, by putting priors over the two families.


Great reference there - the Cox paper.
Scortchi - Reinstate Monica
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.