Pertanyaan yang diberi tag «exponential-family»

Saya menemukan komentar pada The Chemical Statistician bahwa sampel median sering bisa menjadi pilihan untuk statistik yang cukup tetapi, selain kasus yang jelas dari satu atau dua pengamatan di mana itu sama dengan rata-rata sampel, saya tidak bisa memikirkan non-sepele dan iid lainnya. kasus di mana median sampel sudah cukup.

21 median  exponential-family  sufficient-statistics  chemistry 

Jadi di sini saya sedang mempelajari inferensi. Saya ingin seseorang dapat menyebutkan keuntungan dari keluarga eksponensial. Oleh keluarga eksponensial, maksud saya distribusi yang diberikan sebagai f( x | θ ) = h ( x ) exp{ η( θ ) T( x ) - B ( θ ) }f(x|θ)=h(x)exp⁡{η(θ)T(x)−B(θ)}\begin{align*} f(x|\theta) = …

19 self-study  exponential-family 

Saya membaca buku: Uskup, Pengenalan Pola dan Pembelajaran Mesin (2006) yang mendefinisikan keluarga eksponensial sebagai distribusi bentuk (Persamaan 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp⁡{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\} Tapi saya melihat tidak ada batasan yang ditempatkan pada atau \ mathbf u (\ mathbf x) …

18 mathematical-statistics  exponential-family 

Distribusi Poisson dapat mengukur peristiwa per satuan waktu, dan parameternya adalah λλ\lambda . Distribusi eksponensial mengukur waktu hingga peristiwa berikutnya, dengan parameter . Satu dapat mengkonversi satu distribusi ke yang lain, tergantung pada apakah lebih mudah untuk memodelkan peristiwa atau waktu.1λ1λ\frac{1}{\lambda} Sekarang, gamma-poisson adalah poisson "stretched" dengan varian yang lebih …

16 poisson-distribution  negative-binomial  gamma-distribution  exponential-family 

Pertanyaan saya adalah: Apakah model linier umum (GLM) dijamin untuk konvergen ke global maksimum? Jika demikian, mengapa? Lebih lanjut, kendala apa yang ada pada fungsi tautan untuk memastikan kecemburuan? Pemahaman saya tentang GLM adalah bahwa mereka memaksimalkan fungsi kemungkinan sangat nonlinier. Jadi, saya akan membayangkan bahwa ada beberapa maxima lokal …

16 generalized-linear-model  optimization  convergence  exponential-family 

\newcommand{\E}{\mathbb{E}} Bagaimana A ( ⋅ ) = ∫ d uV 1 / 3 ( μ )A(⋅)=∫duV1/3(μ)A(\cdot) = \displaystyle\int\frac{du}{V^{1/3}(\mu)} transformasi normalisasi untuk keluarga eksponensial berasal? Lebih khusus : Saya mencoba mengikuti sketsa ekspansi Taylor di halaman 3, geser 1 di sini tetapi memiliki beberapa pertanyaan. Dengan XXX dari keluarga eksponensial, transformasi …

15 data-transformation  residuals  asymptotics  exponential-family 

Memilih parameter parameter distribusi gamma Γ(b,c)Γ(b,c)\Gamma(b,c) oleh pdf g(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c) = \frac{1}{\Gamma(c)}\frac{x^{c-1}}{b^c}e^{-x/b} Perbedaan Kullback-Leibler antaraΓ(bq,cq)Γ(bq,cq)\Gamma(b_q,c_q)danΓ(bp,cp)Γ(bp,cp)\Gamma(b_p,c_p)diberikan oleh [1] sebagai KLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−logbq−cq−logΓ(cq)+logΓ(cp)+cplogbp−(cp−1)(Ψ(cq)+logbq)+bqcqbpKLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−log⁡bq−cq−log⁡Γ(cq)+log⁡Γ(cp)+cplog⁡bp−(cp−1)(Ψ(cq)+log⁡bq)+bqcqbp\begin{align} KL_{Ga}(b_q,c_q;b_p,c_p) &= (c_q-1)\Psi(c_q) - \log b_q - c_q - \log\Gamma(c_q) + \log\Gamma(c_p)\\ &\qquad+ c_p\log b_p - (c_p-1)(\Psi(c_q) + \log b_q) + \frac{b_qc_q}{b_p} \end{align} Saya menduga bahwa Ψ(x):=Γ′(x)/Γ(x)Ψ(x):=Γ′(x)/Γ(x)\Psi(x):= \Gamma'(x)/\Gamma(x) adalah fungsi digamma . …

15 kullback-leibler  gamma-distribution  exponential-family 

Apakah keluarga dari suatu distribusi memiliki definisi yang berbeda untuk statistik daripada di disiplin ilmu lain? Secara umum, keluarga kurva adalah seperangkat kurva, yang masing-masing diberikan oleh fungsi atau parametriisasi di mana satu atau lebih parameter bervariasi. Keluarga semacam itu digunakan, misalnya, untuk mengkarakterisasi komponen elektronik . Untuk statistik, keluarga …

14 distributions  terminology  parametric  exponential-family 

Asumsikan skalar variabel acak milik keluarga eksponensial vektor-parameter dengan pdfXXX fX(x|θ)=h(x)exp(∑i=1sηi(θ)Ti(x)−A(θ))fX(x|θ)=h(x)exp⁡(∑i=1sηi(θ)Ti(x)−A(θ)) f_X(x|\boldsymbol \theta) = h(x) \exp\left(\sum_{i=1}^s \eta_i({\boldsymbol \theta}) T_i(x) - A({\boldsymbol \theta}) \right) di mana θ=(θ1,θ2,⋯,θs)Tθ=(θ1,θ2,⋯,θs)T{\boldsymbol \theta} = \left(\theta_1, \theta_2, \cdots, \theta_s \right )^T adalah vektor parameter dan T(x)=(T1(x),T2(x),⋯,Ts(x))TT(x)=(T1(x),T2(x),⋯,Ts(x))T\mathbf{T}(x)= \left(T_1(x), T_2(x), \cdots,T_s(x) \right)^T adalah statistik gabungan yang memadai. Dapat ditunjukkan …

11 variance  mean  exponential-family  sufficient-statistics 

Dalam GLM, dengan asumsi skalar dan untuk distribusi dasar dengan pdf Dapat ditunjukkan bahwa . Jika fungsi tautan memenuhi berikut ini, mana adalah prediktor linier, maka disebut fungsi tautan kanonik untuk ini model.θ f Y ( y | θ , τ ) = h ( y , τ ) exp …

11 generalized-linear-model  exponential-family 

Untuk distribusi Gaussian dengan mean dan varians tidak diketahui, statistik yang cukup dalam bentuk keluarga eksponensial standar adalah . Saya memiliki distribusi yang memiliki T ( x ) = ( x , x 2 , . . . , X 2 N )T(x)=(x,x2)T(x)=(x,x2)T(x)=(x,x^2)T(x)=(x,x2,...,x2N)T(x)=(x,x2,...,x2N)T(x)=(x,x^2,...,x^{2N}), di mana N adalah semacam parameter desain. …

10 normal-distribution  sampling  exponential-family 

Biarkan menjadi variabel acak iid yang memiliki pdfX1,X2,...,XnX1,X2,...,XnX_1, X_2, . . . , X_n fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x) dimana . Berikan UMVUE dari dan hitung variansnyaθ>0θ>0\theta >01θ1θ\frac{1}{\theta} Saya telah belajar tentang dua metode seperti itu untuk memperoleh UMVUE: Batas Bawah Cramer-Rao (CRLB) Lehmann-Scheffe Thereom Saya akan mencoba ini menggunakan yang pertama …

10 self-study  estimation  inference  exponential-family  umvue 

Misalkan menjadi sampel acak dari distribusi untuk . Yaitu,X1,...,XnX1,...,Xn X_1, ...,X_nGeometric(θ)Geometric(θ)Geometric(\theta)0&lt;θ&lt;10&lt;θ&lt;10<\theta<1 pθ(x)=θ(1−θ)x−1I{1,2,...}(x)pθ(x)=θ(1−θ)x−1I{1,2,...}(x)p_{\theta}(x)=\theta(1-\theta)^{x-1} I_{\{1,2,...\}}(x) Temukan estimator yang tidak bias dengan varians minimum untukg(θ)=1θg(θ)=1θg(\theta)=\frac{1}{\theta} Usaha saya: Karena distribusi geometrik berasal dari keluarga eksponensial, statistik lengkap dan cukup untuk . Juga, jika adalah penduga untuk , itu tidak bias. Oleh karena itu, oleh …

10 probability  self-study  estimation  unbiased-estimator  exponential-family 

Pertanyaan saya muncul dari membaca bacaan Minka "Memperkirakan Distribusi Dirichlet" , yang menyatakan berikut tanpa bukti dalam konteks memperoleh penduga kemungkinan maksimum untuk distribusi Dirichlet berdasarkan pengamatan vektor acak: Seperti biasa dengan keluarga eksponensial, ketika gradien adalah nol, statistik yang diharapkan cukup sama dengan statistik yang diamati cukup. Saya belum …

10 self-study  maximum-likelihood  exponential-family  sufficient-statistics 

Dari kursus probabilitas dasar, distribusi probabilitas seperti Gaussian, Poisson atau eksponensial semua memiliki motivasi yang baik. Setelah menatap formula distribusi keluarga eksponensial untuk waktu yang lama, saya masih tidak mendapatkan intuisi. fX(x∣θ)=h(x)exp(η(θ)⋅T(x)−A(θ))fX(x∣θ)=h(x)exp⁡(η(θ)⋅T(x)−A(θ))f_{X}(x\mid {\boldsymbol {\theta }})=h(x)\exp {\Big (}{\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (x)-A({\boldsymbol {\theta }}){\Big )} Adakah yang bisa …

10 exponential-family