Haruskah fungsi delta Dirac dianggap sebagai subkelas dari distribusi Gaussian?

Dalam Wikidata adalah mungkin untuk menautkan distribusi probabilitas (seperti yang lainnya) dalam ontologi, misalnya, bahwa distribusi-t adalah subkelas dari distribusi-t noncentral, lihat, misalnya,

https://angryloki.github.io/wikidata-graph-builder/?property=P279&item=Q209675&iterations=3&limit=3

Ada berbagai kasus pembatas, misalnya, ketika derajat kebebasan dalam distribusi-t pergi hingga tak terbatas atau ketika varians mendekati nol untuk distribusi normal (distribusi Gaussian). Dalam kasus terakhir distribusi akan menuju fungsi delta Dirac.

Saya perhatikan bahwa di Wikipedia bahasa Inggris parameter varians saat ini dinyatakan lebih besar dari nol, jadi dengan interpretasi yang ketat orang tidak akan mengatakan bahwa fungsi delta Dirac adalah subkelas dari distribusi normal. Namun, bagi saya sepertinya cukup ok, karena saya akan mengatakan bahwa distribusi eksponensial adalah superclass dari fungsi delta Dirac.

Apakah ada masalah dengan menyatakan bahwa fungsi delta Dirac adalah subkelas dari distribusi Gaussian?

distributions normal-distribution dirac-delta

— Finn Årup Nielsen
sumber

JIKA dirac delta adalah subkelas gaussian maka kurtosisnya harus 3, kan?

— Aksakal

Saya kira jika kita menganggap delta Dirac sebagai subkelas dari beberapa distribusi probabilitas, maka kurtosis tidak konsisten untuk Delta Dirac. Itu berbicara menentang tentang Dirac delta sebagai subkelas dari salah satu distribusi ini.

— Finn Årup Nielsen

Dalam konteks probabilitas, delta digambarkan sebagai fungsi umum. Ini bukan fungsi biasa

— Aksakal

Jawaban:

Delta Dirac dianggap sebagai distribusi Gaussian ketika nyaman untuk melakukannya, dan tidak begitu dianggap ketika sudut pandang ini mengharuskan kita untuk membuat pengecualian.

Misalnya, dikatakan menikmati distribusi Gaussian multivarian jika adalah variabel acak Gaussian untuk semua pilihan bilangan real . (Catatan: ini adalah definisi standar dalam statistik "lanjutan"). Karena satu pilihan adalah , definisi standar memperlakukan konstanta (variabel acak degenerasi) sebagai variabel acak Gaussian (dengan mean dan varian ). Di sisi lain, kita mengabaikan penghargaan kita terhadap delta Dirac sebagai distribusi Gaussian ketika kita mempertimbangkan sesuatu seperti $(X_1, X_2, \ldots, X_n)$ $\sum_i a_iX_i$ $a_1, a_2, \ldots, a_n$ $a_1=a_2=\cdots=a_n=0$ $0$ $0$

"Fungsi distribusi probabilitas kumulatif (CDF) dari variabel acak Gaussian nol-rata dengan deviasi standar adalah mana adalah CDF dari variabel acak Gaussian standar. " $\sigma$

F_{X} (x) = P {X \leq x} = Φ (\frac{x}{σ})

$F_X(x) = P\{X \leq x\} = \Phi\left(\frac{x}{\sigma}\right)$

Φ (\cdot)

$\Phi(\cdot)$

Perhatikan bahwa pernyataan ini hampir benar tetapi tidak tepat jika kita menganggap delta Dirac sebagai kasus pembatas dari urutan variabel acak Gaussian rata-rata nol yang standar deviasinya mendekati (dan karenanya sebagai variabel acak Gaussian). CDF dari delta Dirac memiliki nilai untuk sedangkan $0$ $1$ $x \geq 0$

lim_{σ \to 0} Φ (\frac{x}{σ}) = {\begin{cases} 0, & x < 0, \\ \frac{1}{2}, & x = 0, \\ 1, & x > 0. \end{cases}

$\lim_{\sigma\to 0}\Phi\left(\frac{x}{\sigma}\right) = \begin{cases} 0, & x < 0,\\ \frac 12, & x = 0,\\ 1, & x > 0.\end{cases}$ Tetapi, banyak orang akan memberi tahu Anda bahwa mengenai dirac delta sebagai distribusi Gaussian adalah omong kosong belaka karena buku mereka mengatakan bahwa varians dari variabel acak Gaussian harus berupa angka positif (dan beberapa dari mereka akan memilih jawaban ini untuk menunjukkan ketidaksenangan mereka). Ada diskusi yang sangat kuat dan mencerahkan tentang hal ini beberapa tahun yang lalu di stats.SE tapi sayangnya itu hanya di komentar pada jawaban (oleh @Macro, saya percaya) dan bukan sebagai jawaban individu, dan saya tidak dapat menemukannya lagi .

— Dilip Sarwate
sumber

+1. Saya tidak yakin ada masalah mengenai CDF, karena saya percaya nilai membatasi urutan CDF pada lompatan batas apa pun. Ada dua cara untuk melihatnya. Pertama, perhatikan bahwa formula pembatas Anda bukan CDF yang valid (bukan cadlag). Yang lain adalah untuk mencatat bahwa Anda memperoleh distribusi Dirac pada ketika Anda membiarkan secara bersamaan, tetapi Anda dapat mencoba untuk memiliki nilai membatasi menjadi apa saja antara dan (atau tidak memiliki batas sama sekali).

0

$0$

(μ, σ) \to (0, 0)

$(\mu,\sigma)\to(0,0)$

Φ_{μ, σ} (0)

$\Phi_{\mu,\sigma}(0)$

0

$0$

1

$1$

— Whuber

Percakapan yang Anda rujuk terjadi dalam komentar dari jawaban ini , meskipun saya dengan tulus berharap bahwa bagi sebagian besar pembaca diskusi tidak akan tampak terlalu kuat. (+1)

— kardinal

@ cardinal Pengetahuan mendalam tentang komunitas kami. Sudah selesai dilakukan dengan baik!

— Matthew Drury

Fungsi delta masuk ke dalam teori distribusi matematika (yang sangat berbeda dari teori distribusi probabilitas , terminologi di sini tidak bisa lebih membingungkan).

Pada dasarnya, distribusi adalah fungsi umum. Mereka tidak dapat dievaluasi seperti fungsi bisa, tetapi kemudian dapat diintegrasikan. Lebih tepatnya, distribusi didefinisikan sebagai berikut $D$

Biarkan menjadi kumpulan fungsi tes . Fungsi tes adalah fungsi true, honest to all, halus, dengan dukungan ringkas. Distribusi adalah pemetaan linear $T$ $\theta$ $D: T \rightarrow \mathbb{R}$

Fungsi jujur menentukan distribusi oleh operator integrasi $f$

T (θ) = \int_{- \infty}^{+ \infty} f (x) θ (x) d x

$T(\theta) = \int_{-\infty}^{+\infty} f(x)\theta(x) dx$

Ada distribusi yang tidak terkait dengan fungsi sebenarnya, operator dirac adalah salah satunya

δ (θ) = θ (0)

$\delta(\theta) = \theta(0)$

Dalam hal ini, Anda dapat menganggap dirac sebagai kasus pembatas dari distribusi normal. Jika adalah keluarga pdf untuk distribusi normal dengan mean nol dan varian , maka untuk fungsi tes apa pun $N_t$ $t$ $\theta$

θ (0) = lim_{t \to 0} \int_{- \infty}^{+ \infty} N_{t} (x) θ (x) d x

$\theta(0) = \lim_{t \rightarrow 0} \int_{-\infty}^{+\infty} N_t(x) \theta(x) dx$

Ini mungkin lebih umum dinyatakan sebagai

θ (0) = \int_{- \infty}^{+ \infty} δ (x) θ (x) d x = lim_{t \to 0} \int_{- \infty}^{+ \infty} N_{t} (x) θ (x) d x

$\theta(0) = \int_{-\infty}^{+\infty} \delta(x) \theta(x) dx = \lim_{t \rightarrow 0} \int_{-\infty}^{+\infty} N_t(x) \theta(x) dx$

yang mana seorang ahli matematika akan mempertimbangkan penyalahgunaan notasi, karena ungkapan sebenarnya tidak masuk akal. Tapi sekali lagi, siapa aku untuk mengkritik Dirac, siapa yang terbaik. $\delta(x)$

Tentu saja, apakah ini membuat dirac anggota keluarga dari distribusi normal adalah pertanyaan budaya. Di sini saya hanya memberikan alasan mengapa masuk akal untuk mempertimbangkannya.

— Matthew Drury
sumber

Sementara saya setuju dengan pernyataan Anda, saya pikir ini menyiratkan sebaliknya. Fungsi delta bukan bagian dari gaussians. Sama seperti batas fungsi kontinu tidak perlu fungsi kontinu.

— seanv507

@ seanv507 Saya melakukan yang terbaik untuk tidak menyatakan kesimpulan dengan cara apa pun!

— Matthew Drury

Saya pikir distribusi sangat mirip dengan distribusi probabilitas, dengan delta Dirac (probabilitas) yang mengindikasikan variabel deterministik ...

— user541686

Jika Anda tidak menulis batas integral, mereka mungkin bingung integral tak terbatas. Juga, kalimat ini tidak masuk akal: "Fungsi uji θ adalah fungsi yang benar, jujur kepada tuhan, halus, dengan dukungan yang kompak".

— ogogmad

@ jkabrg Mengapa itu tidak masuk akal? Karena saya menulisnya, sulit bagi saya untuk melihatnya tidak masuk akal.

— Matthew Drury

-1

Tidak. Itu bukan subkelas dari distribusi normal.

Saya pikir kebingungan berasal dari salah satu representasi dari fungsi Dirac. Ingat bahwa itu didefinisikan sebagai berikut:

\int_{- \infty}^{\infty} δ (x) d x = 1

$\int_{-\infty}^\infty\delta(x)dx=1$

δ (x) = 0, \forall x \neq 0

$\delta(x)=0,\forall x\ne 0$

Ini didefinisikan sebagai integral, yang hebat tetapi kadang-kadang Anda perlu mengoperasionalkannya dengan representasi fungsi daripada integral. Jadi, orang datang dengan semua jenis alternatif, salah satunya tampak seperti kepadatan Gaussian:

δ (x) = lim_{σ \to 0} \frac{e^{\frac{- x^{2}}{2 σ^{2}}}}{\sqrt{2 π} σ}

$\delta(x)=\lim_{\sigma\to 0} \frac{e^{\frac{-x^2}{2\sigma^2}}}{\sqrt{2\pi}\sigma}$

Namun, ini bukan satu-satunya representasi , mis. Ada satu ini:

δ (x) = \frac{1}{2 π} \sum_{k = - \infty}^{\infty} e^{i k x}, \forall x \in (- π, π)

$\delta(x)=\frac{1}{2\pi}\sum_{k=-\infty}^\infty e^{ikx}, \forall x\in (-\pi,\pi)$

Oleh karena itu, yang terbaik untuk memikirkan fungsi Dirac dalam hal definisi integralnya, dan mengambil representasi fungsi, seperti Gaussian, sebagai alat kenyamanan.

UPDATE Ke titik @ whuber, contoh yang lebih baik adalah representasi dari delta Dirac:

δ (x) = lim_{σ \to 0} \frac{e^{- \frac{| x |}{σ}}}{2 σ}

$\delta(x)=\lim_{\sigma\to 0} \frac{e^{-\frac{|x|}{\sigma}}}{2\sigma}$

Apakah ini terlihat seperti distribusi Laplacian untuk Anda? Tidakkah seharusnya kita menganggap delta Dirac sebagai subclass dari distribusi Laplacian?

— Aksakal
sumber

Pada titik tertentu dalam jawaban ini Anda tampaknya beralih dari mendiskusikan distribusi ke membahas "fungsi." Pertanyaan itu secara eksplisit merujuk pada "distribusi probabilitas." Mereka umumnya tidak diberikan oleh fungsi kerapatan, tetapi selalu dapat diberikan oleh fungsi distribusinya. Distribusi atom - "delta Dirac" - sangat cocok dengan semua distribusi Gaussian lainnya sebagai kasing pembatas. (Dalam pengaturan Matthew Drury, ini didefinisikan sebagai batas itu!) Argumen Anda tampaknya mirip dengan mengklaim bahwa, katakanlah, lingkaran bukanlah elips. Menegakkan pengecualian semacam itu tampaknya tidak konstruktif.

— whuber

@whuber, apa "distribusi atom"?

— Aksakal

"Atom" adalah gumpalan probabilitas pada satu titik. Secara ekivalen, distribusi variabel acak apa pun yang konstan hampir di semua tempat.

— whuber

@whuber, Oh, aku sedang memikirkan atom fisik. Tidak, maksud saya adalah bahwa delta Dirac bukan subclass dari Gaussian, karena itu dapat diwakili juga oleh Laplacian seperti distro

— Aksakal

Re: poin Anda tentang distribusi Laplace. Persis seperti persegi adalah persegi panjang dan belah ketupat, dan distribusi Uniform keduanya merupakan kasus khusus dari distribusi Uniform dan distribusi Beta , distribusi dapat menjadi milik beberapa keluarga distribusi. Distribusi delta sebenarnya milik setiap keluarga skala lokasi dan setidaknya satu distribusi delta milik setiap keluarga skala. Secara geometris, keluarga adalah kurva dalam ruang distribusi; distribusi yang diberikan adalah titik; dan (jelas) suatu titik bisa jadi milik banyak kurva.

(0, 1)

$(0,1)$

(0, θ)

$(0,\theta)$

(α, β)

$(\alpha,\beta)$

— whuber