Apa definisi "benar" dari batas atas dan bawah?

19

Misalkan $f(n)$ menjadi kasus terburuk saat menjalankan masalah pada input ukuran $n$ . Mari kita buat masalahnya agak aneh dengan memperbaiki $f(n) = n^2$ untuk $n=2k$ tetapi $f(n) = n$ untuk $n=2k+1$ .

Jadi, apa batas bawah masalahnya? Cara saya memahaminya hanyalah batas bawah $f(n)$ . Tetapi kita tahu bahwa $f(n) = \Omega(n^2)$ menyiratkan bahwa terdapat konstanta $k$ , $n_0$ sedemikian rupa sehingga untuk semua $n > n_0$ , $f(n) > kn^2$ , yang tidak benar. Jadi sepertinya kita hanya bisa mengatakan $f(n) = \Omega(n)$ . Tapi biasanya, kita akan menyebut masalah memiliki batas bawah , kan? $\Omega(n^2)$
Dengan asumsi , yang berarti ada konstan , sedemikian rupa sehingga untuk semua , . Mari kita juga asumsikan masalah telah berjalan waktu . Jika kita dapat mengurangi masalah ini untuk semua bilangan prima ke masalah lain (dengan ukuran input yang sama), dapat kita katakan waktu berjalan dari masalah lain memiliki batas bawah dari $g(n) = \Omega(n^2)$ $k$ $n_0$ $n > n_0$ $g(n) > kn^2$ $g(n)$ $n$ ? $\Omega(n^2)$

cc.complexity-theory time-complexity

— Wei Yu
sumber

12

Inilah sebabnya mengapa matematikawan menggunakan lim sup dan lim inf.

— Peter Shor

1

Jadi saya pikir saya mengerti perbedaannya. Saya pikir orang posting hanya akan mengerti Omega sebagai sangat sering. Tetapi jika saya ingin membuat perbedaan yang jelas, apakah ada notasi yang bisa saya gunakan selain mengembangkannya?

— Wei Yu

3

@ Yu Yu: lim sup dan lim inf. Anda mengatakan

untuk beberapa konstanta

jika Anda ingin mengatakan bahwa

sering tak terhingga, dan

lim sup \frac{g (n)}{n^{2}} \geq k

$\limsup \frac{g(n)}{n^2} \geq k$

k

$k$

g (n) \geq k n^{2}

$g(n) \geq k n^2$

jika Anda ingin mengatakan

untuk semua yang cukup besar

. Terutama jika Anda berbicara dengan ahli matematika.

lim inf \frac{g (n)}{n^{2}} \geq k

$\liminf \frac{g(n)}{n^2} \geq k$

g (n) \geq k n^{2}

$g(n) \geq k n^2$

n

$n$

$\$

— Peter Shor

12

@ Wei: Untuk sebagian besar teori kompleksitas (lihat Lance di bawah), fungsi Anda adalah θ (n ^ 2); bagi kebanyakan ahli algoritma (lihat Knuth atau CLRS), fungsi Anda adalah Ο (n ^ 2) dan Ω (n). Kedua notasi hampir, tetapi tidak sepenuhnya, standar dalam subkomunitas mereka; untuk membuat segalanya lebih buruk, dua subkomunitas ini tumpang tindih! Jadi, jika penting notasi mana yang Anda gunakan, Anda harus mengatakan secara eksplisit notasi mana yang Anda gunakan. (Untungnya, itu jarang penting.)

— Jeffε

2

@ Jeff. Saya yakin Anda harus memposting komentar Anda sebagai jawaban.

— chazisop

13

Definisi yang benar dari adalah bahwa ada beberapa sedemikian rupa sehingga untuk banyak , . Definisi tak terhingga sering untuk batas bawah menangani masalah Anda dan bagaimana kami menggunakannya dalam praktik. $f(n)=\Omega(n^2)$ $k>0$ $n$ $f(n)\geq kn^2$

Saya melakukan posting tentang ini pada tahun 2005.

Beberapa buku teks mendapatkan definisi ini dengan benar, beberapa tidak.

— Lance Fortnow
sumber

14

Knuth tidak setuju dengan Anda: portal.acm.org/citation.cfm?id=1008329

— Jeffε

4

CLRS dan Wikipedia juga tidak setuju dengan Anda. Definisi infinitey-sering adalah alternatif yang patut diperhatikan, tetapi tampaknya kurang banyak digunakan.

— Anonim

Saya pikir definisi-definisi ini semua setuju ketika set pengecualian adalah ukuran 0.

— Carter Tazio Schonwald

2

Masalah dengan definisi "sangat sering" adalah bahwa mereka biasanya tidak mengecualikan "sering kali tidak". Jadi kita memiliki konsekuensi mengerikan bahwa dengan definisi ini

, tetapi juga

, dimana

dan

dimaksudkan untuk menjadi perintah tegas dalam arti. Saya sangat tidak suka ini. Setidaknya @ saran Carter tentang pengecualian ukuran 0 agak kurang mengerikan, sementara masih memungkinkan pesanan yang lebih baik daripada yang biasa.

f (n) = Ω (n^{2})

$f(n)=\Omega(n^2)$

f (n) = o (n + 1)

$f(n)=o(n+1)$

Ω

$\Omega$

o

$o$

— András Salamon

2

@Jukka: Tidak, saya menyalahgunakan

sini. Seperti yang Anda beri petunjuk saya harus memperbaiki argumen saya untuk menggunakan

bukan

. Karena itu marilah saya menyatakan kembali keberatan yang sebenarnya tanpa menggunakan

atau

. Dengan "tak terhingga sering", seseorang memiliki anomali bahwa

,

, namun

. Jadi

bahkan tidak membentuk preorder.

o

$o$

O

$O$

o

$o$

o

$o$

O

$O$

n = Ω (f (n))

$n = \Omega(f(n))$

f (n) = Ω (n^{2})

$f(n) = \Omega(n^2)$

n \neq Ω (n^{2})

$n \ne \Omega(n^2)$

Ω

$\Omega$

— András Salamon

4

Dengan definisi Knuth , Anda hanya dapat menegaskan . Seperti yang Anda amati, ini tidak intuitif dan terjadi untuk fungsi yang disebut Vitányi dan Meertens "liar". Mereka mengusulkan untuk mendefinisikan $f(n)\in\Omega(n)$

Ω (f (n)) = {g ∣ \exists δ > 0 : \forall n_{0} > 0 : \exists n > n_{0} : g (n) \geq δ f (n)} .

$\Omega(f(n))=\{ g \mid \exists \delta>0:\forall n_0>0:\exists n>n_0: g(n)\geq \delta f(n)\}\textrm{.}$

(Ini sama dengan definisi Lance.) Dengan definisi ini . $f(n)\in\Omega(n^2)$

— Marcus Ritt
sumber

2

Saya tidak tahu tentang yang paling banyak digunakan, tapi saya yakin saya tahu penggunaan tertua (untuk ilmu komputer).

Dalam makalah 1965 oleh Hartmanis & Stearns "Tentang kompleksitas algoritma", Corollary 2.1 adalah:

Jika dan adalah waktu-fungsi seperti yang $U$ $T$ maka $\inf_{n \rightarrow \infty} \frac{T(n)}{U(n)} \geq 0$ $S_{U} \subseteq S_{T}$

di mana adalah kelas kompleksitas dari semua masalah dihitung di . T (n) harus mematuhi untuk beberapa bilangan bulat dan semua dan , tetapi tidak harus konstruktif waktu. $S_{K}$ $O( K(n) )$ $T(n) \geq n/k$ $k$ $n$ $T(n) \leq T(n+1)$

Fungsi Anda mematuhi aturan pertama untuk tetapi gagal mematuhi aturan kedua. $k = 1$

Konsekuensi 2.2 adalah timbal balik di atas dan menggunakan batas supremum, tetapi masih memiliki persyaratan ini. Saya rasa algoritma semakin kompleks dari tahun ke tahun, mungkin saja persyaratannya sudah longgar.

— chazisop
sumber

2

Saya pikir kita harus membedakan antara dua hal:

lowerbound untuk suatu fungsi
lowerbound untuk suatu masalah (algoritma)

Untuk fungsi, saat kami memperbaiki urutan, definisi lowerbound / upperbound mengikuti darinya. Jika relasi urutannya adalah majorisasi asimptotik (mengabaikan faktor konstan)

f ⪯ g : \exists c, n \forall m > n . f (x) \leq c g (x)

$f \preceq g : \exists c,n \forall m>n. \ f(x) \leq c g(x)$

maka definisi adalah definisi biasa dan . Keduanya digunakan secara luas di daerah lain seperti kombinatorik. $O$ $\Omega$

Tetapi ketika kita berbicara tentang lowerbound untuk suatu masalah (suatu algoritma) apa yang benar-benar ingin kita katakan adalah bahwa masalahnya memerlukan sejumlah sumber daya (untuk menjalankan algoritma penyelesaian masalah). Seringkali kelas kompleksitas ditentukan oleh fungsi-fungsi seperti , dan kami dengan sederhana mengatakan bahwa masalahnya lebih rendah dibatasi oleh suatu fungsi, tetapi ini hanya berfungsi untuk fungsi-fungsi yang bagus (misalnya waktu berjalan dari algoritma adalah monoton, dll.). Apa yang ingin kita katakan dalam kasus ini adalah bahwa kita perlu waktu berjalan untuk menyelesaikan masalah, yaitu kurang dari $\mathbf{Time}(t(n))$ $n^2$ $n^2$ waktu berjalan tidak cukup, yang secara resmi menjadi definisi Lance bahwa waktu berjalan algoritma tidak dalam . $o(t(n))$

— Kaveh
sumber