Apa yang salah dengan jumlah istilah Landau?

saya menulis

$\qquad \displaystyle \sum\limits_{i=1}^n \frac{1}{i} = \sum\limits_{i=1}^n \cal{O}(1) = \cal{O}(n)$

tetapi teman saya mengatakan ini salah. Dari lembar contekan TCS saya tahu bahwa jumlah ini juga disebut $H_n$ yang memiliki pertumbuhan logaritmik dalam $n$ . Jadi ikatan saya tidak terlalu tajam, tetapi cukup untuk analisis yang saya butuhkan.

Apa kesalahan yang telah aku perbuat?

Sunting : Teman saya mengatakan bahwa dengan alasan yang sama, kami dapat membuktikannya

$\qquad \displaystyle \sum\limits_{i=1}^n i = \sum\limits_{i=1}^n \cal{O}(1) = \cal{O}(n)$

Ini jelas salah! Apa yang terjadi disini?

asymptotics landau-notation

— Raphael
sumber

Lihat diskusi tentang tag pertanyaan ini di sini .

— Raphael

diskusi meta tentang algoritma tag .

— Kaveh

Lihat juga perlakuan yang lebih konkret dari contoh umum: Apa runtime asimptotik dari loop bersarang ini?

— Gilles 'SANGAT berhenti menjadi jahat'

Jawaban:

Apa yang Anda lakukan adalah penyalahgunaan notasi yang sangat nyaman.

Beberapa pedant akan mengatakan bahwa apa yang Anda tulis adalah omong kosong, karena menunjukkan satu set dan Anda tidak dapat melakukan operasi aritmatika pada mereka seperti yang Anda lakukan. $\mathcal{O}(f)$

Tapi itu ide yang baik untuk mengabaikan pedant itu dan menganggap bahwa adalah singkatan dari beberapa anggota set. Jadi ketika kita mengatakan , apa yang sebenarnya kita maksudkan jika itu . (Catatan: beberapa pedant mungkin ngeri pada pernyataan ini juga, mengklaim bahwa adalah angka dan $\mathcal{O}(f)$ $f(n) = g(n) + \mathcal{O}(n)$ $f(n) - g(n) \in \mathcal{O}(n)$ $f(n)$ $f$ adalah fungsinya!)

Ini membuatnya sangat nyaman untuk menulis ekspresi seperti

n \leq \sum_{k = 1}^{n} k^{1 / k} \leq n + HAI (n^{1 / 3})

$n \le \sum_{k=1}^n k^{1/k} \le n + \mathcal{O}(n^{1/3})$

Apa ini berarti adalah bahwa ada beberapa seperti yang $f \in \mathcal{O}(n^{1/3})$

n \leq \sum_{k = 1}^{n} k^{1 / k} \leq n + f (n)

$n \le \sum_{k=1}^n k^{1/k} \le n + f(n)$

Dalam kasus Anda

\sum_{k = 1}^{n} \frac{1}{k} = \sum_{k = 1}^{n} HAI (1) = HAI (n)

$\sum_{k=1}^{n} \frac{1}{k} = \sum_{k=1}^{n} \mathcal{O}(1) = \mathcal{O}(n)$

Anda menyalahgunakannya lebih jauh dan Anda harus berhati-hati.

Ada dua kemungkinan interpretasi di sini: Apakah merujuk ke fungsi , atau fungsi ? $\mathcal{O}(1)$ $n$ $k$

Saya percaya interpretasi yang tepat adalah menafsirkannya sebagai fungsi dari . $k$

Jika Anda mencoba berpikir itu sebagai fungsi dari , pikir tidak salah, mungkin menyebabkan kesalahan-kesalahan potensial, seperti berpikir adalah dan mencoba untuk menulis $n$ $k$ $\mathcal{O}(1)$ $\sum_{k=1}^{n} k = \sum_{k=1}^{n} \mathcal{O}(1)$

Jika Anda mencoba menganggapnya sebagai fungsi , maka memang benar bahwa, jika (seperti argumen pergi ke ) dan tidak pernah , itu $k$ $f = \mathcal{O}(g)$ $\infty$ $g$ $0$

S (n) = \sum_{k = 1}^{n} f (k) = \sum_{k = 1}^{n} O (g (k)) = O (\sum_{k = 1}^{n} | g (k) |)

$S(n) = \sum_{k=1}^{n} f(k) = \sum_{k=1}^{n} \mathcal{O}(g(k)) = \mathcal{O}(\sum_{k=1}^{n} |g(k)|)$

Perhatikan bahwa di tengah, kami telah menggunakan penyalahgunaan notasi berarti untuk beberapa fungsi $\mathcal{O}(g(k))$ jumlahnya adalah . Perhatikan bahwa fungsi akhir di dalam mengacu pada fungsi . Buktinya tidak begitu sulit, tetapi Anda harus memenuhi kenyataan bahwa Anda berurusan dengan batas atas asimptotik (yaitu untuk argumen yang cukup besar), tetapi jumlahnya mulai tepat pada . $h \in \mathcal{O}(g)$ $\sum_{k=1}^{n} h(k)$ $\mathcal{O}$ $n$ $1$

Jika Anda mencoba menganggapnya sebagai fungsi dari , maka juga benar bahwa jika (seperti argumen menuju ) maka $n$ $f = \mathcal{O}(g)$ $\infty$

S (n) = \sum_{k = 1}^{n} f (k) = \sum_{k = 1}^{n} HAI (g (n)) = HAI (n g (n))

$S(n) = \sum_{k=1}^{n} f(k) = \sum_{k=1}^{n} \mathcal{O}(g(n)) = \mathcal{O}(n g(n))$

Jadi bukti Anda pada dasarnya benar, dalam interpretasi mana pun.

— Aryabhata
sumber

Intinya: Sadarilah (pastikan) bahwa setiap kemunculan simbol Landau memperkenalkan (memiliki) konstanta sendiri .

— Raphael

Apa yang Anda tulis sepenuhnya benar. The th nomor harmonis memang di set . $n$ $O(n)$

Bukti: . $\sum_{i=1}^n \frac{1}{i} \le \ln n + 1 \le 2n = O(n)$ $\square$

Batas atas tidak ketat , tetapi benar. $O(n)$

— JeffE
sumber

Oke: 1 / i ≤ 1 = O (1).

— JeffE

Kekhawatiran diarahkan pada tanda kesetaraan kedua. Bagaimana saya memverifikasi itu?

— Raphael

Tapi itu juga benar. Jumlah n istilah, yang masing-masing adalah O (1), memang O (n).

— Suresh

@ Surur Hanya jika konstanta yang tersirat oleh

adalah independen dari variabel penjumlahan, dan itulah intinya di sini (pertanyaan seed).

O

$\cal{O}$

— Raphael

Bug tidak ada dalam persamaan kedua. bug (dalam ekspresi kedua) adalah bagaimana Anda MENDAPATKAN penjumlahan itu. Berasal dari

sudah benar. Itu mengklaim bahwa

salah. Saya menyadari ini jelas bagi semua yang peduli, tetapi saya pikir ini adalah masalah dengan pertanyaan 'seeding' :)

\sum_{i} O (1) = O (n)

$\sum_i O(1) = O(n)$

i = O (1)

$i = O(1)$

— Suresh

Untuk contoh kedua, Anda tidak dapat mengklaim bahwa

saya = HAI (1)

$i = O(1)$

karena bervariasi dengan . Setelah beberapa langkah, inilah . Cara yang lebih tepat adalah dengan mengatakan bahwa karena memang, sepanjang penjumlahan tidak pernah melebihi . Dengan alasan ini, $i$ $n$ $i>n/2$ $i = O(n)$ $i$ $1\cdot n$

\sum_{saya = 1}^{n} saya = \sum_{saya = 1}^{n} HAI (n) = n HAI (n) = HAI (n^{2})

$\sum_{i=1}^n i = \sum_{i=1}^n O(n)= nO(n) = O(n^2)$

Namun hal yang benar untuk dilakukan adalah menggunakan notasi O-besar hanya di akhir. Batas atas penjumlahan Anda sekencang yang Anda bisa, dan hanya ketika Anda selesai menggunakan notasi asimptotik untuk menghindari perangkap ini.

— Ran G.
sumber