Definisi eksponen matriks-perkalian

15

Bahasa sehari-hari, definisi eksponen matriks-perkalian $\omega$ adalah nilai terkecil yang ada algoritma perkalian-matriks $n^{\omega}$ . Ini tidak dapat diterima sebagai definisi matematika formal, jadi saya kira definisi teknis adalah sesuatu seperti infimum atas semua $t$ seperti bahwa ada algoritma matriks-perkalian dalam $n^t$ .

Dalam hal ini, kita tidak bisa mengatakan ada algoritma untuk perkalian-matriks dalam $n^{\omega}$ atau bahkan $n^{\omega + o(1)}$ , hanya saja untuk semua $\epsilon > 0$ ada algoritma dalam $n^{\omega + \epsilon}$ . Namun, sering kali, makalah dan hasil yang menggunakan perkalian matriks akan melaporkan biayanya hanya sebagai $O(n^{\omega})$ .

Apakah ada beberapa definisi alternatif yang mengizinkan penggunaan ini? Apakah ada hasil yang menjamin bahwa algoritma waktu atau harus ada? Atau apakah penggunaan hanya ceroboh? $\omega$ $n^{\omega}$ $n^{\omega + o(1)}$ $O(n^{\omega})$

ds.algorithms linear-algebra

— David Harris
sumber

2

Jika Anda hanya ingin menggunakan perkalian matriks sebagai kotak hitam, cara termudah adalah dengan mengatakan "Biarkan

menjadi sedemikian rupa sehingga kita dapat melipatgandakan

dengan operasi aritmatika

". Tentu saja,

bukan eksponen dari perkalian matriks, tetapi dapat ditutup secara sewenang-wenang. Jika Anda ingin menyatakan eksponen menjalankan final Anda dalam representasi desimal, saat ini Anda harus tetap melakukannya, karena semua perkiraan nontrivial untuk

yang saya tahu adalah bilangan irasional atau urutan tak terbatas.

ω

$\omega$

n \times n

$n \times n$

O (n^{ω})

$O(n^\omega)$

ω

$\omega$

ω

$\omega$

— Markus Bläser

2

biasanya didefinisikan sebagai infimum atas semua real

untuk

akan

sehingga ada

algoritma saat itu mengalikan dua

matriks (di mana waktu adalah jumlah penambahan, perkalian dan divisi di bidang yang mendasarinya). Ini juga berarti bahwa secara teknis kita harus selalu menulis

tetapi menjadi berantakan, jadi ketika Anda melihat

Anda harus berpikir

ω

$\omega$

k

$k$

n

$n$

\infty

$\infty$

O (n^{k})

$O(n^k)$

n \times n

$n\times n$

n^{ω + o (1)}

$n^{\omega+o(1)}$

O (n^{ω})

$O(n^\omega)$

mana

adalah runtime dari algoritma perkalian matriks.

O (M (n))

$O(M(n))$

M (n)

$M(n)$

— virgi

20

Eksponen perkalian matriks menjadi tidak menjamin bahwa ada algoritma yang berjalan dalam waktu , tetapi hanya untuk setiap , ada algoritma yang berjalan di . Memang jika Anda dapat menemukan algoritma yang berjalan dalam waktu , maka ini menunjukkan bahwa . $\omega$ $O(n^\omega)$ $\epsilon > 0$ $O(n^{\omega+\epsilon})$ $O(n^2 \mathrm{polylog}(n))$ $\omega = 2$

Anda dapat menemukan definisi formal dalam buku Algebraic Complexity Theory oleh Peter Bürgisser, Michael Clausen, Amin Shokrollahi.

— KIA
sumber

7

Komentar minor yang terlalu panjang untuk dijadikan komentar:

Kadang-kadang ketika Anda memiliki masalah yang ada algoritma dengan berjalan waktu untuk setiap , ada sebuah algoritma dengan berjalan waktu . $O(n^{k+\epsilon})$ $\epsilon>0$ $n^{k+o(1)}$

Misalnya, terkadang Anda mendapatkan algoritme yang mirip dengan untuk beberapa fungsi yang tumbuh cepat (seperti ). Jika Anda mengatur menjadi (katakanlah) , maka akan menjadi o (1). Dalam contoh dengan menjadi , Anda dapat memilih $f(1/\epsilon)n^{k+\epsilon}$ $f$ $2^{2^{1/\epsilon}}$ $f(1/\epsilon)$ $\log n$ $\epsilon$ $f(1/\epsilon)$ $2^{2^{1/\epsilon}}$ $1/\epsilon$ menjadi , yang memberikan $\log \log \log n$ , yaitu o (1). Jadi waktu berjalan akhir dari algoritma ini akan , karena juga . $\epsilon = 1/ (\log \log \log n)$ $n^{k+o(1)}$ $\log n$ $n^{o(1)}$

— Robin Kothari
sumber

I imagine that the Coppersmith-Winograd algorithm falls into this category?

— David Harris

2

@DavidHarris: Don't know about that. Maybe someone who understands the algorithm might be able to shed some light on that. I just meant to say that often

O (n^{k + ϵ})

$O(n^{k+\epsilon})$ isn't as bad as it looks.

— Robin Kothari

5

It is well-known the result of Coppersmith and Winograd that $O(n^{\omega})$ -time cannot be realized by any single algorithm. But I've read that they restricted to algorithms based on Strassen-like bilinear identities, so I don't know for sure since the paper is behind a paywall.

— Diego de Estrada
sumber

3

I do not agree with your statement in the question that $\omega$ is not well-defined by "the smallest value for which there is a known $n^ω$ matrix-multiplication algorithm." When people are using this constant, it is because their algorithm relies on a matrix multiplication, and by a complexity $n^\omega$ , they mean "the optimal complexity of our algorithm is given by the optimal algorithm for matrix multiplication."

I am not saying that it is not possible to define $\omega$ otherwise (e.g. saying that $\omega$ is the best achievable complexity).

Btw, the best known upper bound for matrix multiplication has just been improved to $2.3737$ if I am not mistaken.

— Bruno
sumber

3

I don't see how human knowledge can be part of a mathematical definition

— David Harris

2

Recent experience shows that it is much easier to quantify over all algorithms than over all algorithms currently known by humankind ;-)

— Markus Bläser