Masalah Vektor Non-Ortogonal

Pertimbangkan masalah-masalah berikut:

Masalah Vektor Orthogonal

Input: Satu set dari Boolean vektor masing-masing panjang .$S$$n$$d$

Pertanyaan: Apakah ada vektor berbeda dan sehingga ?$v_1$$v_2 \in S$$v_1 \cdot v_2 = 0$

Masalah Vektor Non-Ortogonal

Input: Satu set dari Boolean vektor masing-masing dengan panjang dan bilangan bulat positif .$S$$n$$d$$k$

Pertanyaan: Apakah ada vektor yang berbeda dan sehingga ?$v_1$$v_2 \in S$$v_1 \cdot v_2 \geq k$

Apa hubungan kedua masalah ini?

Secara khusus, berikut adalah beberapa pertanyaan spesifik yang saya ingin tahu tentang:

(1) Apakah salah satu dari masalah ini tampaknya lebih sulit daripada yang lain?

(2) Saya tidak yakin seperti apa algoritma saat ini untuk OVP, tetapi untuk salah satu dari masalah ini, dapatkah Anda mendapatkan batas atas yang lebih baik daripada waktu ?$O(n^2 \cdot d)$

(3) Apakah memperbaiki membuat perbedaan untuk kompleksitas masalah kedua?$k$

Dengan , maksud saya produk dalam dari dan lebih dari .v 1 ⋅ v 2 v 1 v 2 R $v_1 \cdot v_2$$v_1$$v_2$$\mathbb{R^d}$

Sunting: Sebagian besar tanggapan menawarkan wawasan yang sangat bagus ketika kecil. $d$

Apa yang bisa dikatakan ketika lebih besar? Ucapkan atau atau setidaknya untuk beberapa .d d = n d = $d$$d = n$n d=nαα>$d = \sqrt{n}$$d = n^\alpha$$\alpha > 0$

Ketika diberikan sebagai bagian dari input, masalah kedua setara dengan masalah Max-IP monokromatik (diberikan , temukan ).k S ⊆ { 0 , 1 } d maks ( a , b ) ∈ S , a ≠ b a ⋅ $k$$S \subseteq \{0,1\}^d$$\max_{(a,b) \in S, a\ne b} a \cdot b$

Baru-baru ini saya dan Ryan Williams memiliki (belum dipublikasikan) karya yang menunjukkan bahwa ketika , OVP dan versi bikromatik Max-IP (diberikan , temukan ), sebenarnya setara: yaitu, jika salah satu dari mereka memiliki algoritma waktu , begitu juga yang lain. (Pengurangan dari OVP ke Max-IP sudah terkenal, pengurangan baru di sini adalah dari Max-IP ke OVP).d = O ( log n ) A , B maks ( a , b ) ∈ A × B a ⋅ b n 2 - $d = O(\log n)$$A,B$$\max_{(a,b) \in A \times B} a \cdot b$$n^{2-\varepsilon}$

Karena versi monokromatik Max-IP dapat direduksi menjadi versi bikromatik, hasil di atas juga menyiratkan bahwa ketika , monokromatik Max-IP dapat direduksi menjadi OVP.$d = O(\log n)$

Saya percaya ini adalah pertanyaan terbuka bahwa apakah OVP dapat direduksi menjadi Max-IP monokromatik. Ini juga terkait erat dengan penetapan kekerasan-OV untuk masalah pasangan terdekat (lihat mis. Pada Kompleksitas Pasangan Terdekat melalui Pair-Pasang Point-Sets )

Untuk Max-IP monokromatik, ada algoritma dengan waktu berjalan algoritma waktu oleh Alman, Chan dan Williams ( juga ditunjukkan oleh Rasmus), yang saya yakini canggih. Sedangkan algoritma terbaik untuk OVP berjalan dalam waktu saat , yang secara signifikan lebih cepat.n 2 - 1 / ~ O ( ( d / log n ) 1 / 3 ) n 2 - 1 / O ( log c ) d = c log $n^{2 - 1/\widetilde{O}((d/\log n)^{1/3})}$$n^{2 - 1/O(\log c)}$$d = c \log n$

Juga, versi perkiraan Max-IP juga dipelajari oleh makalah ini On The Hardness of Approximate dan Exact (Bichromatic) Maximum Inner Product , yang memberikan karakterisasi untuk kasus bikromatik (yaitu, untuk dimensi dan perkiraan rasio , masalahnya dapat diselesaikan dalam waktu ?). Algoritma dalam makalah itu juga berfungsi untuk kasus monokromatik.d t n 2 - $d$$t$$n^{2-\varepsilon}$

Jika saya percaya teknik Alman, Chan, dan Williams memberikan solusi yang paling dikenal untuk Masalah Vektor Non-Orthogonal. (Mereka mengutarakannya secara berbeda, sebagai masalah pasangan Hamming terdekat, tetapi ini setara dengan faktor poli ( ).)k = O ( log n ) $k=O(\log n)$$d$

Tanpa terikat pada , versi bikromatik dari Masalah Vektor Non-Orthogonal setidaknya sekeras Masalah Vektor Orthogonal (OVP) hingga faktor . Pertama, perhatikan bahwa dengan faktor overhead kita dapat mengurangi ke versi bikromatik OVP di mana (memisahkan serikat ke dalam set "warna" yang berbeda) dan kami hanya tertarik pada pasangan ortogonal bikromatik . Kedua, dengan faktor overhead kita dapat mengurangi ke kasus khusus dari bikromatik OVP di mana semua vektor di memiliki berat Hamming yang sama . Akhirnya, dengan membalik semua vektor di untuk mendapatkank d log n log n S = S 1 ∪ S 2 ( v 1 , v 2 ) ∈ S 1 × S 2 d S 1 w S 2 S ' 2 S 1 S 2 S 1 S ' 2$k$$d \log n$$\log n$$S = S_1 \cup S_2$$(v_1,v_2)\in S_1\times S_2$$d$$S_1$$w$$S_2$$S'_2$ kita melihat bahwa dan memiliki pasangan ortogonal jika dan hanya jika dan memiliki sepasang vektor dengan dot produk setidaknya . Saya tidak yakin apakah ada pengurangan yang efisien dari Masalah Vektor Non-Ortogonik bikromatik ke versi monokromatik yang Anda jelaskan.$S_1$$S_2$$S_1$$S'_2$$w$

Jika Anda mengizinkan perkiraan ada sejumlah hasil terbaru untuk Masalah Vektor Non-Ortogonik bikromatik (sering disebut masalah Pencarian Produk Dalam Maksimum). Lihat misalnya makalah ini dan rujukannya.

Kesetaraan:

Masalah vektor non-ortogonal (sebagaimana didefinisikan di atas) untuk himpunan dari vektor Boolean masing-masing dengan panjang dan bilangan bulat positif adalah sama dengan yang berikut:$S$$n$$d$$k$

• Menemukan oleh submatrix dari 1 dalam diberikan oleh Boolean matrix.$2$$k$$n$$d$

• Menemukan subgraph lengkap dalam grafik bipartit yang diberikan di mana himpunan simpul pertama memiliki ukuran dan himpunan simpul kedua memiliki ukuran .$\mathrm{K}_{2,k}$$n$$d$

Algoritma Naif:

Pendekatan naif untuk masalah vektor non-ortogonal berjalan dalam waktu karena butuh waktu untuk secara naif menghitung produk titik dari setiap pasangan vektor.$O(d \cdot n^2)$$O(d \cdot n^2)$

Jawab pertanyaan (2) & (3):

Ya, ada beberapa algoritma yang lebih efisien dalam berbagai kasus.

Pendekatan pertama:

Kita dapat memecahkan masalah vektor non-ortogonal dalam waktu .$O(d \cdot n + k \cdot n^2)$

Catatan: Karena produk titik dari dua panjang vektor Boolean harus dibatasi oleh , masalahnya hanya masuk akal ketika .$d$$d$$k \leq d$

Bukti. Biarkan satu set dari Boolean vektor masing-masing dengan panjang dan bilangan bulat positif diberikan. Pertimbangkan pencacahan dari unsur .$S$$n$$d$$k$$\{s_i\}_{i\in[n]}$$S$

Buat hashmap dari pasangan ke . Awalnya, memetakan setiap input ke nilai 0.$m$$(a,b) \in [n] \times [n]$$\mathbb{N}$$m$

Untuk setiap , kami melakukan hal berikut. Menghitung melalui pasangan vektor , sedemikian sehingga , bit dari adalah 1, dan bit dari adalah 1. Untuk setiap dan jika , maka dan adalah non-ortogonal yaitu . Jika tidak, tambahkan dan lanjutkan.$i \in [d]$$s_a$$s_b$$a < b$$i$$s_a$$i$$s_b$$s_a$$s_b$$m(a,b) = k - 1$$s_a$$s_b$$s_a \cdot s_b \geq k$$m(a,b)$

Jika kita menyelesaikan enumerasi, maka tidak ada pasangan vektor yang non-ortogonal.

Dibutuhkan waktu untuk memindai setiap bit dari setiap vektor. Kemudian, dibutuhkan waktu tambahan untuk menghitung pasangan vektor. Karena paling banyak vektor dan setiap pasangan dapat muncul paling banyak kali sebelum mereka terbukti non-ortogonal, enumerasi pasangan membutuhkan paling banyak waktu. Oleh karena itu, total runtime adalah .$O(n \cdot d)$${n \choose 2}$$k-1$$O(k \cdot n^2)$$O(d \cdot n + k \cdot n^2)$

Catatan: Ketika , kita dapat meningkatkan pendekatan ini ke waktu . Ini karena ketika , kita dapat mengurangi menemukan sepasang vektor non-ortogonal di antara vektor Boolean dengan panjang hingga menemukan sepasang vektor non-ortogonal di antara vektor Boolean dengan panjang .$k = 2$$O(n \cdot d)$$k = 2$$n$$d$$d$$n$

Pendekatan kedua:

Kita dapat memecahkan masalah vektor non-ortogonal dalam waktu .$O(k \cdot {d \choose k} \cdot n)$

Bukti. Biarkan satu set dari Boolean vektor masing-masing dengan panjang dan bilangan bulat positif diberikan.$S$$n$$d$$k$

melalui set sedemikian sehingga memiliki ukuran . Untuk setiap vektor , memeriksa apakah memiliki semua 1 ini di posisi di . Jika ada dua vektor yang memiliki semua 1 pada posisi di , maka kami telah menemukan dua vektor non-ortogonal.$P \subseteq [d]$$P$$k$$v \in S$$v$$P$$P$

Secara total, ada mungkin pilihan untuk . Dan, untuk setiap pilihan, kami memindai melalui bit dari vektor. Oleh karena itu, secara total, runtime adalah .${d \choose k}$$P$$k \cdot n$$O(k \cdot {d \choose k} \cdot n)$

Pendekatan ketiga:

Ketika , kita dapat memecahkan masalah vektor non-orthongal di waktu di mana adalah eksponen untuk perkalian matriks integer. Ketika , kita dapat memecahkan masalah vektor non-ortongal dalam waktu .$d \leq n$$O(d^{\omega - 2} \cdot n^2)$$\omega$$d > n$$O(d \cdot n^{\omega - 1})$

Catatan: Seperti yang ditunjukkan oleh @Rasmus Pagh, kita dapat meningkatkan algoritme ini menjadi saat . Lihat di sini untuk info lebih lanjut: https://arxiv.org/abs/1204.1111$O(n^{2 + o(1)})$$d \leq n^{0.3}$

Bukti. Biarkan satu set dari Boolean vektor masing-masing dengan panjang dan bilangan bulat positif diberikan.$S$$n$$d$$k$

Pertimbangkan matriks dan . Yang pertama matriks memiliki dimensi oleh mana setiap baris dari adalah vektor dari . Kedua matriks memiliki dimensi oleh di mana setiap kolom dari adalah vektor dari .$A$$B$$A$$n$$d$$A$$S$$B$$d$$n$$B$$S$

Kita dapat menghitung produk titik dari setiap pasangan vektor di dengan menghitung menggunakan algoritma untuk perkalian matriks integer cepat.$S$$A \cdot B$

Ketika , salah satu pendekatannya adalah mengubah perkalian matriks persegi panjang menjadi perkalian kuadrat dengan matriks . Dengan menggunakan perkalian matriks kuadrat cepat, kita dapat menghitung semua perkalian dalam waktu.$d \leq n$$(\frac{n}{d})^2$$d$$d$$O((\frac{n}{d})^2 \cdot d^{\omega}) = O(d^{\omega - 2} \cdot n^2)$

Ketika , salah satu pendekatan adalah untuk mengubah perkalian matriks persegi panjang menjadi perkalian persegi oleh matriks. Dengan menggunakan perkalian matriks kuadrat cepat, kita dapat menghitung semua perkalian dalam waktu.$d > n$$\frac{d}{n}$$n$$n$$O((\frac{d}{n}) \cdot n^{\omega}) = O(d \cdot n^{\omega - 1})$