" Apakah ada yang tepat, yaitu numerik, definisi untuk sparsity? " Dan secara numerik , saya mengerti baik yang dapat dihitung , dan secara praktis "dapat digunakan". Menurut saya adalah: belum, setidaknya, tidak ada konsensus, namun ada beberapa pesaing yang layak. Pilihan pertama " hitung hanya bukan nol istilah " adalah tepat, tetapi tidak efisien (sensitif terhadap perkiraan numerik dan kebisingan, dan sangat kompleks untuk dioptimalkan). Pilihan kedua " sebagian besar elemen sinyal adalah nol atau mendekati nol " agak tidak tepat, baik pada "sebagian besar" dan "dekat dengan".
Jadi " ukuran yang tepat dari sparsity " tetap sulit dipahami, tanpa aspek yang lebih formal. Satu upaya baru-baru ini untuk mendefinisikan sparsity dilakukan di Hurley dan Rickard, 2009 Membandingkan Ukuran Sparsity , Transaksi IEEE pada Teori Informasi.
Gagasan mereka adalah menyediakan seperangkat aksioma yang harus dipenuhi oleh tindakan sparsity yang baik ; misalnya, sinyal x dikalikan dengan konstanta bukan nol, α x , harus memiliki sparsitas yang sama. Dengan kata lain, ukuran sparsity harus 0 homogen. Lucunya, proxy ℓ1 dalam penginderaan tekan, atau dalam regresi laso adalah 1 homogen. Ini memang kasus untuk setiap norma atau quasi-norm ℓhal , bahkan jika mereka cenderung ke ukuran penghitungan (tidak kuat) ℓ0 sebagai p → 0 .
Jadi mereka merinci enam aksioma mereka, melakukan perhitungan, meminjam dari analisis kekayaan:
- Robin Hood (ambil dari yang kaya, berikan kepada yang miskin mengurangi kekurangan),
- Penskalaan (perkalian konstan menjaga sparsity),
- Rising Tide (menambahkan akun bukan nol yang sama mengurangi sparsity),
- Kloning (duplikasi data menjaga sparsity),
- Bill Gates (Seorang pria yang semakin kaya meningkatkan kesederhanaan),
- Bayi (menambahkan nilai nol meningkatkan kesederhanaan)
ℓ1/ ℓ2halq ℓhal/ ℓqx0 < p ≤ q
1≤ℓp(x)ℓq(x)≤ℓ0(x)1/p−1/q
1x
c(k)Cα.(k)−αα