Seberapa banyak masalah white noise untuk penggunaan DNN di dunia nyata?

Saya membaca bahwa jaringan saraf yang dalam dapat relatif mudah dibodohi ( tautan ) untuk memberikan kepercayaan tinggi dalam pengakuan gambar sintetis / buatan yang sepenuhnya (atau setidaknya sebagian besar) di luar subjek kepercayaan.

Secara pribadi, saya tidak benar-benar melihat masalah besar dengan DNN memberikan kepercayaan diri yang tinggi pada gambar sintetis / buatan tapi saya pikir memberikan kepercayaan diri yang tinggi untuk white noise ( tautan ) mungkin menjadi masalah karena ini adalah fenomena yang benar-benar alami yang mungkin dilihat kamera di dunia nyata.

Seberapa banyak masalah white noise untuk penggunaan DNN di dunia nyata? Dapatkah kesalahan positif seperti itu terdeteksi dari kebisingan biasa dapat dicegah?

White noise yang membodohi DNNs bukan white noise. Ini telah diubah dengan cara yang sama seperti gambar kesalahan klasifikasi sintetis telah diubah. Anda harus mengubah banyak piksel input sedemikian rupa sehingga perubahan kecil ini tidak terlihat, tetapi diperbanyak melalui jaringan menambah kesalahan klasifikasi. Ini tidak akan terjadi secara kebetulan.