Bisakah mesin Boltzmann menyimpan lebih banyak pola daripada jaring Hopfield?

_{Ini dari versi beta tertutup untuk AI, dengan pertanyaan ini diposting oleh pengguna nomor 47. Semua kredit untuk mereka.}

Menurut Wikipedia ,

Mesin Boltzmann dapat dilihat sebagai stokastik, rekanan generatif dari jaring Hopfield.

Keduanya merupakan jaringan saraf berulang yang dapat dilatih untuk mempelajari pola bit. Kemudian ketika disajikan dengan pola parsial, jaring akan mengambil pola lengkap penuh.

Jaringan Hopfield telah terbukti memiliki kapasitas 0,138 (mis. Vektor sekitar 138 bit dapat dipanggil kembali dari penyimpanan untuk setiap 1000 node, Hertz 1991).

Karena mesin Boltzmann bersifat stokastik, pemahaman saya adalah bahwa itu tidak selalu menunjukkan pola yang sama ketika perbedaan energi antara satu pola yang disimpan dan yang lain serupa. Tetapi karena stochasticity ini, mungkin memungkinkan untuk penyimpanan pola yang lebih padat tetapi tanpa jaminan Anda akan selalu mendapatkan pola "terdekat" dalam hal perbedaan energi. Apakah ini benar? Atau apakah jaring Hopfield dapat menyimpan lebih banyak pola?

Memang intuisi Anda benar, mesin Boltzmann mampu menyimpan lebih dari jaringan Hopfield dalam ingatannya karena sifatnya yang stokastik seperti yang dieksplorasi dalam makalah ini. Di koran mereka mencatat bahwa kapasitasnya sekitar 0,6. Setelah rasio ini mulai rusak dan menambahkan lebih banyak suara ke pola yang dipanggil.