Perbedaan antara jaringan Bayes, jaringan saraf, pohon keputusan dan jaring Petri


30

Apa perbedaan antara jaringan saraf , jaringan Bayesian , pohon keputusan dan jaring Petri , meskipun semuanya adalah model grafis dan menggambarkan secara visual hubungan sebab-akibat.


1
Perhatikan bahwa ada juga Bayesian Neural Networks (hanya untuk membingungkan), yang pada dasarnya hanya jaringan saraf dengan perlakuan parameter Bayesian, sejauh yang saya bisa lihat.
naught101

Jawaban:


27

Wow, pertanyaan besar apa! Versi singkat dari jawabannya adalah bahwa hanya karena Anda dapat mewakili dua model menggunakan representasi visual yang serupa secara diagram, tidak berarti mereka bahkan terkait secara struktural, fungsional, atau filosofis. Saya tidak terbiasa dengan FCM atau NF, tapi saya bisa berbicara dengan yang lain sedikit.

Jaringan Bayesian

Dalam jaringan Bayesian, grafik mewakili dependensi kondisional dari berbagai variabel dalam model. Setiap node mewakili variabel, dan setiap edge yang diarahkan mewakili hubungan kondisional. Pada dasarnya, model grafis adalah visualisasi dari aturan rantai.

Jaringan syaraf

Dalam jaringan saraf, setiap node adalah "neuron" yang disimulasikan. Neuron pada dasarnya hidup atau mati, dan aktivasi ditentukan oleh kombinasi linear dari nilai-nilai setiap output dalam "lapisan" jaringan sebelumnya.

Pohon Keputusan

Katakanlah kita menggunakan pohon keputusan untuk klasifikasi. Pohon itu pada dasarnya memberi kita bagan alur yang menjelaskan bagaimana kita harus mengklasifikasikan pengamatan. Kita mulai dari akar pohon, dan daun tempat kita akhirnya menentukan klasifikasi yang kita prediksi.

Seperti yang Anda lihat, ketiga model ini pada dasarnya tidak ada hubungannya sama sekali selain bisa diwakili dengan kotak dan panah.


1
Di samping teori, bukankah pohon keputusan juga menangani dependensi antar variabel dengan meludah data? Saya baru mengenal bidang pembelajaran mesin dan lebih tertarik untuk memahami secara intuitif yang juga harus digunakan dalam skenario apa. Bagi saya sepertinya Anda akan menggunakan jaringan Bayesian ketika Anda tahu hubungan yang tepat antara variabel sedangkan Anda akan menggunakan pohon Keputusan ketika Anda menebak bahwa beberapa variabel mungkin tergantung pada orang lain tetapi tidak tahu persis yang mana. Ingin tahu apakah ini tampaknya benar atau apakah penerapan jaringan Bayesian dan pohon keputusan dapat dijelaskan lebih terinci.
Deepak Agarwal

Saya benar-benar berpikir jawabannya harus menunjuk pada perbedaan dan kesamaan untuk membuat sketsa gambaran yang lebih besar, yang menyatakan bahwa "ketiga model ini pada dasarnya tidak ada hubungannya sama sekali" adalah salah. Decision Tree dan Neural Networks menggunakan pendekatan diskriminatif yang sama, dibandingkan dengan pendekatan generatif BN. Sementara dua lainnya mewakili fungsi, Bayesian Networks mewakili fungsi umum (distribusi), ...
Lejafar

1
Perbedaan descriminative vs generative yang Anda buat di sini salah. Jaringan saraf dapat digunakan untuk membangun model generatif. Pertimbangkan GAN misalnya. Jawaban saya cukup karena pertanyaannya adalah "model-model ini diwakili secara visual dengan cara yang sama, apakah itu berarti mereka secara struktural serupa?" dan saya menjelaskan bagaimana representasi grafis ini menyandikan informasi yang sangat berbeda.
David Marx

1
Jangan ragu untuk menambahkan jawaban Anda sendiri.
David Marx

2
@Lejafar, jangan gunakan suntingan untuk mengubah konten jawaban orang lain. Jika Anda tidak setuju dengan jawaban, tinggalkan komentar, turunkan suara, atau posting jawaban Anda sendiri.
gung - Reinstate Monica

5

Mudah untuk menunjukkan (lihat kursus Daphne Koller ) bahwa Regresi Logistik adalah versi terbatas dari Bidang Acak Bersyarat, yang merupakan model grafis tidak terarah, sementara Bayesian Networks adalah model grafis terarah. Kemudian, Regresi Logistik juga dapat dilihat sebagai perceptron lapisan tunggal. Ini adalah satu-satunya tautan (yang sangat longgar) yang saya pikir dapat ditarik antara Bayesian Networks dan Neural Networks.

Saya belum menemukan hubungan antara konsep-konsep lain yang Anda tanyakan.


2
Selamat datang di situs ini, & terima kasih atas kontribusi ini. Bisakah Anda menguraikan bagaimana mudahnya melihat ini? Saat ini, ini hanya klaim yang mungkin tidak jelas bagi orang. Info mungkin ada di tautan, tetapi kami ingin utas ini tetap informatif bahkan setelah tautan mati.
gung - Reinstate Monica

Hai, terima kasih! Saya tidak yakin seberapa bagus penjelasannya (butuh Daphne setidaknya setengah jam untuk menyiapkan buktinya) dan itu tidak terlalu segar dalam pikiran saya juga, tetapi ide umumnya adalah bahwa model logistik adalah versi yang disederhanakan dari Distribusi Gibbs, yang pada gilirannya merupakan dasar CRF.
Octavia-Maria Șulea

1
Apa arti crf? Apakah crf = bidang acak bersyarat?
Ted Taylor of Life

2

Jawaban luar biasa oleh @ David Marx. Saya telah bertanya-tanya, apa perbedaan antara pohon Klasifikasi / Regresi dan jaringan Bayesian. Salah satu dibangun di atas entropi untuk mengklasifikasikan hasil ke dalam kelas berdasarkan prediktor yang berbeda dan yang lainnya membangun jaringan grafis menggunakan independensi kondisional dan perkiraan parameter probabilistik.

Saya merasa bahwa metodologi membangun jaringan Bayesian berbeda dibandingkan dengan pohon Regresi / Keputusan. Algoritma untuk pembelajaran struktural, tujuan untuk menggunakan model serta kemampuan inferensial model berbeda.

Pendekatan berbasis skor dan berbasis kendala dapat dipahami dengan beberapa persamaan yang digambar dengan kriteria perolehan informasi dalam keluarga pohon keputusan.


1

Pertama-tama kami mencoba untuk menyatakan sifat masalah yang berusaha dipecahkan dengan metode ini. Jika masalah langsung, Polinomial atau NP Lengkap, kami telah siap untuk memasang algoritma yang dapat memberikan jawaban deterministik, dengan rekombinasi sederhana aksioma di sepanjang aturan logis. Namun, jika bukan itu masalahnya, kita harus bergantung pada metode penalaran, di mana, kita berusaha untuk memperlakukan masalah sebagai heterogen dan menghubungkannya ke jaringan, node sedang dievaluasi dan ujungnya menjadi jalur antara komponen .

Dalam segala jenis penalaran berbasis jaringan, kami tidak beralasan secara deduktif, dengan menggunakan generalisasi dan kombinasi abstrak, sesuai dengan aturan logis dalam aliran linier, melainkan mengerjakan masalah berdasarkan propagasi penalaran dalam arah yang berbeda, sehingga kami menyelesaikan masalah satu simpul pada satu waktu, terbuka untuk perbaikan pada penemuan fakta baru tentang setiap simpul di masa depan Sekarang mari kita lihat bagaimana masing-masing teknik mendekati metode pemecahan masalah dengan cara mereka sendiri.

Jaringan Saraf Tiruan: Jaringan Saraf Tiruan adalah kotak hitam, di mana diyakini (tidak pernah dapat diverifikasi dari luar sistem) bahwa koneksi di antara simpul sederhana dibentuk dan ditekankan oleh bala bantuan eksternal berulang. Ini mendekati masalah dalam paradigma Connectionsitic . Masalahnya mungkin diselesaikan, tetapi ada sedikit penjelasan. Jaring saraf sekarang banyak digunakan karena kemampuannya untuk menghasilkan hasil yang cepat, jika masalah dengan keterjelasan diabaikan.

Jaringan Bayesian: Bayesian Network adalah grafik asiklik terarah, yang lebih mirip diagram alur, hanya bahwa diagram alir dapat memiliki loop siklik. Jaringan Bayesian tidak seperti diagram alur dapat memiliki beberapa titik awal. Ini pada dasarnya melacak penyebaran peristiwa di beberapa titik ambigu, di mana peristiwa itu berpisah secara probabilistik antara jalur. Jelas, pada titik tertentu dalam jaringan, probabilitas simpul yang dikunjungi bergantung pada probabilitas gabungan dari simpul sebelumnya. Jaringan Bayesian berbeda dari Jaringan Syaraf Tiruan dalam hal itu adalah penalaran eksplisit, meskipun probabilistik dan karenanya dapat memiliki beberapa negara stabil berdasarkan pada setiap langkah yang ditinjau kembali dan dimodifikasi dalam nilai-nilai hukum, seperti algoritma. Ini adalah cara yang kuat untuk bernalar secara probabilistik, tetapi melibatkan penyandian probabilitas,

Pohon Keputusan: Pohon Keputusan lagi-lagi sebuah jaringan, yang lebih mirip bagan alur, yang lebih dekat ke jaringan Bayesian daripada jaring saraf. Setiap node memiliki kecerdasan lebih dari neural net dan percabangan dapat diputuskan dengan evaluasi matematika atau probabilistik. Keputusan adalah evaluasi langsung berdasarkan distribusi frekuensi dari peristiwa yang mungkin terjadi, di mana keputusan itu probabilistik. Namun, dalam jaringan Bayesian, keputusan didasarkan pada distribusi 'bukti' yang menunjuk ke suatu peristiwa yang terjadi, bukan pengamatan langsung dari peristiwa itu sendiri.

Contoh Sebagai contoh, jika kita memperkirakan pergerakan harimau pemakan manusia di beberapa desa Himalaya yang kebetulan berada di tepi beberapa cadangan harimau, kita dapat memodelkannya pada pendekatan mana pun sebagai berikut:

Dalam pohon keputusan, kami akan bergantung pada perkiraan para ahli apakah seekor harimau akan diberikan pilihan antara ladang terbuka atau sungai yang akan memilih pada yang terakhir. Dalam jaringan Bayesian, Kami melacak harimau dengan tanda pesek, tetapi beralasan dengan cara yang mengakui bahwa tanda pesek ini mungkin milik harimau berukuran serupa yang secara rutin berpatroli di wilayahnya. Jika kita ingin menggunakan jaring saraf, kita harus melatih model berulang kali menggunakan berbagai keanehan perilaku harimau secara umum, seperti preferensi untuk berenang, preferensi daerah tertutup di atas area terbuka, penghindaran tempat tinggal manusia untuk memungkinkan jaringan untuk secara umum beralasan selama mungkin mengambil harimau.


0

Mengenai model grafis, Petri Net meresmikan perilaku sistem; dalam hal itu sangat berbeda dari sisa model yang disebutkan, yang semuanya berhubungan dengan bagaimana penilaian dibentuk.

Patut dicatat bahwa sebagian besar nama yang dikutip menunjuk konsep AI yang cukup luas, yang sering menyatu: misalnya, Anda dapat menggunakan Neural Network untuk membangun pohon keputusan, sedangkan Neural Network sendiri, sebagai posting sebelumnya yang dibahas, mungkin bergantung pada Bayesian kesimpulan.


-3

Ini pertanyaan yang bagus dan saya sudah bertanya pada diri sendiri sama. Ada lebih dari dua jenis jaringan saraf, dan tampaknya jawaban sebelumnya membahas jenis kompetitif, sedangkan jaringan Bayesian tampaknya memiliki kesamaan dengan jenis umpan-maju, back-propagasi (FFBP), dan bukan jenis kompetitif. Bahkan, saya akan mengatakan jaringan Bayesian adalah generalisasi dari FFBP. Jadi FFBP adalah jenis jaringan Bayesian dan bekerja dengan cara yang serupa.

Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.