Apa yang membuat jaringan saraf begitu baik dalam prediksi?

Saya baru mengenal jaringan saraf dan saya mencoba memahami secara matematis apa yang membuat jaringan saraf begitu bagus dalam masalah klasifikasi.

Dengan mengambil contoh jaringan saraf kecil (misalnya, satu dengan 2 input, 2 node dalam lapisan tersembunyi dan 2 node untuk output), semua yang Anda miliki adalah fungsi kompleks pada output yang sebagian besar sigmoid melalui kombinasi linear sigmoid tersebut.

Jadi, bagaimana itu membuat mereka pandai prediksi? Apakah fungsi akhir mengarah ke semacam pemasangan kurva?

Jaringan saraf pandai mengklasifikasikan. Dalam beberapa situasi yang datang ke prediksi, tetapi belum tentu.

Alasan matematika untuk kecakapan jaringan saraf dalam mengklasifikasikan adalah teorema aproksimasi universal . Yang menyatakan bahwa jaringan syaraf dapat mendekati fungsi bernilai real kontinu pada subset kompak. Kualitas perkiraan tergantung pada jumlah neuron. Juga telah ditunjukkan bahwa menambahkan neuron pada lapisan tambahan alih-alih menambahkannya ke lapisan yang ada meningkatkan kualitas perkiraan lebih cepat.

Tambahkan ke bahwa efektivitas yang tidak dipahami dengan baik dari algoritma backpropagation dan Anda memiliki setup kemudian benar-benar dapat mempelajari fungsi yang dijanjikan UAT atau sesuatu yang dekat.

Di Neural Networks, kami mempertimbangkan semuanya dalam dimensi tinggi dan mencoba menemukan hyperplane yang mengklasifikasikannya dengan perubahan kecil ...

Mungkin sulit untuk membuktikan bahwa itu bekerja tetapi intuisi mengatakan jika itu dapat diklasifikasikan, Anda dapat melakukannya dengan menambahkan bidang yang santai dan membiarkannya bergerak di antara data untuk menemukan optimal lokal ...

Dengan Neural Networks Anda cukup mengelompokkan data. Jika Anda mengklasifikasikan dengan benar, maka Anda dapat melakukan klasifikasi di masa depan.

Bagaimana itu bekerja?

Jaringan saraf sederhana seperti Perceptron dapat menggambar satu batas keputusan untuk mengklasifikasikan data.

Misalnya Anda ingin menyelesaikan masalah DAN sederhana dengan Jaringan Saraf Tiruan yang sederhana. Anda memiliki 4 sampel data yang mengandung x1 dan x2 dan vektor bobot yang mengandung w1 dan w2. Misalkan vektor bobot awal adalah [0 0]. Jika Anda membuat perhitungan yang tergantung pada algoritma NN. Pada akhirnya, Anda harus memiliki vektor bobot [1 1] atau sesuatu seperti ini.

Harap fokus pada grafik.

Dikatakan: Saya dapat mengklasifikasikan nilai input menjadi dua kelas (0 dan 1). Baik. Lalu bagaimana saya bisa melakukan ini? Itu terlalu sederhana. Nilai input penjumlahan pertama (x1 dan x2).

0 + 0 = 0

0 +1 = 1

1 + 0 = 1

1 + 1 = 2

Ia mengatakan:

jika jumlah <1,5 maka kelasnya adalah 0

jika jumlah> 1,5 maka kelasnya adalah 1

Jaringan saraf unggul dalam berbagai tugas, tetapi untuk mendapatkan pemahaman tentang mengapa, mungkin lebih mudah untuk mengambil tugas tertentu seperti klasifikasi dan menyelam lebih dalam.

Dalam istilah sederhana, teknik pembelajaran mesin mempelajari suatu fungsi untuk memprediksi kelas mana yang dimiliki input tertentu, tergantung pada contoh masa lalu. Apa yang membedakan jaring saraf adalah kemampuan mereka untuk membangun fungsi-fungsi ini yang dapat menjelaskan bahkan pola yang rumit dalam data. Jantung dari jaringan saraf adalah fungsi aktivasi seperti Relu, yang memungkinkannya untuk menggambar beberapa batasan klasifikasi dasar seperti:

Dengan menyusun ratusan Relus tersebut bersama-sama, jaringan saraf dapat membuat batas klasifikasi yang rumit, misalnya:

Dalam artikel ini, saya mencoba menjelaskan intuisi di balik apa yang membuat jaringan saraf berfungsi: https://medium.com/machine-intelligence-report/how-do-neural-networks-work-57d1ab5337ce