Pertanyaan yang diberi tag «cross-entropy»

Dalam fungsi TensorFlow berikut, kita harus memberi makan aktivasi neuron buatan di lapisan akhir. Itu saya mengerti. Tapi saya tidak mengerti mengapa ini disebut log? Bukankah itu fungsi matematika? loss_function = tf.nn.softmax_cross_entropy_with_logits( logits = last_layer, labels = target_output )

250 tensorflow  machine-learning  neural-network  deep-learning  cross-entropy 

Saya baru-baru ini menemukan tf.nn.sparse_softmax_cross_entropy_with_logits dan saya tidak tahu apa perbedaannya dibandingkan dengan tf.nn.softmax_cross_entropy_with_logits . Apakah satu-satunya perbedaan bahwa vektor pelatihan yharus dienkode dengan one-hot saat menggunakan sparse_softmax_cross_entropy_with_logits? Membaca API, saya tidak dapat menemukan perbedaan lain apa pun dibandingkan softmax_cross_entropy_with_logits. Tapi mengapa kita membutuhkan fungsi ekstra? Tidakkah seharusnya softmax_cross_entropy_with_logitsmenghasilkan hasil …

111 neural-network  tensorflow  softmax  cross-entropy 

Saya tahu ada banyak penjelasan tentang apa itu cross-entropy, tapi saya masih bingung. Apakah ini hanya metode untuk menggambarkan fungsi kerugian? Bisakah kita menggunakan algoritma penurunan gradien untuk mencari nilai minimum menggunakan fungsi kerugian?

96 machine-learning  cross-entropy