Penjelasan fungsi Yolo Loss

16

Saya mencoba memahami fungsi kehilangan Yolo v2:

\begin{aligned} λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(x_{i} - {\hat{x}}_{i})^{2} + (y_{i} - {\hat{y}}_{i})^{2}] \\ + λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(\sqrt{w_{i}} - \sqrt{{\hat{w}}_{i}})^{2} + (\sqrt{h_{i}} - \sqrt{{\hat{h}}_{i}})^{2}] \\ + \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} (C_{i} - {\hat{C}}_{i})^{2} + λ_{n o o b j} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{n o o b j} (C_{i} - {\hat{C}}_{i})^{2} \\ + \sum_{i = 0}^{S^{2}} 1_{i}^{o b j} \sum_{c \in c l a s s e s} (p_{i} (c) - {\hat{p}}_{i} (c))^{2} \end{aligned}

$\begin{align} &\lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(x_i-\hat{x}_i)^2 + (y_i-\hat{y}_i)^2 ] \\&+ \lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(\sqrt{w_i}-\sqrt{\hat{w}_i})^2 +(\sqrt{h_i}-\sqrt{\hat{h}_i})^2 ]\\ &+ \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}(C_i - \hat{C}_i)^2 + \lambda_{noobj}\sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{noobj}(C_i - \hat{C}_i)^2 \\ &+ \sum_{i=0}^{S^2} \mathbb{1}_{i}^{obj}\sum_{c \in classes}(p_i(c) - \hat{p}_i(c))^2 \\ \end{align}$

Jika ada orang yang bisa memerinci fungsinya.

— Kamel BOUYACOUB
sumber

5

tidak ada yang bisa membantu Anda tanpa konteks ... setidaknya beri tahu kami dari makalah ini.

— bdeonovic

1

"Saya tidak mengerti" dan "merinci fungsi" terlalu luas. Cobalah mengidentifikasi pertanyaan tertentu. Perhatikan bahwa sudah ada banyak pertanyaan yang berkaitan dengan Yolo , beberapa di antaranya mungkin memberi Anda setidaknya sebagian dari apa yang Anda cari

— Glen_b -Reinstate Monica

1

Saya akan menambahkan jawaban saya jika Anda menunjuk pada apa yang tidak jelas dari penjelasan yang sangat baik ini: medium.com/@jonathan_hui/…

— Aksakal

1

Dalam blog ini disini ada penjelasan grafis rinci Yolo dan yolov2. Itu menjawab pertanyaan tentang fungsi kerugian. Jika itu sangat berguna untuk pemula dan pengguna yang lebih maju.

— MBoaretto

18

Penjelasan dari berbagai istilah:

Konstanta 3 hanyalah konstanta untuk memperhitungkan lebih satu aspek dari fungsi kerugian. Dalam artikel adalah yang tertinggi untuk memiliki kepentingan lebih dalam istilah pertama $\lambda$ $\lambda_{coord}$
Prediksi YOLO adalah vektor: prediksi BBOX untuk setiap sel grid dan prediksi kelas untuk setiap sel grid (di mana adalah jumlah kelas). Output 5 bbox dari kotak j sel i adalah koordinat pusat tte bbox , tinggi , lebar dan indeks kepercayaan $S*S*(B*5+C)$ $B$ $C$ $C$ $x_{ij}$ $y_{ij}$ $h_{ij}$ $w_{ij}$ $C_{ij}$
Saya membayangkan bahwa nilai-nilai dengan topi adalah yang asli dibaca dari label dan yang tanpa topi adalah yang diprediksi. Jadi, apa nilai sebenarnya dari label untuk skor kepercayaan untuk setiap bbox ? Ini adalah persimpangan atas penyatuan kotak terikat yang diprediksi dengan yang dari label. $\hat{C}_{ij}$
$\mathbb{1}_{i}^{obj}$ adalah ketika ada objek di sel dan tempat lain $1$ $i$ $0$
$\mathbb{1}_{ij}^{obj}$ "menunjukkan bahwa prediktor kotak terikat ke- dalam sel bertanggung jawab atas prediksi itu". Dengan kata lain, itu sama dengan jika ada objek dalam sel dan kepercayaan dari prediktor sel ini adalah yang tertinggi di antara semua prediktor sel ini. hampir sama kecuali nilainya 1 ketika tidak ada objek di sel $j$ $i$ $1$ $i$ $j$ $\mathbb{1}_{ij}^{noobj}$ $i$

Perhatikan bahwa saya menggunakan dua indeks dan untuk setiap prediksi bbox, ini tidak terjadi dalam artikel karena selalu ada faktor atau sehingga tidak ada interpretasi ambigus: dipilih adalah yang sesuai dengan skor kepercayaan tertinggi dalam sel itu. $i$ $j$ $\mathbb{1}_{ij}^{obj}$ $\mathbb{1}_{ij}^{noobj}$ $j$

Penjelasan yang lebih umum tentang setiap istilah jumlah:

istilah ini menghukum pelokalan pusat sel yang buruk
istilah ini menghukum kotak terikat dengan tinggi dan lebar inacurate. Root kuadrat hadir sehingga eror dalam kotak pembatas kecil lebih menghukum daripada kesalahan dalam kotak pembatas besar.
istilah ini mencoba membuat skor kepercayaan sama dengan IOU antara objek dan prediksi ketika ada satu objek
Berusaha membuat skor kepercayaan mendekati ketika tidak ada objek di dalam sel $0$
Ini adalah kerugian klasifikasi sederhana (tidak dijelaskan dalam artikel)

— pengguna7573566
sumber

1

Apakah poin kedua seharusnya B*(5+C)? Atleast itulah yang terjadi untuk YOLO v3.

— sachinruk

@sachinruk ini mencerminkan perubahan dalam model antara YOLO asli dan v2 dan v3.

— David Refaeli

12

\begin{aligned} λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(x_{i} - {\hat{x}}_{i})^{2} + (y_{i} - {\hat{y}}_{i})^{2}] \\ + λ_{c o o r d} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} [(\sqrt{w_{i}} - \sqrt{{\hat{w}}_{i}})^{2} + (\sqrt{h_{i}} - \sqrt{{\hat{h}}_{i}})^{2}] \\ + \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{o b j} (C_{i} - {\hat{C}}_{i})^{2} + λ_{n o o b j} \sum_{i = 0}^{S^{2}} \sum_{j = 0}^{B} 1_{i j}^{n o o b j} (C_{i} - {\hat{C}}_{i})^{2} \\ + \sum_{i = 0}^{S^{2}} 1_{i}^{o b j} \sum_{c \in c l a s s e s} (p_{i} (c) - {\hat{p}}_{i} (c))^{2} \end{aligned}

$\begin{align} &\lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(x_i-\hat{x}_i)^2 + (y_i-\hat{y}_i)^2 ] \\&+ \lambda_{coord} \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}[(\sqrt{w_i}-\sqrt{\hat{w}_i})^2 +(\sqrt{h_i}-\sqrt{\hat{h}_i})^2 ]\\ &+ \sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{obj}(C_i - \hat{C}_i)^2 + \lambda_{noobj}\sum_{i=0}^{S^2}\sum_{j=0}^B \mathbb{1}_{ij}^{noobj}(C_i - \hat{C}_i)^2 \\ &+ \sum_{i=0}^{S^2} \mathbb{1}_{i}^{obj}\sum_{c \in classes}(p_i(c) - \hat{p}_i(c))^2 \\ \end{align}$

Bukankah fungsi Kehilangan YOLOv2 terlihat menakutkan? Sebenarnya tidak! Ini adalah salah satu fungsi kehilangan paling berani dan paling cerdas di sekitar.

Pertama mari kita lihat apa yang diprediksi oleh jaringan.

Jika kami rekap, YOLOv2 memprediksi deteksi pada peta fitur 13x13, jadi secara total, kami memiliki 169 peta / sel.

Kami memiliki 5 kotak jangkar. Untuk setiap kotak jangkar, kita memerlukan Skor Keberatan-Keyakinan (apakah ada benda yang ditemukan?), 4 Koordinat ( dan ) untuk kotak jangkar, dan 20 kelas atas. Ini secara kasar dapat dilihat sebagai 20 koordinat, 5 skor kepercayaan, dan 100 probabilitas kelas untuk semua 5 prediksi kotak jangkar disatukan. $t_x, t_y, t_w,$ $t_h$

Kami memiliki beberapa hal yang perlu dikhawatirkan:

$x_i, y_i$ , yang merupakan lokasi pusat massa dari kotak jangkar
$w_i, h_i$ , yang merupakan lebar dan tinggi kotak jangkar
$C_i$ , yang merupakan Objectness , yaitu skor kepercayaan apakah ada objek atau tidak, dan
$p_i(c)$ , yang merupakan klasifikasi kerugian.
Kita tidak hanya perlu melatih jaringan untuk mendeteksi suatu objek jika ada objek dalam sel, kita juga perlu menghukum jaringan, itu jika memprediksi objek dalam sel, ketika tidak ada. Bagaimana kita melakukan ini? Kami menggunakan mask ( dan ) untuk setiap sel. Jika pada awalnya ada objek adalah 1 dan sel-sel no-objek lainnya adalah 0. hanya kebalikan dari , di mana itu adalah 1 jika tidak ada objek di dalam sel dan 0 jika ada. $𝟙_{i}^{obj}$ $𝟙_{i}^{noobj}$ $𝟙_{i}^{obj}$ $𝟙_{i}^{noobj}$ $𝟙_{i}^{obj}$
Kita perlu melakukan ini untuk semua 169 sel, dan
Kita perlu melakukan ini 5 kali (untuk setiap kotak jangkar).

Semua kerugian adalah kesalahan kuadrat-rata , kecuali kerugian klasifikasi, yang menggunakan fungsi lintas-entropi .

Sekarang, mari kita pecahkan kode pada gambar.

Kita perlu menghitung kerugian untuk setiap Kotak Anchor (total 5)
- $\sum_{j=0}^B$ mewakili bagian ini, di mana B = 4 (5 - 1, karena indeks dimulai dari 0)
Kita perlu melakukan ini untuk masing-masing sel 13x13 di mana S = 12 (karena kita mulai indeks dari 0)
- $\sum_{i=0}^{S^2}$ mewakili bagian ini.
$𝟙_{ij}^{obj}$ adalah 1 ketika ada objek di dalam sel , kalau tidak 0. $i$
$𝟙_{ij}^{noobj}$ adalah 1 ketika tidak ada objek di sel , itu 0. $i$
$𝟙_{i}^{obj}$ adalah 1 ketika diprediksi ada kelas tertentu, kalau tidak 0.
λs adalah konstanta. λ adalah yang tertinggi untuk koordinat untuk lebih fokus pada deteksi (ingat, di YOLOv2, pertama-tama kita melatihnya untuk pengakuan dan kemudian untuk deteksi, menghukum berat karena pengakuan adalah buang-buang waktu, alih-alih kita fokus untuk mendapatkan kotak pembatas terbaik!)
Kita juga dapat memperhatikan bahwa berada di bawah akar kuadrat. Ini dilakukan untuk menghukum kotak yang lebih kecil karena kita membutuhkan prediksi yang lebih baik pada objek yang lebih kecil daripada pada objek yang lebih besar (panggilan penulis). Lihatlah tabel di bawah ini dan amati bagaimana nilai-nilai yang lebih kecil dihukum lebih banyak jika kita mengikuti metode "akar kuadrat" (lihat titik belok ketika kita memiliki 0,3 dan 0,2 sebagai nilai input) (PS: Saya telah menjaga rasio var1 dan var2 sama hanya untuk penjelasan): $w_i, h_i$

var1 | var2 | (var1 - var2) ^ 2 | (sqrtvar1 - sqrtvar2) ^ 2

0,0300 | 0,020 | 9.99e-05 | 0,001

0,0330 | 0,022 | 0,00012 | 0,0011

0,0693 | 0,046 | 0,000533 | 0,00233

0,2148 | 0,143 | 0,00512 | 0,00723

0,3030 | 0,202 | 0,01 | 0,01

0.8808 | 0,587 | 0,0862 | 0,0296

4.4920 | 2.994 | 2.2421 | 0,1512

Tidak seram itu, benar!

Baca DI SINI untuk detail lebih lanjut.

— RShravan
sumber

1

Haruskah i dan j in \ sum mulai dari 1 bukannya 0?

— webbertiger

1

Ya, itu webertiger yang benar, telah memperbarui jawabannya. Terima kasih!

— RShravan

Bukankah 1 ketika ada objek di sel i dari kotak pembatas j? dan tidak untuk semua j? bagaimana kita memilih j mana yang diatur menjadi satu dan sisanya menjadi nol. yaitu apa skala / jangkar yang benar di mana dihidupkan.

1_{i j}^{o b j}

$\mathbb{1}_{ij}^{obj}$

— sachinruk

1

Saya percaya S harus tetap 13 tetapi jika penjumlahan dimulai pada 0 itu harus diakhiri dengan

S^{2} - 1

$S^2 -1$

— Julian

3

@RShravan, Anda berkata: "Semua kerugian adalah kesalahan kuadrat-rata, kecuali kerugian klasifikasi, yang menggunakan fungsi lintas-entropi". Bisakah Anda jelaskan? Dalam persamaan ini, juga terlihat sebagai MSE. Terima kasih sebelumnya

— Julian

3

Fungsi kerugian Anda adalah untuk YOLO v1 dan bukan YOLO v2. Saya juga bingung dengan perbedaan dalam dua fungsi kerugian dan sepertinya banyak orang adalah: https://groups.google.com/forum/#!topic/darknet/TJ4dN9R4iJk

Makalah YOLOv2 menjelaskan perbedaan arsitektur dari YOLOv1 sebagai berikut:

Kami menghapus lapisan yang sepenuhnya terhubung dari YOLO (v1) dan menggunakan kotak jangkar untuk memprediksi kotak yang terikat ... Ketika kami pindah ke kotak jangkar, kami juga memisahkan mekanisme prediksi kelas dari lokasi spasial dan sebagai gantinya memprediksi kelas dan objek untuk setiap kotak jangkar.

Ini berarti bahwa probabilitas kepercayaan atas harus bergantung tidak hanya pada dan tetapi juga indeks kotak jangkar, katakanlah . Karena itu, kerugiannya harus berbeda dari yang di atas. Sayangnya, kertas YOLOv2 tidak secara eksplisit menyatakan fungsi kerugiannya. $p_i(c)$ $i$ $c$ $j$

Saya mencoba menebak fungsi kehilangan YOLOv2 dan membahasnya di sini: https://fairyonice.github.io/Part_4_Object_Detection_with_Yolo_using_VOC_2012_data_loss.html

— FairyOnIce
sumber

1

Ini Catatan Belajar saya

Fungsi kerugian: jumlah kesalahan kuadrat

Sebuah. Alasan: Mudah dioptimalkan b. Masalah: (1) Tidak sejajar dengan tujuan kami untuk memaksimalkan presisi rata-rata. (2) Di setiap gambar, banyak sel kotak tidak mengandung objek apa pun. Ini mendorong skor kepercayaan sel-sel tersebut ke 0, seringkali mengalahkan gradien dari sel yang memang mengandung objek. c. Solusi: tingkatkan kerugian dari prediksi kotak terikat dan kurangi kerugian dari prediksi kepercayaan dari kotak yang tidak mengandung objek. Kami menggunakan dua parameter dan = 0,5 d. Sum-kuadrat kesalahan juga sama-sama bobot kesalahan dalam kotak besar dan kotak kecil
$λ_{c o o r d} = 5$ $\lambda_{coord} = 5$ $\lambda_{noobj}$
Hanya satu kotak berlari yang harus bertanggung jawab untuk setiap obejct. Kami menetapkan satu prediktor untuk bertanggung jawab dalam memprediksi objek berdasarkan prediksi mana yang memiliki IOU tertinggi saat ini dengan kebenaran dasar.

Sebuah. Kehilangan dari koordinat kotak terikat (x, y) Perhatikan bahwa kerugian berasal dari satu kotak pembatas dari satu sel kisi. Bahkan jika obj tidak di sel jaringan sebagai kebenaran dasar.

{\begin{cases} λ_{c o o r d} \sum_{i = 0}^{S^{2}} [(x_{i} - {\hat{x}}_{i})^{2} + (y_{i} - \hat{y_{i}})^{2}] & responsible bounding box \\ 0 & other \end{cases}

$\begin{cases} \lambda_{coord} \sum^{S^2}_{i=0} [(x_i - \hat{x}_i)^2 + (y_i - \hat{y_i})^2] &\text{responsible bounding box} \\ 0 &\text{ other} \\ \end {cases}$

b. Kehilangan lebar w dan tinggi h. Perhatikan bahwa kerugian berasal dari satu kotak pembatas dari satu sel kotak, bahkan jika objek tidak dalam sel kotak sebagai kebenaran dasar.

{\begin{cases} λ_{c o o r d} \sum_{i = 0}^{S^{2}} [(\sqrt{w_{i}} - \sqrt{{\hat{w}}_{i}})^{2} + (\sqrt{h_{i}} - \sqrt{{\hat{h}}_{i}})^{2}] & responsible bounding box \\ 0 & other \end{cases}

$\begin {cases} \lambda_{coord} \sum^{S^2}_{i=0} [(\sqrt{w_i} - \sqrt{\hat{w}_i})^2 + (\sqrt{h_i} - \sqrt{\hat{h}_i})^2] &\text{responsible bounding box} \\ 0 &\text{ other} \\ \end {cases}$

c. Kehilangan kepercayaan diri di setiap kotak terikat. Bukan berarti kerugian berasal dari satu kotak pembatas dari satu cel grid, bahkan jika objek tidak dalam sel grid sebagai kebenaran dasar.

{\begin{cases} \sum_{i = 0}^{S^{2}} (C_{i} - {\hat{C}}_{i})^{2} & obj in grid cell and responsible bounding box \\ λ_{n o o b j} \sum_{i = 0}^{S^{2}} (C_{i} - {\hat{C}}_{i})^{2} & obj not in grid cell and responsible bounding box \\ 0 & other \end{cases}

$\begin {cases} \sum^{S^2}_{i=0}(C_i - \hat{C}_i)^2 &\text{obj in grid cell and responsible bounding box} \\ \lambda_{noobj} \sum^{S^2}_{i=0}(C_i - \hat{C}_i)^2 &\text{obj not in grid cell and responsible bounding box} \\ 0 &\text{other} \end {cases}$ d. Kehilangan dari probabilitas kelas sel jaringan , hanya ketika objek berada di sel jaringan sebagai kebenaran dasar.

{\begin{cases} \sum_{i = 0}^{S^{2}} \sum_{c \in c l a s s e s} (p_{i} (c) - {\hat{p}}_{i} (c))^{2} & obj in grid cell \\ 0 & other \end{cases}

$\begin {cases} \sum^{S^2}_{i=0} \sum_{c \in classes} (p_i(c) - \hat{p}_i(c))^2 &\text{obj in grid cell}\\ 0 &\text{other} \\ \end {cases}$

Fungsi kerugian hanya menghukum klasifikasi jika obj ada dalam sel grid. Ini juga menghukum koordinat kotak pembatas jika kotak itu bertanggung jawab atas kotak dasar (IOU tertinggi)

— Roy
sumber

Pertanyaan tentang 'C', di koran, kepercayaan adalah nilai objek-atau-tidak ada yang dihasilkan dikalikan dengan IOU; apakah itu hanya untuk waktu ujian atau apakah yang digunakan untuk fungsi biaya pelatihan juga? Saya pikir kami hanya mengurangi nilai C dari output dan label (seperti yang kami lakukan dengan nilai kisi), tetapi itu tidak benar?

— moondra

0

Rumus kehilangan yang Anda tulis adalah kehilangan kertas YOLO asli , bukan kerugian v2, atau v3.

Ada beberapa perbedaan utama antar versi. Saya sarankan membaca surat kabar, atau memeriksa implementasi kode. Makalah: v2 , v3 .

Beberapa perbedaan utama yang saya perhatikan:

Probabilitas kelas dihitung per kotak pembatas (karenanya output sekarang S ∗ S ∗ B * (5 + C) bukan S S (B * 5 + C))
Koordinat kotak batas sekarang memiliki representasi yang berbeda
Di v3 mereka menggunakan 3 kotak di 3 "skala" yang berbeda

Anda dapat mencoba masuk ke detail seluk-beluk kerugian, baik dengan melihat implementasi python / keras v2 , v3 (mencari fungsi yolo_loss) atau langsung di c implementasi v3 (mencari delta_yolo_box, dan delta_yolo_class).

— David Refaeli
sumber